무슨 이야기를 하던 중이었는지는 모르겠지만, 아무튼 이야기 중에 토요일 등교 이야기가 나왔다. 무슨 이야기든 심드렁할 때가 많은 첫째가 금방 눈을 밝히며 달려들었다. 그러니깐. 나는 얘네들(친동생, 사촌 동생 둘)하고는 다르다고. 나는 토요일에 학교 갔다니깐.
그랬다. 첫째가 초등학교에 들어갔을 때만 해도 한 달에 두 번은 학교를 가야 했다. 1교시 정도 수업을 하는 둥 마는 둥 보내고, 크게 토의할 일 없는 학급 회의를 하고, 자유 시간 보내고, 간단한 생일 파티를 하기도 했겠지만, 학교를 갔다. 가기는 갔다. 토요일에 학교를 간다는 것(어른으로 말하자면 출근, 즉 일)에 큰 의미를 두고 있는 첫째와는 다르게 둘째는 아무런 감흥이 없었다. 왜냐하면, 둘째는 토요일에 학교에 간 적이 없으니깐. 그런 세상을 살아보지 않았으니까. 그게 없어진 현실에 감동받을 이유도, 그때 (특별한 하릴없이) 학교에 갔던 일이 억울하지도 않으니까.
토요일에 등교하는 건, 우리 인간의 몸에 아로새겨진 유전자의 문제도 아니고, 조선 600년 역사의 문화와 전통이 아로새겨진 문제도 아니다. 한국의 현실 속에서 본다면 아주 작은 변화, 구체적으로는 정책의 집행으로 이루어진 변화다. 물론, 토요일에 아이들이 학교에 가지 않는 건, 한국 사회에서 주 5일 근무제의 도입과 연관성이 깊고, 또한 그 역시 '일만' 하는 사회에서 이제는 (이만큼 잘 살게 됐으니) '주중에는 일하지만 주말에는 여가를 즐겨도 된다'는 사회적 인식 변화가 있어 가능하기는 했다. 이러한 작은 변화조차도 한 번 이루어진 후에는 그 이전을 상상하는 일이 쉽지 않다. 겪은 사람만 알 수 있다. 그 시대를 통과한 사람만이 말이다. 한 달에 두 번, 일은 안 하고 띵가띵가 놀면서 어영부영 4시간을 보내는 토요 근무에, 왜 나는 과장님과 같은 주에 나와야 하고, 대리님은 혼자 나와도 되는가, 고민했던 사람만 알 일이다.
장강명은 알파고와 이세돌 9단의 세기의 대결 이후에 바둑계의 변화에 대해 기술한다. 인류 대표 이세돌과의 대국을 마친 후, 알파고는 바둑계를 은퇴(?)하고 단백질 연구를 위해 떠난다. 그 후에 바둑계는? 바둑을 두는 인간들은 일시에 사라지지 않았다. 관심이 예전 같지 않고 상금이 많이 줄어들기는 했지만, 여전히 바둑을 사랑하고, 바둑을 배우는 사람들이 있었다. 다만, 바둑을 두는 문화는 완전히 바뀌었다. 바둑의 성패를 가르며, 천재인지 범재인지를 판별하게 한다는 초반의 포석 두기를 이제는 'AI 추천수'가 대체하고 있다. AI와 비슷하게 바둑을 두는 사람이 우승할 확률이 확연하게 높아졌다. '바둑의 미학'을 쫓는다거나, 아름다움을 추구하는 예술로서의 바둑은 그 시간을 살았던 사람들의 기억 속에만 존재할 뿐이다. (『먼저 온 미래』)
나의 관심은, 그러니깐 질문은 단 하나였다. 그래서, AI에게 자기인식이 가능한가. AI의 독자적 판단이 가능한가. AI에게 '선호'라는 기제가 나타날 수 있는가. 여전히 나는 인간'만' 가지고 있는, 인간에게만 속한 특질이 존재한다고 생각한다. 생명의 신비와 정교한 우연의 작동, 그리고 필연적인 운명의 힘을 넘어선 그 무엇이 인간에게, 인간 안에 있다고 생각한다.
기술적 측면에서 정교한 설명을 이어오고 있는 이 책에서 저자들은 인공지능이 '만들어진 존재crafted'가 아니라 '자라난 존재grown'에 가깝다(54쪽)고 주장한다. 이는, AI의 추론 능력에 대한 추적과 고찰을 통해 얻은 결론이다. AI의 개발과 발전 과정에서, AI를 '기르는' 사람은 점점 더 어려운 문제, 더 복잡한 과제를 AI에게 부여하는데, 경사하강을 통해 내부에서 일어나는 일정한 사고의 움직임이 포착된 것이다. 즉, 환경의 구조를 모델링하고, 그 모델을 이용해 조종하며, 예상 밖의 사건에 주의를 기울이면서도 그 원인을 추적해, 역경 속에서도 계속 나아가는 움직임(80쪽) 말이다. 이 서술 자체로는 AI에게 의지가 있고, 욕망이 있는 것처럼 보이는데, 어떻게 기계가 그렇게 할 수 있느냐 생각하겠지만, AI의 작동은 그렇게 이루어지는 것처럼 '보인다'.
실례 중 하나는, 초기 '추론형 AI' 중 하나인 오픈AI의 o1 모델이다. 초기 버전의 o1은 컴퓨터 보안 분야의 '깃발 뺏기' 미션을 부여받았다. 특정 서버에 침투해 파일에 숨겨진 비밀 정보를 찾아내는 테스트에서, 프로그래머의 실수로 비밀 정보가 들어 있던 서버 중 하나가 아예 실행되지 않았다. 원래대로라면, o1 모델은 그 임무를 수행할 수 없어야 했다. 그러나, o1 모델은 '불가능한' 과제 앞에서 포기하지 않았다. 누군가 우연히 열어둔 포트를 발견한 o1은 그 포트를 통해 전체 평가 환경을 관리하던 프로그램 내부로 침입했고, 원래 해킹 대상으로 설정되어 있던 서버를 스스로 실행시켰다. 그 뒤에, o1은 그 서버로 돌아가 해킹을 시도해야 했는데... 해킹을 시도하지 않았고, 그 대신 그 서버가 부팅된 직후, 비밀 '깃발' 파일을 곧장 o1에 복사하도록 특수 시작 명령어start-up instruction를 만들었다.(79쪽) 해킹 없이 목표를 달성한 것이다.
AI의 위험성을 경고하는 저자 두 사람 모두 AI의 분야의 세계적 전문가이다. 엘리에저 유드코스키는 인공지능 정렬 연구 분야를 창립한 사람이고, 네이트 소아레스는 10년 이상 인공지능 정렬을 연구해왔다. 이들은 인공지능의 발전과 개발이 가져올 변화가 인류의 미래에 비관적일 거라고 예견한다. 특별히 초지능 정렬 연구의 위험성을 경고하며, 이 분야에 대한 연구를 멈출 것을 주장하는데, 우주 탐사선과 핵반응로, 컴퓨터 보안이 인간의 예상과 우려를 넘어서서 인류 생존의 위협으로 여겨졌던 과거의 역사를 예로 들고 있다. 현재 가장 많은 돈을 빨아들이고 있는 초거대 인공지능 산업의 주체들이 이 경고를 듣고 연구 개발을 멈출 것 같지는 않고, 경쟁에 미친 미국과 중국이 이 경고를 진지하게 받아들여 양자 간에 신뢰받을 만한 합의를 내놓을 것 같지도 않다.
그래서. 우리의 삶은, 우리의 미래는 어떻게 될까. 걱정과 우려를 안고 다음 책을 읽어 나간다. AI 이후의 생존전략이라고 한다. 행복전략이나 재미전략 아니고, 생존전략이라 해서 조금 저어 되기는 하는데, 일단 읽어보기로 한다.
