얼마 읽지 않았지만, 다 읽어야 할 수 있는 건 아니라서 굳이 해 본다. 내가 보기에 요즘 쏟아져 나오는 AI, 인공지능 관련 책들은 크게 네 가지 분류 중 하나에 속한다. 첫 번째는 AI라는 신기술을 본인에게 적합한 툴로 어떻게 활용할지를 가르쳐 주는 책들이다. 이런 책들이 그런 실례가 될 수 있겠다.
두 번째는 AI 시대의 도래로 인간의 삶과 인간 사회, 우리 인류 전체의 운명이 어떻게 변화하게 될 것인지에 대해 핑크빛 전망을 내어놓는 책들이다. 미래의 주인이 될 것이 분명한 AI를 주인으로 삼아 살아가겠다는 본인의 주장이 강고해 AI에게 미리 큰 절을 올렸기에 김대식의 책도 여기에 넣는다.
세 번째는 AI가 우리 삶의 현실이 되었을 때의 위험성을 경고한 책들이다. 이 분류와 관련해서는 소설가들의 활약이 돋보이는데, 외국 소설가들은 어쩐지 잘 몰라, 일단 한국 작가의 소설들만 모아보면 이렇다.
지금 읽는 이 책은 위의 분류 중 어느 것에도 해당되지 않는다. 이 책의 저자들은 '머신 인텔리전스 리서치 인스티튜트Machine Intelligence Research Institute, MIRI'의 설립자인 엘리에저 유두코스키와 현재 대표인 네이트 소아레스이다. 오픈 AI의 CEO인 샘 올트먼은 '유드코스키가 오픈 AI를 창립하기로 한 결정에 결정적인 역할을 했다'라고 밝힌 적이 있다(20쪽). 가장 먼저 AGI의 출현을 예견한 저자들은, AI 성능의 급속한 발전에 비해 'AI가 잘못되지 않게 만드는 방법'에 대한 연구가 매우 느리게 진행되고 있다고 생각했다. 우려와 경고의 메시지가 아무 소용이 없었다. 그래서, 그들은 MIRI의 연구 대부분을 축소하고, 오직 하나의 경고를 전하는 일에만 집중하기로 한다.
지구 어디에서든, 어떤 기업이나 단체가 지금과 비슷한 기술이나 이해 수준으로 초지능을 만들어낸다면, 지구상의 모든 사람은 죽게 될 것이다. (22쪽)
챕터 5의 제목은 <초지능이 사랑하는 것들>이다. 초지능은 우리 인류에게 '좋은 것'이 될 수 있는가? 답은 '아니다' 이다. 인류의 미래를 저자들은 소제목으로 말한다.
우리가 '쓸모'가 없기 때문이다.
우리는 초지능에게 '좋은 교역 상대'가 되지 못할 것이다.
초지능은 우리를 '필요로 하지' 않을 것이다.
우리는 초지능에게 '좋은 애완동물'이 되지 못할 것이다.
초지능은 우리를 내버려두지 않을 것이다.
암울하기 짝이 없는 이 책을 이렇게 읽고 있다. 그리고, 더 읽기 전에, 더 쓰기 전에 나는 좀 써야겠다. 그러니깐, 왜 내가 AI에 이렇게 관심을 갖고 있는지, 궁금해하는지, 알고 싶어 하는지에 대해서 말이다. 아무도 궁금해하지 않지만, 중요하다고 생각해 나 혼자 계속하는 이 공부에 대해서 말이다.
사람들은 각자 자신이 좋아하는 분야가 있다. 그걸 주제라고 말할 수 있고, 소재라고 말할 수 있다. 내가 소설을 좋아하는 이유는, 소설이 인간 군상을 보여줄 뿐만 아니라, 보이지 않는 인간의 내면을 보여주기 때문이다. 빅토르 위고를 통해 나폴레옹 전쟁과 파리의 수도 시설에 대해 배울 수 있고, 필립 로스를 통해 미국 매카시즘의 광기와 인종 차별의 양극단을 간접 경험할 수 있지만, 언제나 내 관심은 인간이다. 인간의 발화, 그로 인한 인간의 반응, 그에 따른 인간 심정의 변화, 그 때문에 일어나는 인간 사이의 갈등. 내 관심은 인간이다. 마시멜로 같은 로맨스도, 질척거리는 질투와 끝없는 집착도, 안 될 듯, 절대 안 될 듯하면서도 끝내 이루어지는 어떤 용서와 불필요한 이해도. 인간과 인간 사이의 일이다. 인간이 없다면, 내 앞의 이 인간(?)이 아니라면, 일어날 수 없는 일이고, 일어날 필요 없는 일이다. 내 관심은 사랑이고 인간이다. 오해이고 인간이며, 용서이고 인간이다.
그래서, 인간 운명의 끝에 대해 나는 관심이 있다. 오늘 하루를 치열하게 사는 그 마음에 대해 궁금한 만큼, 인간의 끝, 인간 삶의 끝에 대해 관심이 많다. 나는 교회에 다니니까, 예수님을 믿으니까, 내게는 나 나름의 해답이 있고, 나는 그 답을 소중히 여긴다. 내가 궁금한 건, 그렇지 않은 사람의 답이다. 나와 다른 내세관을 가진 사람이 삶에 대해 어떻게 생각하는지, 죽음에 대해 어떻게 생각하는지 궁금하다. 가까운 사람들에게 이 질문을 직접적으로 하는 게 일반적인 경우는 아니라서, 나는 책을 통해 그 질문에 대한 답을 구한다.
인간이 물질로만 이루어져 있고, 그것이 인간 존재를 전체를 설명할 수 있는 그 무엇이라면, 아니, 그 전부라면. AI는 또 다른 물질로 이루어진 새로운 형체의 등장일 뿐이다. 인간은 동물성 물질 위(내부)에서 가능한 의식이고, AI는 실리콘 위에서 만들어진 의식일 뿐이다. 그래도 인간이 다르다고. 인간만은 다르다고 어떻게 말할 수 있겠는가.
인간의 영. 인간의 혼. 인간의 넋. 인간의 영혼. 인간의 혼백이 없다면 말이다. 인간 내부에 심어진 신성. 인간의 힘으로 얻어진 어떤 것이 아니라, 외부에서 주어진 그 무엇이, 인간에게 없다면 말이다.
원래는 초지능이 현대적 방식으로 만들어질 때, 어떻게 인간의 이해를 넘어서는지에 대해 쓰려고 했다. 이세돌 9단과 알파고의 대결을 생각해보면 이해가 쉽다. 1국에서부터 2국, 3국에까지 이세돌 9단 뿐만 아니라, 세기적 대국을 중계하던 해설자들도 알파고의 수를 '이해하지 못했다'. "이세돌 9단의 수는 정확했고, 빈틈이 없었어요. 알파고는 계속 실수를 한 거 같았는데, 어느 순간 정신을 차리고 보니, 알파고가 이겨 있었어요." 이름이 기억나지 않는 어떤 바둑 기사가 인터뷰 중 했던 말이다.
이 책은 지금까지 내가 읽었던 어떤 AI 책보다 더 전문적이고, 상세하다. 천생 문과인 내가 이해하기 어려운 대목이 많은 것은 사실이다. 한 번 시도해 보려 했으나... 그래, 시도해 보자.
어떤 문장을 입력하면 그 문장이 자연스럽게 이어지도록 다음 문장을 써주는 기계를 만들겠다고 해 보자.
먼저, 문장 조각(예를 들어 'Once upon a ti')을 숫자들의 나열로 바꾼다.
숫자를 저장하는 컴퓨터를 준비하고, 각 숫자를 저장하는 칸을 파라미터라고 부른다.
그 저장 공간을 숫자로 채우고, 이 칸 안의 숫자들을 가중치라고 부른다.
아키텍처(입력값과 파라미터 안의 가중치를 어떤 규칙으로 조합할지 결정)를 정한다.
이런 일련의 연산 결과로 출력값이라는 숫자 세트가 만들어진다.
초기 상태의 '미완성 지능'을 훈련시키는데, 그때 사용하는 과정이 경사하강이다. 자동화 과정을 통해 훈련 데이터를 사용해 수개월 안에 이 절차를 반복한다.
훈련이 끝나면 기계가 내놓은 확률값을 일반 텍스트로 바꿀 수 있다.
이런 과정을 통해 우리 앞에 등장한 것이 바로 거대 언어 모델 Large Language Model, LLM이고, 여기에서 한 단계 더 발전시킨 것이 우리가 자주 사용하는 챗지피티이다.
저자들 주장의 핵심은 이렇다. '지능의 비밀'은 특정 아키텍처의 선택에 있지 않다. 방대하고 반복적인 아키텍처는 각 토큰 token(AI가 언어를 처리하기 위해 단어를 쪼갠 최소 단위)마다 1만 6384개의 숫자를 부여하고, 수십억 개의 파라미터를 128개의 '어텐션 헤드'로 배열한 뒤, 하나의 레이어로 묶는데, 이런 레이어가 126층 쌓인다고 한다. 요는, 그 숫자들이 어떻게 이런 말을 만들어내는지 알지 못한다는 것이다. 인간의 염기서열을 아무리 들여다보아도 이 아이가 어떤 사람으로 성장할지 알 수 없는 것처럼, AI 내부의 그 수많은 내부 수치를 아무리 들여다 보아도 그들이 어떻게 그런 결론에 도달했는지 알 수 없다는 것이다.
컴퓨터가 충분히 강력해져서, 인간이 그 내부의 사고 과정을 이해하지 못한 채 경사하강을 통해 AI를 대량으로 길러낼 수 있게 되어서다. (63쪽)
암울한 이야기는 끝이 없지만, 읽어보겠다. 가 보자, 어디 한 번.
