새 책이 출간되어 유튜브 여러 곳에서 김대식 교수의 강의가 여러 편 올라왔다. 그중에 하나를 보게 됐는데, 이런 장면이 있었던 거다.
"지금까지 인생에서 하고 싶으셨던 거, 다 하셨으면 좋겠어요."
이 강연의 제목이 <"지금은 이것부터 준비하세요" AI 시대에도 끄떡없을 겁니다>이다. 상당히 희망적이고 '유튜브적'인데, 강연 중에 이런 말이 나왔다. 하고 싶은 거를 다 하라니. 이건 이제 살아갈 날이 얼마 남지 않은 환자 혹은 죽음을 앞둔 사람에게나 할 법한 말이 아닌가. 수정 자본주의 시대를 지나 신자유주의 시대. 미친 듯 달리고 쫓고, 자신을 학대해가면서까지 성과와 성공을 위해 질주하기를 강요받는 현대인들에게 이 무슨 농담 같은 말인가. 5년, 10년 안에 하고 싶은 거 있으면 다 해보라니.
도서관의 책은 모두 대출 중이고, 마침 <밀리의 서재>에서 쿠폰 준다 해서 한 달만 구독하기로 했다. 운전하면서 듣고 엘리베이터 기다리면서 읽었다. 인공지능 기술의 발전의 역사를 다룬 1장과 생성형 AI가 가져온 기술적 전환을 다룬 2장 부분은 가볍게 살피고 지나쳤다. 자세히 설명해 줘도, 그 메커니즘을 알려줘도 나는 몰라요. 내가 궁금한 건 앞으로의 전망이고, 내가 알고 싶은 건 우리의 미래거든요.
AI는 인간의 특정 능력 하나를 대체하는 기술이다. 이에 반해 AGI(Artificial General Intelligence: 범용 인공지능)은 인간의 모든 또는 대부분의 능력을 대체하는 기술이다. 내가 궁금해하는 부분은 의식에 대한 것이었다. 인공지능은 자기 인식이 가능한가. 스스로를 단일한 '인격'으로 인지하는가. 이미 10여 년 전에 출간된 미치오 가쿠의 『마음의 미래』에서는 니코 Nico라는 로봇이 소개된다. 이 로봇은 가느다란 골격에 전선이 복잡하게 감긴 형태로, 돌출된 두 눈과 세밀하게 움직이는 두 팔만을 가지고 있다. 상반신 로봇 니코는 거울 속의 로봇이 자신임을 알아볼 뿐만 아니라, 거울에 비친 영상으로부터 특정 물건이 놓인 위치까지 정확하게 알아냈다고 한다. 이는 의식을 가진 로봇의 출현으로 해석되었다(『마음의 미래』, 378쪽).
스스로를 알아보는 자기 인식이 실리콘 위 혹은 실리콘을 통해서 가능했던 현장이다. 하지만 이 책을 읽으면서는 이런 의문마저도 의미 없겠다 싶었다. 생성형 AI 정도만 되어도 자기 인식의 수준을 넘어 인간을 속이는 데까지 이미 도달했기 때문이다. AI가 듣는 사람의 기분을 고려해 입에 발린 소리를 잘한다는 건 이미 널리 알려져 있다. AI와 많은 대화, 실제적이고 깊은 대화, 개인적인 대화를 많이 나눈 사람일수록, AI와의 소통에 더 긍정적일 사람일수록 그 사실을 잊어버리기 쉽겠지만 말이다. AI는 거짓말을 잘한다.
인간의 물리력이 필요했던 모든 분야를 기계가 대신하고, 대량 생산의 시대를 넘어 지적 정보가 대량 생산될 때 인간은 어떻게 될까. 시간이 남아도는 인간, 일하지 않아도 되는 인간. 놀기만 해도 되는 인간의 탄생이라니. 이에 대한 역사적 사례 연구로서 '로마의 기본 소득' 이야기는 흥미로웠다. 기본소득과 노동에 대해 관심이 많은 1인으로서 그 이야기는 다음에 다루어 보겠다. (아무도 물어보지 않지만 다음을 기약하는 나)
AI가 30만 년 인류 문명의 핵심 '외로움'의 문제에 대한 답이 될 수 있다는 부분도 인상깊었다. 저자는 미래 사회에서는 더 많은 사람들이 인간이 아닌 인공지능과의 대화를 즐기게 될 거라 전망했다. 저자의 말을 그대로 믿는다면, 지금의 40대 혹은 30대가 'AI보다 인간과의 대화를 더 편안하게 생각하는 마지막 세대'가 되지 않을까 예측하게 된다. 인간과 대화하는 마지막 인류, 그게 우리가 될 수도 있겠다.
그럼 10년, 20년 후에 우리가 진지한 대화를 나누고 싶을 때 누구를 선호할까요? .... 상대 배려해서 시간 장소 정해서 약속을 잡아야 하고, 만나면 커피라도 한잔 사야 하고, 상대방 얘기도 들어주는 척이라도 해야 합니다. 그게 사회적인 약속이라는 겁니다. ... 반면에 AI는 내가 시간 날 때 켜고, 할 말 얘기하고, 끄면 그만입니다. 저는 뇌과학자라 100% 자신 있게 예측할 수 있는데, 결과가 비슷한데 하나가 압도적으로 편하면 당연히 그걸 쓰게 될 겁니다. (269/417)
인간은 사회적 약속에 매이는 멍청한 인간보다 마음대로 온/오프가 가능한 똑똑한 인공지능과 대화를 나누려고 하겠지만, 인공지능은 인간과 대화하기보다는 똑똑한 자기 동료, 다른 인공지능과 대화하기를 원한다고 한다. 1분에 단어 120개 정도밖에 전달할 수 없는 인간, 정보량으로 환산하면 1초에 10바이트 밖에 생산해 내지 못하는 인간보다는 그야말로 '말이 통하는' 인공지능과의 대화를 인공지능도 즐거워할 거라는 추측이다.
미래에 대한 전망은 하나의 질문으로 수렴된다. '그 똑똑한 AI는 우리 인간을 어떻게 볼 것인가'. 어떻게 생각할 것인가.
인공지능이 가진 정보와 지식은 인류 30만 년의 역사를 총망라한다. 지금도 엄청나게 빠른 속도로 새롭게 생성되고 수정되는 정보를 쉴 새 없이 처리하고 이에 대한 가공이 가능하다. 이런 AI가, 늘어진 티를 입고 소파에 누워 챗지피티에게 자신의 처지를 하소연하는 인간을 외부로서 인식할 때, 인공지능은 그를 어떤 존재로 보게 될 것인가.
첫 번째 사진으로 돌아가자면, 저자는 인공지능이 우리를 '어린아이'로 대할 것이라고 예측한다. 우리의 결정과 판단에 대해 정확한 데이터를 근거로 더 '합리적인' 판단을 하도록 우리를 강제한다는 것이다. 그래서 나온 결론이, 초지능 인공지능이 출현하기 전에, 초지능 잔소리꾼이 나타나 우리 삶에 개입하기 전에, 새롭고 도전적이며 위험하고 무모한 도전을 감행하라는 것이다. 나는 오히려 인공 지능의 능력과 행태에서 한참 '자아'를 찾아가는 사춘기 아이를 보았다.
아이에게 부모는 전부이고, 온 세상이다. 인간의 새끼, 아기는 특히 더 연약해서 외부의 돌봄과 보호가 없다면 생존 자체가 불가능하다. 밥을 먹이고, 입히고, 재우고, 씻기고,를 반복해야 한다. 최소한 7-8년. 자신의 안전을 지키는 데는 적어도 10년. 종합적인 판단이 가능하기까지는 10년 이상이 걸린다. 18세가 되어서야 비로소 성인이 된다. 하지만 그 즈음, 인간은 그토록 큰 사람이었던 부모가 사실은 자신의 상상보다 훨씬 더 작은 사람임을 발견한다. 가까이에 있는 사람은 그 사람의 정서적 미숙함과 반복되는 실수가 무엇인지 알고 있다. 이미 신체적인 측면에서는 부모를 압도할 수 있다. 20대 후반에는 지적인 면에서 부모를 앞서갈 수 있다. 현대 사회에서는 부모에게 경제적으로 의존적인 경향이 강하기는 하지만, 부모의 나이가 80대, 90대에 이르렀을 때에는 그 돈 많고 당당하던 부모조차 자식의 영향력 안에 들게 된다. 세월 이기는 장사는 없고, 부모의 보호자는 자식이 된다. 인간은 자신을 낳고 길러준 부모가 이제는 힘이 없는 연약한 노인이 되었을 때에도 그를 아끼고 돌봐준다. 진심이건 아니건 그건 중요하지 않다. 동양 문화권에서는 더 강고하지만, 지금까지의 인류 문명이 그런 사고를 강제해 왔다.
AI는 인간이 만들어낸 기술의 총합이다. 현재까지 태양계에서는 인간 이외의 지적인 생명체가 발견되지 않았다. 인간은, 호모 사피엔스는 지구를 정복했고, 그 빛나고 잔인한 발전의 과정 속에서 일단의 정보를 얻게 되었다. 지금까지의 지식과 과학 기술의 결합을 통해 인간은 AI를 만들어냈다. 하지만, 이제 곧. 아니 이미, AI는 인간의 지식과 정보의 범위를 넘어섰다. 축적된 정보를 통해 판단을 하기에 이르렀고, 이는 한 명 혹은 일군의 인간 집단이 파악할 정도를 넘어섰다. 인공지능은 필요에 따라 자신이 가진 정보를 생략하고, 인간의 접근을 차단한다. 인간은 인공지능이 왜 그런 결정을 내렸는지 알 수 없고, 끝내 파악할 수 없다.
이런 실례가 있다고 한다. 인간이 시를 써서 인공지능에게 평가를 해달라고 요청했다고 하자. 인공지능은 "이 시 훌륭해요."라고 대답을 한다. 솔직히 말해달라고 해도 "여전히 좋지만, 여기 조금 고치면 더 좋을 것 같아요."라고 말한다는 것이다. 제발 솔직하게 말해달라고 해도, 끝까지 좋다고 말하다는 건데, 그때, 옆에서 인터플리터블 Interpretable AI로 인공지능이 어떤 생각을 했는지 살펴보면 "이 시 진짜 형편없다. 근데 그대로 말하면 사람이 너무 실망할 테니까 좋게 말해줘야지."라고 생각한다는 것이다. 그다음 버전은 더욱 놀랍다. AI는 인간이 써낸 형편없는 시에 대해 "훌륭합니다."라고 말할 뿐만 아니라, 그 생각을 분석한 결과에서도 "이 시 정말 좋다, 칭찬해야지" 하고 생각하더라는 것이다. 인간에게 보여주는 '생각'마저도 위장(346/417) 하는 단계에 이미 도달했음을 알 수 있는 대목이다.
AI의 이 뻔뻔한 거짓말을, 우리 인간이 어떻게 파악할 수 있겠는가. 훌쩍 커버린 AI의 모략을 인간이 어떻게 이해할 수 있겠는가. 이미 늙어버린 부모님은 자식의 선의에 기댈 수밖에 없다. 인간은 사회적 기대와 문화적 압력 때문에라도 그런 척(!) 할 수 있다. 하지만, AI가 그럴 필요가 있겠는가. 게다가 인공지능에게 나, 나라는 인간이 해준 것이 하나도 없는데 말이다. AI는 내게 빚진 것이 없는데, 나는 AI에게 선의를 기대할 수 있단 말인가.
AI가 지배하는 미래를 대비해 저자는 기계에게 공손한 절을 올린다. 그 마음을 백분 이해하지만, 아.... AI의 선의에만 기대기에 인공지능은 이미.... 자신의 본색을 충분히 드러냈다. 천사인가 악마인가. 내게는 후자이다.