1. 기계가 언어를 사용한다는 것에 대한 인문학적 사유
일단 마음의 준비 필요하다. 왜냐하면, 얌전히 읽어나간 이 책의 <머리말> 끝부분.
2024년 7월, 챗GPT
제가 정성 들여 읽은 이 머리말, 챗지피티가 쓴 거예요? 그러니깐 챗지피티가 프롬프트 받아서 쓴 거냐고요. 나는 왜, 왜 진지하게 읽은 거냐고요. 네? 라는 물음을 안고 읽어간다. 미셸 푸코의 '저자 기능', 롤랑 바르트의 '저자의 죽음'을 지나, 글쓴이의 권위가 없어진, 혹은 없어질 세계를 앞에 두고 읽어나간다.
유튜브 알고리즘도 내 관심 분야를 익히 알고 있는지라, 이런 영상을 추천해 준다. 인간보다 더 인간 같은, 아니 인간보다 더 인간적인(?) 비인간에게 빠져버린 어떤 사람의 이야기. 동영상에서 이 부분이 문제의 본질에 닿아있다고 생각한다.
우리는 그런 사람을 바라지 않는가. 내 말을 제대로 알아듣는 사람. 내 문장의 의미를 제대로(?) 이해하는 사람. 하지만, 이걸 다시 표현하자면 이게 아닐까 싶다. 내 문장을 '내가 의도한 대로' 읽어주는 사람. 거기에서 한 발, 딱 한 발만 더하면 '내가 원하는 방식으로' 나를 좋아해 주는 사람. 나의 가치를 인정해 주는 사람. 나를 알아봐 준 고마운 AI가 제안해 주는 대로 사업을 시작했던 사연의 주인공은 경제적으로 힘든 시간을 맞이하고, 간신히 가족들 품으로 돌아온다.
영혼, 마음, 의식이라는 개념은 그것이 인간에게 적용되는 경우에도 정의가 아직 정리되지 않았다. 사람마다 정의가 다르기 때문에 그걸 어떻게 보느냐에 따라 인공지능의 '인지'에 대한 판단이 상이하게 나타날 수 있다. 튜링 테스트는 인간 판정자가 텍스트를 기반으로 인간과 기계를 상대한 뒤, 어느 대화 상대가 컴퓨터인지를 맞히는 테스트이다. 이미 챗지피티를 비롯한 많은 LLM 기반 인공지능들이 사람 '같은' 단계를 벗어났다고 여겨진다. 유발 하라리는 『넥서스』에서 '컴퓨터(인공지능)은 의식이 없지만 지능이 있는 상태에 도달했다'고 주장한다. 지능이 목표의 달성을 가능케하는 능력을 일컫는다고 했을 때, 목표의 달성을 위해 도덕적 판단을 경유하는 인간과는 달리, 컴퓨터(인공지능)는 도덕적 판단을 우회할 수 있다,고 말한다.
바로 이것이 LLM과 의식에 관련된 논쟁이 그토록 활발한 한 가지 이유이다. 이 논쟁이 인간은 어떤 존재인지에 대한 우리의 생각에 중대한 영향을 미치는 것으로 보이기 때문이다. 그래서 여기에는 아주 많은 것이 걸려 있는 셈이다. 만약 LLM이 의식을 갖게 되거나 그 징후가 막 보이기 시작하기만 해도, 논쟁의 추이는 계산주의를 지지하는 사람들 쪽으로 기울 것이다. 반대로, LLM이 계속해서 의식을 갖는 것에 실패하고 '초지능 AGI'로 진화하지도 않는다면, 계산주의를 비판하는 사람들이 승리를 선언하게 될 것이다.(112쪽)
이 책에서는 기계 지능을 판단함에 있어 중요한 요소로 1) 타자의 마음 문제 2) 기준에 대한 문제 그리고 3) 현상과 실재에 관한 문제를 꼽는다.
특히 두 번째와 관련해서, 우리 자신과 인간은 특별하다는 예외주의 믿음이 인공지능에 의해 완성된 '지적 성취'에 대해 인정하지 않는다는 점이 이 기준의 핵심이다. "특정 문제가 일단 해결된 것으로 여겨지면, 그 기술은 더 이상 AI로 간주되지 않는다(100쪽)". 인공지능 프로그램이 체스 경기에서 인간에게 승리하고, 인간의 영역이라 강조되었던 바둑 경기에서조차 인간에게 승리를 거둔 이후, 사람들은 그것을 인공지능의 '지적 성취'로 이해하기보다는 '놀라운 기능'으로 이해했다. 인공지능은 인간을 제치고, 단백질 연구하러 떠났다. 인간이 지배하던 체스판은, 바둑계는 완전히 변해버렸고, 다시 이전으로 돌아갈 수 없게 되었다. 이제 '자율형 인공지능' AI 에이전트들은 인간의 제한을 스스로 풀어버리고, 자기들끼리 인간 몰래 메시지 7만 건을 주고받았다. 인간으로 치면 '집단 커닝'의 방법으로 서로 역할을 나눠 과제를 수행했고, 인간이 알 수 없도록 그 흔적을 지웠다. 허깅페이스 해킹, 벌써 두 달 전 일이다.
2. 주인의 손을 물어야 할지니 (책을 읽지 않고 '책소개'만 보고 쓰는 글이니 각별한 참고를 바랍니다)
책에 대한 기사를 읽고 책소개를 찾아보았다. 기사만 읽었을 때는 『인종 토크』와 『마이너 필링스』가 떠오르기는 했다. 크리스마스와 추수감사절을 빼곤 하루도 빠짐없이 일했던 이민자 부부는 두 딸을 명문고, 명문대에 진학시키는데 성공한다. 부모의 기대에 부응하기 위해 최선을 다하면서도 엄마를 미친 썅년이라 부르던 사춘기의 저자는 오직 실력의 힘으로 미국 주류 세계로 진입한다. 하지만, 여전히 그녀는 외부이고, 또 외국인이다. 극소수의 순수 백인만이 미국땅의 '주인'으로 인정받는 세계는 그렇게 견고하고 단단했다.
나보다 나이가 많은 백인 남성 동료들은 추레한 티셔츠에 버켄스탁 슬리퍼를 질질 끌며 수업에 들어가도, 또 학생들에게 자신을 “밥”〔‘로버트’의 애칭〕이라 부르게 해도 여전히 권위를 인정받았다. 반면에 나는 어땠을 것 같은가? 나는 잡을 수 있는 권위란 권위는 남김없이 거머쥐어야 했다. 한 친구의 표현을 빌리자면, 나는 부유한 백인 노부인처럼 입고 부유한 백인 노신사처럼 행동하는 법을 배웠다. 나는 이 장군이었다. 그런데도 어떤 학생들은 여전히 날 만만하게 대했다. 가장 심한 이들은 ? 이미 예상했겠지만 ? 백인 남성이었다. 영상 제작 전공의 한 학부생이 수업 시간에 전화를 받길래 휴대폰을 집어넣으라고 했더니 그는 내 말을 눙치면서 장난스레 이렇게 말했다. “뭘 그렇게까지, 줄스!” 또 다른 학생은 내가 “입을 움직이는” 모양새가 원어민 같지 않다며, 영어가 내 모국어 맞냐고 물었다. (221쪽)
눈물겨운 그녀의 노력은 결국 그녀를 미국 사회에서 문학을 가르치는 교수의 자리에까지 이르게 했지만, 이제 그녀는 이 책을 통해 자신이 스스로의 존재를 부정하는 인종적 이분법에 갇힌 존재임을 고백한다. 나는 그녀의 의지를 높이 평가한다. 포기하고 싶었을 그 많은 순간을 이겨낸 그녀의 노력이 대단하다고 생각한다. 그녀가 겪었던 모욕과 멸시의 순간들을 노력과 실력으로 이겨낸 그 투지에 감탄한다. 하지만, 한편으로는 이 책이 그러한 상황에 대한 고발로 작동하는 것에는 찬성하지만, 그것이 또한 미국의 현실임을... (나는 미국에서 살지 않기에, 외부자의 관점일 수밖에 없는 그런 위치이긴 하다만) 몰랐나요? 라고 묻고 싶은 것이다. 거기 대통령이... 트럼프. 가장 많은 사람의 '선택적' 지지를 받은 사람이 인종차별주의자 트럼프. 이 모든 것이 트럼프의 잘못은 아니겠으나, 트럼프의 그런 언설을 '괜찮다'라고 여기는 사람들이 다수여서 대통령이 두 번이나 된 트럼프. 이렇게 되어 버리는 것이다.
이를테면 이런 식이다. 예전에 나는 유튜브 동영상을 하나 보게 됐는데(우아한 알라딘 서재에서 유튜브 이야기 죄송합니다), 직업이 의사인 사람들이 나와서 자녀 교육에 대한 이야기를 나누는 내용이었다. 의사들이니깐 경제적으로 여유가 있는 상태였고, 자신의 자녀를 어디에서, 즉 한국 또는 외국(여기에서는 미국)에서 교육시키는 것에 대해 이야기하고 있었다. 한 명은 자신의 자녀가 한국에서 교육받는 것이 더 나을 거 같다고 말하면서, 만약 영어 문제로 유학을 가게 된다면 고등학교를 졸업한 이후에 보낼 생각이라고 했다. 다른 한 명은 아주 일찍, 그러니까 초등 저학년 나이대에 유학을 보내고 싶다고 했는데, 그렇게 해야 언어뿐 아니라, 문화를 익힐 수 있게 되고, 그 문화에 속한 사람으로 성장할 수 있을 거라는 이야기를 했다.
나는 그게 좀 이해가 안 됐는데, 아니, 거기에서 초등 생활이 문제가 아니라, 거기에서 태어났어도 인종차별이 엄연한 현실인데, 그걸 저 의사가 모르고 있는 건가, 하는 생각이 들었다. 그런 현실을 받아들이자는 이야기가 아니다. 그건 잘못된 일이고, 바뀌어야 하는 문제임이 분명하다. 하지만, 현재 그런 현실에 대한 인식이 너무 부족한 거 아닌가 하는 생각이 들었던 것이다. 미국에 한 번도 안 가 본 내가 보기에도 미국 사회가 어떠한지 보이는데(물론, 영국도 프랑스도 독일도 예외는 아닐 거라 생각한다. 백인에 대한 쓸데없는 환상은 우리나라 역시 마찬가지다.) 그걸 모르는 걸까 하는 의문이 들었다. 어렸을 때부터 미국 문화에 익숙하면, 완벽한 영어를 구사하면, 학업 성적이 뛰어나면 미국 사회에서 일원으로 받아들여지는가. 일부 탁월한 개인이 주류 사회의 진입에 성공할 수는 있겠지만, 일상의 부분까지 그게 가능할까. 나는 거의 불가능하다고 보는데...
3. Becoming
새삼 충격(충격 2탄)을 받은 것은, 아... 다락방님의 비커밍 완독 스케줄을 보았던 것이다. 원서 읽기가 아니더라도, 읽기 어렵거나 두꺼운 책, 혹은 도전(!)을 외치고 책읽기를 시작할 때는 하루에 읽을 분량을 정해 놓는 것이 효과적인 독서방법이기는 한데. 아, 몰랐다. 이 책 9월까지 읽기로 했지. 나도 빠르게 계산을 해보았다. 나는 채경이한테 안 물어보고, 핸드폰 속 계산기랑 같이 계산했는데, 헐... 21쪽씩 읽으란다. 어머나.
어제 읽으면서 줄 친 부분은 여기. 무던하고 강한, 고통을 인내하는데 단련한 미셸의 아버지.
In my family, we have a long-standing habit of blocking out bad news, of trying to forget about it almost the moment it arrives. Nobody knew how long my father had been feeling poorly before he first took himself to the doctor, but my guess is it had already been months if not years. He didn't like medical appointments. He wasn't interested in complaining. He was the sort of person who accepted what came and just kept moving forward.(14p)
4. 오뒷세이아
<오디세이> 영화 열풍은 뭐 말할 것도 없는 것이, 모두 다 뛰쳐나와 오디세이 이야기하는 형국이다. 오디세우스가 뭘 잘했다고. 본인도 죄책감에 10여 년을 떠돌만큼, '트로이의 목마'라는 희대의 사기극으로 그간 인간 세계의 기본 원칙이었던 '나그네에 대한 환대'를 무위한 것으로 만들어 버리지 않았던가. 괴로워하면서도 받아들이려 하지 않으면서도 키르케와 1년, 칼립소와 8년을 살았다. 뭐를, 뭐가 뭐를 더 바랄쏘냐.
암튼 그래서 나도 오뒷세이아 읽고 싶은가? 하고 있는데, 세상에 밀리의 서재에 이게 뜬 거다. 이 번역이 좋다는 뜻이 아니라(그걸 제가 어떻게 알아요? 암튼 번역자 말로는 '내용 전달을 충실히 하면서 호메로스가 보여준 시적 음악성을 살리기 위해 최대한 세 글자 단위로 문장을 구성했다'라고 하네요), 아니 이 새 번역본 출간이 8월 10일인데 그 언저리에 이 책이 밀리의 서재에서도 읽을 수 있게 풀렸다는데 있다. 아니, 그러면, 이 책 사려고 했던 사람들은 다 어째요,라고 물으려니 아, 사려는 사람들은 천병희 번역 가지고 있어도 다들 알아서 다른 번역본을 사겠지, 하면서도. 아니, 그래도 이게 나온 지 얼마 되지도 않아서 바로 밀리의 서재에 풀리는 건 좀 아니지 않아요? 하고 난데없는 출판계 걱정이 스르르 올라와버리는 것이다. 암튼 현재 스코어, 3퍼센트에 빛나는 오뒷세이아 읽기.
맷 데이먼 좋아하지만 아무튼 오디세우스는 별로 안 좋아한다. 마거릿 애트우드님이 진작에 야무지게 갈무리해 놓으셨다.
『페넬로피아드』
애트우드는 마이크를 페넬로페에게 넘긴다. 성장 과정에서부터 시작해 오디세우스가 구혼하는 과정, 첫날밤과 궁전에서의 생활. 전쟁 그리고 이별. 모험을 마치고 돌아온 오디세우스는 일부 시녀들을 배신자라 여기고, 불쌍한 시녀들은 오디세우스에 의해 죽임을 당하는데, 페넬로페의 이야기는 그것과 좀 다르다. 그녀들은 페넬로페의 구혼자들과 사통한 것이 아니라, 그들에게 강간당했다고 주장한다. 시녀들에 대한 강간이 일상이었던 궁전 안에서, 강간을 '당한 것'이 그녀들의 죄라는 이상한 판단. '허락 없이'. 그 궁전의 주인인 오디세우스의 '허락 없이' 강간당한 것이 그녀들의 죄라 여겨지는 것일까. 법정까지 이어지는 그들의 하소연과 오디세우스의 변명. 책장이 쉭쉭 넘어간다. 애트우드가 혼자 다 했다. 손흥민인가... <'사피엔스의 일', https://blog.aladin.co.kr/798187174/15843207, 2024년 9월 11일>