털고 가기 (feat. 인공지능)

퇴근 전에 시간이 15분 정도 남았는데, 딱히 뭐를 시작하기에는 짧은 시간이다. 노트가 없어 옆에 있던 A4 이면지를 펼쳤다. 책 사이에 넣어 두었다가 집에 돌아와 가방 정리하려고 하니, 구겨진 종이 한 장이 나온다. 아, 이게. 이건 이게 아닌데. 이거 말고, 이걸 여기에 넣고. 알라딘의 야심작 '읽기의 계보' 첫 번째 이야기, <AI는 인간의 꿈을 꾸는가?>처럼 해보고 싶었으나. 실패.

1. 근대성 : 이 부분은 요즘 관심사는 아니다. 타의에 의해 조선에서 한국으로 넘어와 버린 우리는 역사의 일부를 빼앗길 수밖에 없었고, 그 역사의 일부는 배곯지 않겠다는 근대정신의 발현으로 구성되었다. 우리는 근대 없이 현대를 맞이했고, 지금은 가열차게 자본주의의 변곡점을 지나가고 있다. 개인의 발명이 이루어진 근대에 대한 탐험은 그래서 현재 내 관심사는 아니다.

2. 인간다움 : 제일 관심 가는 부분이다. 구체적으로는 '인간이란 무엇인가'의 물음. 인간이 동물과 비슷한 진화의 과정을 겪어 왔다면 인간만의 특이성은 어디에서 오는가. 인간다움이란 무엇인가. 어느 때 인간이고, 어느 때 인간이 아닌가. 인공지능을 탑재한 휴머노이드가 자신 역시 '인간'이라 주장할 때, 인류의 대답은 무엇이어야 하는가. 인간다움의 특징이 '인지'와 '내면'으로 구현된다고 했을 때, 인공지능이 경사하강을 통해 판단, 선호가 강화된 상태의 '추진력'을 가지게 된다면, 그것을 인간의 욕망과 어떻게 구별할 것인가. 인간 내면에 실제 하는 감정과 느낌은 감각기관을 탑재하게 될 인공지능의 그것과는 얼마나 유사하고, 어떤 차이점을 갖게 될 것인가.

3. 노동 : 관심도로 보자면 이 부분이 두 번째다. 일하지 않는 인간과 일하는 로봇. 인간의 노동 대부분을 대체할 것으로 예상되는 로봇이 노동 문제에 대해 어떻게 생각(?) 할지에 대해서는 아직은 논의할 단계가 아닌 것 같다. 인권처럼 '로봇의 권리'가 필요한지에 대해서도 마찬가지다. 질문은 '무엇을 일이라고 부를 것인가'에서 시작할 것이고, '일하지 않는 인간의 존재 이유는 무엇인가'로 이어질 것이다.

4. 기술 봉건주의 : 인공지능에 대한 책을 본격적으로 읽기 시작했던 건, 팔란티어 때문이었다. 이게 말이 돼? 진짜야?라는 물음이 시작점이었다. 스페이스 X 최고경영자(팔란티어의 피터 틸과 함께 '페이팔 마피아'라 불리는 그 사람)의 나치식 경례 사진은 미국 기술 엘리트들의 정신 상태를 시각적으로 보여준다. 미국의 최첨단 기업들이 트럼프를 방패 삼아 민족주의, 반자유주의, 기독교-근본주의의 '뉴 아메리카'에 헌신한 것은 중국 때문이었다. 국가의 강력한 통제 하에 이루어지는 기술 발전이 미국을 압도할 거라는 불안감이 그들을 자극했고, 그렇게 미국과 중국은 제각각 기술 낙원, 기술 유토피아의 건설을 위해 미친 질주를 계속하고 있다. 이기는 편 우리 편,이라고 나이브하게 말할 수 없는 상황. 어느 쪽이 이기든, 우리 편이 아닌 것은 확실하고, 사실 우리도 개네 편 하고 싶지도 않다.

5. 인간 vs 로봇 : 가까운 미래에 휴머노이드는 인간의 모습에 거의 근접해질 거라고 예상하는 사람들이 많다. 화면 저편의 LLM(대규모 언어 모델)을 바탕으로 한 챗지피티와의 대화에서도 감정적인 연결이 가능한 현실에서, 휴머노이드의 모습을 한 챗봇이 인간 삶에 어떤 영향을 미칠 것인가. 이 역시 궁금한 지점이다.

읽고 있던 책은 『기계가 언어를 사용한다는 것에 대한 인문학적 사유』였는데, 상호대차 도서인지라 반납하라고 해서 일단 반납했다. 지금 읽고 있는 책은 '인류와 로봇의 불편한 동거'를 희곡 형식으로 풀어낸 『R. U. U 로줌 유니버설 로봇』이고, 오늘 도서관에서 받아온 책은 『비인간 권력』이다. 첫 번째 책은 2번 카테고리에 들어갈 수 있을 것 같고, 지금 읽고 있는 책은 5번 카테고리에 들어가면 되겠다. 『비인간 권력』은 어느 카테고리에 들어갈지 모르겠다. 모르니깐 읽어봐야겠다.

인간은 늘 다른 사람에게 도움을 받아야한다

1. 만화로 보는 맨큐의 경제학 1

다락방님이 재미있게 읽으셔서 따라 읽은 책이다. 만화라고 쉬이 생각하면 안 되는 것이, 내용이 생각보다 알차다! 정치 경제 좋아했던 나지만, 사실은 정치만 잘했고, 경제는 어려웠는데, 이 책을 읽다 보니 경제를 잘 아는 사람이라면 훨씬 더 재미있게 읽을 수 있겠다 싶다.

<인간은 늘 다른 사람에게 도움을 받아야 한다>의 다음 문장은 '왜냐하면 인간은 이기적이기 때문이다.' 공존과 자기희생, 도덕론에 대한 호소가 아니라, 이익을 나누는 방식으로 서로를 유익한 방향으로 유도하는 것. 그들의 자비심이 아니라 이기심에 의존한다는 부분이 인상적이다. 사회주의의 역사적 실험이 실패한 이유는 바로 이 지점이고, 그러면서도 각 개인의 이익 추구가 공동의 번영으로 안착하도록 만드는데 국가가 역할을 해야 한다고, 나는 생각한다.

2. 복 타러 간 총각

선생님~ 오늘 책 읽어주시면 안 돼요?라고 다정하게 묻는 8세가 있어, 그 소중한 부탁을 들어주지 않을 수는 없으며. 아이 둘을 책으로 길렀어요,라고 말하기 저어 되기는 하지만, 아무튼 어린 시절에 원 없이, 한없이 책을 들이밀기는 했다. 그 부작용은 오늘 이 시간, 책 안 읽는 성인(들)이 되는 것으로 쓸쓸한 마무리.

복 타러 간 총각은 되는 일이 없어 그걸 하늘님에게 물어보러 길을 떠나, 먼 길 가는 길에 이런저런 사정 있는 사람들을 만나게 된다. 결혼만 하면 남편이 죽어버리는 여자가 있었고, 내내 공들여 키운 나무가 죽어버려 낙심한 노인이 있었고, 3천 년 기다려도 용이 되지 못하는 이무기가 있었다. 그들에게 도움을 받은 후, 접수했던 소중한 민원을 하나하나 하늘님께까지 전하며, 대략 사정을 들려드리고, 답안지 얻어 돌아온다. 정작, 총각의 질문, '나는 왜 되는 일이 없나요?', '내 복은 무엇인가요?'의 답은 얻지 못한 채였다. 총각의 안내에 따라 문제를 해결해 가는 과정 가운데, 총각은 의도치 않게 금은보화와 함께 각시를 얻게 되었으며. 집으로 돌아와 열심히 농사짓고 알콩달콩 살다 보니, 자기 복이 무엇인지 알게 되었다는 이야기.

가정을 이뤄 오늘, 현재의 일에 충실하라는 정상성에 대한 강한 독려와 촉구를 모르는 바 아니나, 행복의 주체는 항상 총각이고, 남자임을 우리 여성들은 모르지 아니한다는 점을 여기에 적어 둔다.

3. 새로운 질서

기계에 의한 통치와 '잘못된 결정을 할 권리' 부분이 기억에 남는다. 자신이 직접 그 답을 알게 되기까지 혹은 절절히 인식하기까지 인간은 좀처럼 '변하지' 않는데, 그런 인간에게서 '낭비할 권리', '실수할 권리'를 빼앗으려 한다면, 이것이야말로 인간성 말살의 현장이라 할 수 있겠지만, 사실 현대의 부모들은 적잖이 자식에게 이런 방식을 강요하기는 한다. 적어도 내 자식만은 내가 했던 실수를 반복하지 않기를 바라는 마음. 나 역시 그런 마음이 없었다, 할 수 없다. 무균실에서 혼자 키울 거 아니라면, 이 험한 세상을 마음껏 경험하게 두는 것이 올바른 육아법일 텐데.

아울러 어떤 게임에서든 더 정확하게 미래의 수를 계획하기 위해 AI는 점차 과거의 행동에 대한 기억을 제 것으로 획득할 가능성이 있다. 그러한 기억은 말하자면 주관적 자아의 기층이 될 것이다(오늘날 시스템은 그런 기억을 갖지 않는다. 자신이 과거에 특정 행동을 시도했다는 사실을 주관적으로 '알' 필요가 없으며, 오직 그 행동이 미래에 성공할 확률만 필요하다). 우리는 시간이 흐르면 기계가 역사, 우주, 인간 본성, 지능형 기계의 본성이란 무엇인지 결론을 도출하고 그 과정에서 기초적인 자기 인식을 갖게 되리라 예상해야 한다.(95쪽)

머신러닝으로 훈련된 모델은 인간이 새로운 발견(모델의 출력값)을 알게 해주지만 그 발견이 이루어진 방법(모델의 내부 과정)을 이해하게 허용하지는 않는다(74쪽)는 부분은 95쪽의 기계의 기초적 '자기 인식'과 연결되어 생각할 수 있다. 인공지능 내부에서 이루어지고 있는 과정을 현재 인간은 이해하지 못하고 있다는 부분, 그에 더해 인공지능이 과거의 행동을 반복하면서 그 기억을 자신의 것으로 인식할 가능성은 인공 지능이 가히 기계가 아니라 '지능'으로서 존재할 가능성을 보여준다. 그렇다. 인공 지능은, 인공 '지능'이다.

육체적으로 연약한, 정확히는 무기력한 존재인 인간은 지구의 최상위 포식자가 되는 과정에서, 많은 동식물들을 멸종시켰다. 의도적이었든 그렇지 않았든, 그건 중요한 문제가 아니다. 인간이란 존재 자체가 그들에게는 위협이 되고 말았다. 236쪽, 인류와 AI와의 공진화 부분을 읽으면서, 착잡한 마음은 어쩔 수 없었다. 가능할 것인가. 공진화 이전에 공존이 가능할 것인가. 늙어가고 유한하고 느린 인간이, 늙지 않고 빠른 AI를 당해낼 수 있을 것인가.

4. 신장 위구르 디스토피아

일전에 하이드님이 칭찬하셨던 알라딘의 <읽기의 계보> 프로젝트를 나도 칭찬한다. 두 번째 <자기 자신을 쓴다는 것>은 글 하나하나 꼼꼼히 읽었고, 한 번 더 찬찬히 읽어보고 싶다. 첫 번째 <AI는 인간의 꿈을 꾸는가?>는 익숙하지 않은 부분이 많아 골라 읽었고, 관심이 가는 책들은 골라 두었다.

『신장 위구르 디스토피아』는 2017년부터 계속되고 있는 중국 정부의 소수 민족에 대한 '재교육'을 조명한다. 중국 당국은 150만 명에 달하는 위구르족, 카자흐족, 후이족 사람들을 수감해, 정부의 시책에 대한 반복적 재교육을 실시한다. 이를 "직업 훈련 프로그램"이라고 주장하는 중국 당국은 현재 385곳의 시설에서 그들이 '위험하다'라고 지목한 사람들을 구금하고 있다. 당국에 의해 '예비 범죄자'와 '잠재적 테러리스트'로 분류된 이들은 구금 시설에서 이슬람 신앙과 민족 전통을 버리고 '하나의 중국'에 동화될 것을 강요당한다. "오직 국어로 말하라, 애국하라, 조국에 해로운 것에 반대하라, 이 방 안에 종교란 없다, 벽에 걸린 TV를 비롯해 어떤 것도 손상시키지 말라, 싸우리 말라, 누구도 비밀 대화를 할 수 없다, 누구도 다른 방의 교육생들과 대화해선 안 된다, 자신의 의자에 앉아라."(34쪽)

빅브라더의 현실은 참혹하다. 신장의 모든 2,500만 거주민들은 "모두를 위한 신체검사"라 불리는 색채 인식 데이터 수집 절차를 거쳐야 하는데, 얼굴과 홍채를 스캔하고, 목소리 특징이 녹음되고, 혈액과 지문, DNA의 채취를 통해 얻어진 그들의 신체 데이터는 데이터세트에 저장된다. 영화를 보기 위해 영화관을 찾는 평범한 일상에서도 그들의 행동반경은 당국의 감시 아래 있다.

공산주의 정치 체제가 과학 기술을 통제의 수단으로 사용하려 할 때, '중국은 기술 봉건주의의 실사판이 될 것인가'의 의문을 이 책을 통해 풀어볼 수 있을 것 같다. 답을 이미 알고 있는 것 같은 느낌이 들기는 하다.

수박과 아빠

여름이 되면 수박을 많이 먹는다. 제일 좋아하는 과일 두 개만 고르라면, 포도랑 수박. 세 개 말해도 되나요? 그럼 자두. 포도, 수박, 자두.

시아버지가 돌아가시기 전에 여름이면 수박을 잘라 둥근 통에 담아 드렸다. 시어머니가 못하시는 건 아니지만, 시아버지께 뭐 해드릴게 없는데, 수박 자르는 건 나도 할 수 있으니까. 다 드신 통이 돌아오면 다시 수박을 담아 가고, 그 통에 수박을 담고 가서는 다시 빈 통이 돌아오고. 시아버지가 돌아가신 후에는 시어머니 드시라고 수박을 잘라 둥근 통에 담아 드렸다. 시어머니가 수박 자르는 게 힘들 정도로 연로하신 건 아니지만, 혼자서 수박 한 통 사서 먹으면 오래 걸리니깐. 그러다 보니 마음에 걸려 작년에는 한두 번 친정 부모님에게도 수박을 잘라 역시나 둥근 통에 담아 가져다드렸다.

지난주에 수박을 잘라 시댁과 친정에 반씩 담아 갔다. 자르면서 맛보니 별로여서 가져갈까 말까 고민하다가 가져갔다. 맛이 없다는 심심한 고백에, 시어머니는 그래도 맛있다고 하셨고, 아빠는 '수박을 잘 못 샀구먼.'이라고 간단히 말씀하셨다.

이번 주말에 수박 한 통을 사서 집으로 돌아온 빈 통에 담아 시댁에 보냈다. 냉장고에 바로 넣지 않으시고 맛을 보시더니, 맛있다 하셨다고 남편이 전했다. 어제는 월요일이라 많이 피곤한데, 맛없는 수박으로 본때를 보여드렸으니, 이번에 맛있는 수박도 맛 보여야겠다 하고 수박을 한 통 더 사서는, 석박지보다는 작지만 대충 깍두기 모양으로 크고 반듯하게 잘라 둥근 통에 담아 친정에 갔다.

늙으신 부모님은 두 분 다 주무시고 계셨는데, 내가 들어서니 두 분 다 잠에서 깨셨다. 아빠는 어느새 포크를 들고 수박 조각 두 개를 맛보셨다. "이번에는 잘 샀네." "아니, 왜. 수박을?" 이라는 엄마 말이 떨어지자마자, 아빠가 그러셨다. "왜, 수박... 이렇게 딱 잘라오니 좋잖아. 딱 먹게.""아니! JH이 아빠! 애가 수박을? 수박 써는 게 얼마나 힘든데, 응? J야, 수박 이렇게 가져오지 말라고~~!!" 여기서 한 마디를 더하면 엄마가 폭발할 것을 잘 아시는 아빠는 더는 말이 없으시다.

그랬다. 우리 아빠. 한국에 수입되는 모든 과일을 서둘러 맛보시는 분. 계절이 바뀔 때마다 등장하는 과일을 제일 먼저 맛보시는 분. 제철 과일의 최고급 포식자. 아침과 저녁, 새벽과 오후에도 과일을 즐기시는 우리 아빠. 엄마와의 토크로 말하느라 바쁜 내 입에 부지런히 사과를 넣어주시는 분. 그런 아빠에게도 수박 썰기는 귀찮은 일이었으니, 아빠는 잘 됐다~ 싶으셨을 텐데, 엄마의 진심을 담은 블로킹에 그만 할 말을 잃어버리셨던 거다.

괜찮다고 하는데도 아빠는 굳이 옷을 갈아입으시고, 주차장으로 따라 내려오셨다. 전 국민적 관심사 주식 토크를 잠시 나눈 뒤, 아빠와 즐거운 빠이빠이.

수박 가득한 통을 받아드시며 즐거이 통을 열어 바로 맛보시는 시어머니와 '맛이 있다', '맛이 없다'를 사실적으로 묘사하시는 아빠. 그리고, 수박 맛이 전혀 중요치 않고, 오직 내 손목만 중요한 우리 엄마.

엄마 딸이라 다행이라고, 아빠를 똑닮은 내가 생각한다.

책을 샀다. 벌써 2주가 지났군.

정아은 작가님의 책은 『엄마의 독서』만 읽어봤는데, 작가님과의 이별이 내내 아쉽고 안타깝다. 팔딱팔딱한 작가의 문장을 다시 한번 느껴보고 싶어서 샀다. 『The Daily Stoic』은 영어책 구입 시즌인데(원서 구입 강박), 구입할 만한 책이 안 보여서 샀다. 브론테 자매 집게 때문인지도 모르겠다. 『피날레』는 수전 구바라 샀다. 수전 구바니까. 책 살 이유로 완벽하게 충분하다.

역시나 주인공은, 브론테 자매 집게. 두꺼운 책도 잘도 잡힌다.

너무 졸리다. 커피를 두 잔이나 마셨는데도 너무 졸리다. 9시에 한 잔, 11시에 한 잔.

졸리다... 아, 너무 졸리네.

[노동의 배신] 가난이 선사하는 무력감

바버라 에런라이크의 『노동의 배신』을 읽고 있다. 이 저자의 책은 『긍정의 배신』이 제일 유명한 것 같은데, 나는 2021년에 『200년 동안의 거짓말』을 여성주의 책 같이읽기 이웃님들과 함께 읽었다.

시작은, AI다.

인공지능에 관한 책을 잘 이해하지도 못하면서, 문송이며 기계치인 내가 관련 책을 계속해서 읽고 있는 이유는 한 가지다. 의문이 아직 해결되지 않았기 때문이다. 내 질문은 인공지능의 의식에 대한 것이다. 인간 의식에 대해서도, 아직 학계에서 정해진, 혹은 확정된 이론이란 게 없다(라고 나는 알고 있다). 인간 뇌의 많은 부분은, 우주와 마찬가지로 인간에게는 미지의 영역이다. 인간은 자신의 뇌가 어떻게 작동하는지에 대해 아직도 여전히 모르는 부분이 많은데, 그런 채로, 그런 환경 속에서 인간의 힘으로 인공지능이 탄생했다. 인간의 손으로 만들어진 인공지능이 어떻게 작동하는지에 대해 인간은 정확하게 파악하지 못하고 있다. 그게 『AI, 신의 탄생 인간의 종말』의 저자들의 주장이다.

내 궁금증은 이 지점에 있다. 인공지능이 자기 결정권을 갖는가. 인공지능도 인간처럼, 인간의 뇌가 그러하듯이, 선호의 메카니즘에 따라 행동하는가. 경사하강을 통해 강화된 인공지능의 판단과 실행은 인간에게는 마치 '욕망'처럼 보이는데, 이것이 인간의 욕망처럼 작동할 수 있는 가능성이 있는가.

또 하나의 궁금증, 혹은 문제 의식은 '노동'에 대한 것이다. 여성주의 책 같이읽기 친구들과 비교적 긴 시간 동안 페미니즘에 대해 읽어 오면서 느끼는 것은 각자 공명하는 지점이 다르다는 것이다. 어떤 이는 섹슈얼리티에, 어떤 이는 젠더에, 어떤 이는 환경 문제에 관심을 갖고, 또 어떤 사람은 이것이 작동하는 권력의 방식에 관심을 갖기도 했다. 나는 가사 부불 노동과 강제적 이성애에 관심이 있다. 19년 동안의 전업주부의 생활을 끝내고, 아이들이 다 자라 이제 더 이상 내 손이 필요하지 않으니, 나는 워킹맘이 되어야 하나, 하는 고민과 갈등의 순간들이 나의 페미니즘 읽기에 녹아 있다. 사회적으로 계산되지 않고 재화로 환원되지 않는 노동 가운데 있었기 때문에, 노동의 의미와 역할에 대해 오래 생각할 수밖에 없었다.

내가 지금 하고 있는 이 일은 돈이 되지 않으니 의미가 없는 걸까? 돈으로 환산되지 않으니 내 노동은 무의미한 걸까? 남편의 카드로만 이루어지는 나의 소비는 비윤리적인 행동인 걸까? 돈을 벌어 오지 않으니 우리 가정 경제에 나의 기여는 전혀 없는 걸까. 맞다, 아니다를 오가는 시간에 『혁명의 영점』의 실비아 페데리치와 『페미니즘의 투쟁』의 마리아로사 달라 코스따, 그리고 『가부장제의 정치경제학』의 크리스핀 델피를 읽었다. 『파크애비뉴의 영장류』도 빼놓을 수 없는 책이다.

답이라고 하기에는 좀 그렇지만, 나 나름의 해결책으로 생각했던 게 기본소득이었다. 이미 국가는 가정에서 이루어지는 육아에 대해 일정 금액(조부모 돌봄 수당, 매월 30만원/서울시)을 지급하고 있다. 일반적인 가사 노동에 대해 국가가 임금을 지급하는 데까지 가는 길은 너무 멀 테니, 나는 기본 소득이 그 중간 단계 혹은 계산이 복잡하고 비효율적인 다른 방식보다 훨씬 효율적일 거라고 생각했다. 여전히 적은 금액이기는 하지만, 기초연금과 노령연금이 노인들에게 실질적 도움이 되고 있는 것처럼, 기본소득의 도입과 확대가 필요하다고 생각했다. 이제 막 새로운 발걸음을 내딛는 20대 초반의 젊은이에게, 가난한 예술가에게, 새로운 진로를 모색하는 중년에게, 그리고 하는 일은 많지만 툭하면 '논다'는 이야기를 듣는 전업주부에게 경제적인 부분에서의 작은 안전판, 확실한 시작점이 되어줄 거라 생각했다.

그런데, 세상에... AI의 시대가 도래한 것이다. 2-3년 전만 해도 인공지능의 발전이 이렇게 빠른 속도로 이루어질지 예상하는 사람은 많지 않았다. 노동과 직업에 대한 전망 역시 노동의 형식이 단순하고 물리적인 힘이 요구되는 업종에서 로봇이 인간의 노동력을 대체할 것으로 예상했었다. 실제는 달랐다. 2040년과 2050년 사이를 예상했던 범용인공지능(AGI)의 출현이 10년 내외로 예상되는가 하면, 실제로 인공지능이 빠른 속도로 대체하고 있는 직업은 프로그래머, 변호사, 디자이너 등 종전의 예상을 뒤엎어 버리는 경우가 발생했다. 초인류 기업을 자청하는 빅테크 기업에서 '기본소득'에 대해 말문을 열었다. 노동하지 않은 인간은 소비하지 않을 것이고, 인간이 소비하지 않는다면, 자본주의의 바퀴로 운영되는 그들의 유토피아의 존재할 수 없기에, 그들은 기본소득을 들고나왔다. 인류 전체를 위한다기보다는 소비 중단과 경제 공황, 자본주의의 실패를 막기 위한 고육책으로 보이지만, 아무튼 그렇다. 그들조차도 기본 소득의 도입을 염두에 두고 있다.

이 때에, 『노동의 배신』을 읽는다. 인공지능과 휴머노이드의 등장으로 노동이 사라지려는 이 순간, 일하지 않는다면 인간의 할 일이란 무엇일까,를 생각하면서. 청소부, 웨이트리스, 요양원 식이 보조원, 월마트 매장의 직원의 일상, 고되고 더럽고 짜증 나는 순간을 기록한 이 책을 읽는다. 종일 일했는데도 항상 배고프고, 평생 노동했는데도 내 발 하나 뻗을 집이 없는 사람들에 대한 기록을 읽는다.

억울한 지점이라면, 이 책이 한국에 2012년에 나왔는데, 이제야 이 책을 읽는다는 것이다. 세상에, 이 책을 이제서야 만나다니. 쉬지 않고 일하면서도 벗어날 수 없는 가난의 구조적인 문제를 정면으로 파헤친 그녀의 혜안이 놀랍다. 자신이 이런 일(고된 육체 노동)을 계속할 수 있는 이유가 건강하고, 이제까지 훌륭한 단백질 식사를 계속해왔고, 강도 높은 운동으로 단련된 몸이기에 그렇다는걸, 그녀가 문장 속에서 말할 때, 너무 흥분된다. 열심히 일해도 계속 가난한 삶에 대한 심오하고 발랄한 통찰이 가득하다.

간식 먹고 얼른 나가야 하는데, 그 다음이 너무 궁금해 2쪽만 읽고 나가야지 해서 책을 펼쳤는데, 변기 청소하는 이야기가 나왔다. 말 그대로 똥 이야기. 먹어야 해서 잠시 덮었다. 이따가 다시 펼쳐야겠다.

[AI, 신의 탄생 인간의 종말]의 결말을 찾아서

얼마 읽지 않았지만, 다 읽어야 할 수 있는 건 아니라서 굳이 해 본다. 내가 보기에 요즘 쏟아져 나오는 AI, 인공지능 관련 책들은 크게 네 가지 분류 중 하나에 속한다. 첫 번째는 AI라는 신기술을 본인에게 적합한 툴로 어떻게 활용할지를 가르쳐 주는 책들이다. 이런 책들이 그런 실례가 될 수 있겠다.

두 번째는 AI 시대의 도래로 인간의 삶과 인간 사회, 우리 인류 전체의 운명이 어떻게 변화하게 될 것인지에 대해 핑크빛 전망을 내어놓는 책들이다. 미래의 주인이 될 것이 분명한 AI를 주인으로 삼아 살아가겠다는 본인의 주장이 강고해 AI에게 미리 큰 절을 올렸기에 김대식의 책도 여기에 넣는다.

세 번째는 AI가 우리 삶의 현실이 되었을 때의 위험성을 경고한 책들이다. 이 분류와 관련해서는 소설가들의 활약이 돋보이는데, 외국 소설가들은 어쩐지 잘 몰라, 일단 한국 작가의 소설들만 모아보면 이렇다.

지금 읽는 이 책은 위의 분류 중 어느 것에도 해당되지 않는다. 이 책의 저자들은 '머신 인텔리전스 리서치 인스티튜트Machine Intelligence Research Institute, MIRI'의 설립자인 엘리에저 유두코스키와 현재 대표인 네이트 소아레스이다. 오픈 AI의 CEO인 샘 올트먼은 '유드코스키가 오픈 AI를 창립하기로 한 결정에 결정적인 역할을 했다'라고 밝힌 적이 있다(20쪽). 가장 먼저 AGI의 출현을 예견한 저자들은, AI 성능의 급속한 발전에 비해 'AI가 잘못되지 않게 만드는 방법'에 대한 연구가 매우 느리게 진행되고 있다고 생각했다. 우려와 경고의 메시지가 아무 소용이 없었다. 그래서, 그들은 MIRI의 연구 대부분을 축소하고, 오직 하나의 경고를 전하는 일에만 집중하기로 한다.

지구 어디에서든, 어떤 기업이나 단체가 지금과 비슷한 기술이나 이해 수준으로 초지능을 만들어낸다면, 지구상의 모든 사람은 죽게 될 것이다. (22쪽)

챕터 5의 제목은 <초지능이 사랑하는 것들>이다. 초지능은 우리 인류에게 '좋은 것'이 될 수 있는가? 답은 '아니다' 이다. 인류의 미래를 저자들은 소제목으로 말한다.

우리가 '쓸모'가 없기 때문이다.

우리는 초지능에게 '좋은 교역 상대'가 되지 못할 것이다.

초지능은 우리를 '필요로 하지' 않을 것이다.

우리는 초지능에게 '좋은 애완동물'이 되지 못할 것이다.

초지능은 우리를 내버려두지 않을 것이다.

암울하기 짝이 없는 이 책을 이렇게 읽고 있다. 그리고, 더 읽기 전에, 더 쓰기 전에 나는 좀 써야겠다. 그러니깐, 왜 내가 AI에 이렇게 관심을 갖고 있는지, 궁금해하는지, 알고 싶어 하는지에 대해서 말이다. 아무도 궁금해하지 않지만, 중요하다고 생각해 나 혼자 계속하는 이 공부에 대해서 말이다.

사람들은 각자 자신이 좋아하는 분야가 있다. 그걸 주제라고 말할 수 있고, 소재라고 말할 수 있다. 내가 소설을 좋아하는 이유는, 소설이 인간 군상을 보여줄 뿐만 아니라, 보이지 않는 인간의 내면을 보여주기 때문이다. 빅토르 위고를 통해 나폴레옹 전쟁과 파리의 수도 시설에 대해 배울 수 있고, 필립 로스를 통해 미국 매카시즘의 광기와 인종 차별의 양극단을 간접 경험할 수 있지만, 언제나 내 관심은 인간이다. 인간의 발화, 그로 인한 인간의 반응, 그에 따른 인간 심정의 변화, 그 때문에 일어나는 인간 사이의 갈등. 내 관심은 인간이다. 마시멜로 같은 로맨스도, 질척거리는 질투와 끝없는 집착도, 안 될 듯, 절대 안 될 듯하면서도 끝내 이루어지는 어떤 용서와 불필요한 이해도. 인간과 인간 사이의 일이다. 인간이 없다면, 내 앞의 이 인간(?)이 아니라면, 일어날 수 없는 일이고, 일어날 필요 없는 일이다. 내 관심은 사랑이고 인간이다. 오해이고 인간이며, 용서이고 인간이다.

그래서, 인간 운명의 끝에 대해 나는 관심이 있다. 오늘 하루를 치열하게 사는 그 마음에 대해 궁금한 만큼, 인간의 끝, 인간 삶의 끝에 대해 관심이 많다. 나는 교회에 다니니까, 예수님을 믿으니까, 내게는 나 나름의 해답이 있고, 나는 그 답을 소중히 여긴다. 내가 궁금한 건, 그렇지 않은 사람의 답이다. 나와 다른 내세관을 가진 사람이 삶에 대해 어떻게 생각하는지, 죽음에 대해 어떻게 생각하는지 궁금하다. 가까운 사람들에게 이 질문을 직접적으로 하는 게 일반적인 경우는 아니라서, 나는 책을 통해 그 질문에 대한 답을 구한다.

인간이 물질로만 이루어져 있고, 그것이 인간 존재를 전체를 설명할 수 있는 그 무엇이라면, 아니, 그 전부라면. AI는 또 다른 물질로 이루어진 새로운 형체의 등장일 뿐이다. 인간은 동물성 물질 위(내부)에서 가능한 의식이고, AI는 실리콘 위에서 만들어진 의식일 뿐이다. 그래도 인간이 다르다고. 인간만은 다르다고 어떻게 말할 수 있겠는가.

인간의 영. 인간의 혼. 인간의 넋. 인간의 영혼. 인간의 혼백이 없다면 말이다. 인간 내부에 심어진 신성. 인간의 힘으로 얻어진 어떤 것이 아니라, 외부에서 주어진 그 무엇이, 인간에게 없다면 말이다.

원래는 초지능이 현대적 방식으로 만들어질 때, 어떻게 인간의 이해를 넘어서는지에 대해 쓰려고 했다. 이세돌 9단과 알파고의 대결을 생각해보면 이해가 쉽다. 1국에서부터 2국, 3국에까지 이세돌 9단 뿐만 아니라, 세기적 대국을 중계하던 해설자들도 알파고의 수를 '이해하지 못했다'. "이세돌 9단의 수는 정확했고, 빈틈이 없었어요. 알파고는 계속 실수를 한 거 같았는데, 어느 순간 정신을 차리고 보니, 알파고가 이겨 있었어요." 이름이 기억나지 않는 어떤 바둑 기사가 인터뷰 중 했던 말이다.

이 책은 지금까지 내가 읽었던 어떤 AI 책보다 더 전문적이고, 상세하다. 천생 문과인 내가 이해하기 어려운 대목이 많은 것은 사실이다. 한 번 시도해 보려 했으나... 그래, 시도해 보자.

어떤 문장을 입력하면 그 문장이 자연스럽게 이어지도록 다음 문장을 써주는 기계를 만들겠다고 해 보자.

1. 먼저, 문장 조각(예를 들어 'Once upon a ti')을 숫자들의 나열로 바꾼다.

2. 숫자를 저장하는 컴퓨터를 준비하고, 각 숫자를 저장하는 칸을 파라미터라고 부른다.

3. 그 저장 공간을 숫자로 채우고, 이 칸 안의 숫자들을 가중치라고 부른다.

4. 아키텍처(입력값과 파라미터 안의 가중치를 어떤 규칙으로 조합할지 결정)를 정한다.

5. 이런 일련의 연산 결과로 출력값이라는 숫자 세트가 만들어진다.

6. 초기 상태의 '미완성 지능'을 훈련시키는데, 그때 사용하는 과정이 경사하강이다. 자동화 과정을 통해 훈련 데이터를 사용해 수개월 안에 이 절차를 반복한다.

7. 훈련이 끝나면 기계가 내놓은 확률값을 일반 텍스트로 바꿀 수 있다.

이런 과정을 통해 우리 앞에 등장한 것이 바로 거대 언어 모델 Large Language Model, LLM이고, 여기에서 한 단계 더 발전시킨 것이 우리가 자주 사용하는 챗지피티이다.

저자들 주장의 핵심은 이렇다. '지능의 비밀'은 특정 아키텍처의 선택에 있지 않다. 방대하고 반복적인 아키텍처는 각 토큰 token(AI가 언어를 처리하기 위해 단어를 쪼갠 최소 단위)마다 1만 6384개의 숫자를 부여하고, 수십억 개의 파라미터를 128개의 '어텐션 헤드'로 배열한 뒤, 하나의 레이어로 묶는데, 이런 레이어가 126층 쌓인다고 한다. 요는, 그 숫자들이 어떻게 이런 말을 만들어내는지 알지 못한다는 것이다. 인간의 염기서열을 아무리 들여다보아도 이 아이가 어떤 사람으로 성장할지 알 수 없는 것처럼, AI 내부의 그 수많은 내부 수치를 아무리 들여다 보아도 그들이 어떻게 그런 결론에 도달했는지 알 수 없다는 것이다.

컴퓨터가 충분히 강력해져서, 인간이 그 내부의 사고 과정을 이해하지 못한 채 경사하강을 통해 AI를 대량으로 길러낼 수 있게 되어서다. (63쪽)

암울한 이야기는 끝이 없지만, 읽어보겠다. 가 보자, 어디 한 번.