AI와 부자유친 (feat. 제프리 힌턴)

미국의 탈선이 궁금해 읽기 시작한 『이병한의 아메리카 탐문』을 읽고 팔란티어에 대해 조금 알게 됐다. AGI 공포 확성기 김대식의 『AGI, 천사인가 악마인가』를 이어 읽었고, 『박태웅의 AI 강의 2025』를 거쳐 레이 커즈와일의 『마침내 특이점이 시작된다』를 내처 읽었다.

한결같이 내 글에 진지한 친구는 이 시리즈를 좋아한다고 말했는데, 이런 선택이 시리즈라고 생각한 적은 없었지만 친구의 이야기를 듣고 보니 그 말이 맞는가 싶었다. 유발 하라리의 『넥서스』를 읽고 있고, 『기억 전달자』를 다시 읽고 있으니 말이다. 하라리의 말 그대로, '당연한 말이지만' 정보를 정확하게 분석하고 중요한 진실을 발견한다고 해서 그 결과물을 지혜롭게 사용한다는 보장은 없다(13쪽). 현재 인공지능에게 인지 능력이 없을지는 몰라도, 그것은, 인공지능은 이미 지능을 가진 상태에 도달했는지도 모른다.

『기억 전달자』 속 조너스가 사는 세계는 발전된 기술을 이용해 인간의 욕망을 제어하고, 모든 차이를 강제적으로 억제하며, 자유 없는 편편한 평등을 추구한다. 지금 우리가 살고 있는 사회는 그러한 평등이 실현되지 않았지만, 조너스의 세계 속에 구현된 기술 전체주의에는 충분히 근접해 있다. 핸드폰과 소셜 미디어, 10미터 간격의 CCTV와 블랙박스. 편리해진 생활만큼 개인의 프라이버시는 침해당한다. 쿠팡에 1층 출입 비밀번호 알려준 이유도 바로 거기에 있다. 제 물건을 우리 집 현관 바로 앞까지 가져다주세요.

인간이 불멸로 가는 과정에 대해서는 나는 관심이 없다. 불멸의 꿈이란 모든 인간, 살아있는 모든 유기체의 일관된 목표이기에 불멸을 위한 노력은 자연스럽다고 생각하는데, 그래서 불멸을 위한 투자는 하기 싫은 것이라기보다는 하지 못하는 것일 가능성이 높다고 생각한다. 모두가 진시황제와 일론 머스크가 아니기 때문이다. 켄 리우는 그의 단편 『호』에서 불멸의 삶에 대해 썼다. 글쎄, 200년까지는 괜찮을지 모르겠지만, 만약 500년이라면. 오, 예~

더 관심이 가는 지점은 인공지능과 휴먼노이드의 결합이 인간에게 미칠 영향, 정확히는 해악에 대한 것인데, 그간의 소설과 영화를 통해 예견되었던 강인하고 계산에 능한 새 인류의 탄생이 우리의 삶을 어떤 방식으로 바꾸어갈지 궁금하다.

지난주에는 인공지능의 대부, 제프리 힌턴의 인터뷰 기사를 읽게 됐다.

‘인공지능 대부’ 제프리 힌턴의 경고…“일자리 대체·빈부 격차 심화” [AI 산업혁명]②

(https://v.daum.net/v/20251203070149695?f=p&utm_source=chatgpt.com)

△ 기자 : 인공지능의 잠재적 위험성에 대해서도 한국의 시청자들에게 또 전하고 싶은 말씀이 있을까요?

▲ 제프리 힌턴 : 인류에게 기후 변화에 필적한 만큼 심각하고 시급한 문제는, 어떻게 초인공지능을 안전하게 만들 것인가입니다. 초인공지능은 우리보다 더 똑똑할 겁니다. 그리고 우리가 아는 한, 더 지능이 뛰어난 존재가 지능이 낮은 존재에게 통제되는 유일한 사례는 어머니와 아기의 관계입니다. 아기는 (울음소리로) 어머니를 통제하죠. 어머니는 모성 본능을 가지고 있기 때문에 아기가 우는소리를 참을 수 없습니다.

지금까지 우리는 초인공지능을 어떻게 통제할지에 대해서 잘못된 생각을 해왔습니다. 사람들은 임원 비서를 둔 회사 대표를 떠올렸습니다. 인간이 회사의 대표가 되고, 인공지능은 비서가 될 거라고 생각했죠. 물론 인간 사회에서는 비서가 대표보다 더 똑똑하더라도 문제가 없습니다. 대표가 비서를 해고할 수 있는 권한이 있으니까요. 하지만 우리가 마주하게 될 상황은 그렇지 않습니다. 인공지능은 우리보다 훨씬 더 똑똑할 것이고, 우리가 이를 통제할 방법이 있는지 명확하지 않습니다.

그래서 제가 생각하는 더 나은 접근 방식은 인공지능을 '어머니'처럼 만드는 겁니다. 인간이 아기가 되고, 인공지능이 엄마가 되는 거죠. 대부분의 어머니는 아기보다 지능이 훨씬 더 높고, 모성 본능을 중단할 선택권을 준다고 해도 그렇게 하지 않을 겁니다. 우리는 이런 방식으로 초인공지능이 (인간에 대한) 통제권을 갖고 싶어 하지 않도록 설계해야 합니다. 그게 우리의 유일한 희망이라고 생각합니다.

인공지능이 인간의 '통제'를 벗어나려고 했을 때를 대비한 인간 쪽(?)의 대책에 대한 이야기를 들은 적이 있다. 인공지능을 '자식'으로, 인간을 '부모'로 설정하자는 사람도 있다는 이야기에 혼자 웃었다. 아니, 그 집 자식들은 사춘기가 없단 말인가. 인공지능을 부모 산소 옆에서 3년 상을 치렀던 조선시대 사대부 양갓집 지체로 설정하겠다는 말인가. 스스로 자녀의 친구가 되겠다는 부모가 이렇게나 많은 세상에, 부모-자식 설정은 대체 무언가.

그런데, 인공지능의 대부인 제프리 힌턴의 제안은 더하다. 인공지능을 엄마로, 인간을 아기로 설정하자는 것이다. "대부분의 어머니는 아기보다 지능이 훨씬 더 높고, 모성 본능을 중단할 선택권을 준다고 해도 그렇게 하지 않을 겁니다." 아, 아마도. 아마도 그렇겠지. 인간 어머니는 그럴 것이다. 원하든 원치 않든 10개월간 동거해야 하고, 아기가 운다고 모성이 발현되지는 않지만, 아기의 귀여운 용모와 사회적 기대에 의해 아기를 돌보는 시간이 길어지면, 모성 실천을 중단하지 않고 계속할 것이다. 하지만, 왜. 인공지능이 왜, 인간 아기를 돌보려 하겠는가. 게다가 이 아기는 항상 오만하고, 매우 시끄럽고, 완전 많이 먹고, 시도 때도 없이 지구를 어지럽히는데 말이다. 어떻게. 인공지능의 선의에 우리의 미래를 맡길 수 있단 말인가. 목표를 위해 수단을 가리지 않는 인공지능에게, 어떻게 우리의 미래를 맡길 수 있단 말인가.

답을 찾을 생각이 별로 없기는 하다. 관련 책을 몇 권 읽은 내 결론은. 인간이 인공지능의 무제한 진화를 통제할 수 있는 시점을 이미 지나쳐 온 것이 아닌가 싶다. 미국과 중국이, 러시아, 유럽, 우리나라, 일본 등이 힘을 합친다 해도 말이다. 인간 대 인공지능의 전면전이 펼쳐진다면, 인간이 이길 확률은 희박하다. 이 드라마가 어디로 어떻게 가게 될지, 그 장르가 로맨틱 코미디인지, 역사물일지, 스릴러물인지 우리는 알 수가 없다.

책 정리하다가 식탁 뒤 북카트(알라딘 꺼 아님)에 깔려 있는 책 두 권을 발견했다. 언제 샀는지도 모를 책들이여. 내가 읽어주리. 정보라를 읽고, 그리고 그다음엔 장강명을. ​

어쩌면 이상하고 들쑥날쑥한 이 책읽기와 글쓰기는 시리즈인지도 모르겠다.

그럼 다음 편에서 뵙겠습니다. 굿나잇 : )