˝누군가 초지능을 만든다면, 모두가 죽는다.˝

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

 간혹 책을 읽다보면 재밌는 건 둘째치고 많은 사람들이 읽었으면 하는 책들이 있습니다. 널리 공유하고 싶은 지식이기도 하고 어쩌면 계몽적인 내용이기도 한 거 같습니다. 이 책도 그런 책 중 하나입니다. 많은 사람에게 소개하고 권하고 싶은 책입니다.

 일단 저자 소개부터 해보겠습니다. 전 사실 저자를 굉장히 중요하게 생각합니다. 책보다 저자랄까요? 영화도 마찬가지 입니다. 영화보다 감독, 배우를 더 중요하게 여길 때가 있습니다. 놀란 감독이 대표적인 예입니다. 놀란 감독이 어떤 영화를 만들던 간에 저는 보러갈 것입니다. 하루키가 말하는 신용거래입니다. 

 이 책은 저자는 엘리에저 유드코스키입니다. 저는 잘 모르는 사람이지만 AI 분야에서 유명한 분입니다. 2023년 타임에서 선정한 'AI 분야에서 가장 영향력 있는 인물' 중 한 명으로 선정되었고, 인공지능 정렬 연구 분야를 창립한 AI 분야의 선구자 중 한 사람입니다. 아무튼 저자 소개를 살펴보시면 대단한 인물이며 그의 말을 귀담아 들을 필요가 있다는 생각이 드실 겁니다.

 그럼 그가 이 책에서 하려는 이야기는 무엇이냐? 책 제목에서도 드러나듯이 AGI의 위험성입니다. 그냥 위험한 정도가 아니라 인간의 종말, 인류 멸종을 불러올 수도 있다는 주장입니다. 아마 이것도 어쩌면 식상한 내용일 수 있습니다. 이미 많은 SF 소설이나 영화에서 이 주제를 다뤘으니까요. 대표적으로 영화 <터미네이터>가 떠오릅니다. 

 사실 기계가 인류를 종말시키는 방법은 <터미네이터>처럼 귀찮은 방법이 아닐 것입니다. 치명적 바이러스 살포. 혹은 점진적으로 암에 노출시키는 것으로 서서히 멸종을 시킬 수 있을 것입니다. 이 책에 소개된 예시입니다.

 많은 AI 업계의 대부들이 AGI의 위험성을 경고합니다. 멈춰서 안전장치를 마련하고 속도를 늦춰야 한다고 이야기합니다. 하지만 기업가, 정치가들에게 그런 이야기는 먹히지 않습니다. 2차 세계대전 때 처럼 누가 빨리 핵폭탄을 만드느냐가 중요합니다. 남보다 내가 먼저 만들어서 선점하겠다. 기업가와 정치가는 눈과 귀를 닫고 개발에 집중합니다. 

 이 책은 AI의 원리와 함께 AI의 위험성, 예측 불가능성, 통제 불가능성, 이해 불가능성에 대해 말합니다. 우리는 AI를 이해하지 못한 채 쓰고 있습니다. 우리가 우리의 뇌를 완전히 이해하지 못하지만 생각하고 있는 것처럼요. 우리의 뇌에서 무슨 일이 벌어지고 어떻게 왜 벌어지는지 완전히 이해하지 못하는 것처럼 우리는 AI 인공지능이 어떻게 작동하는지 이해하지 못합니다. 그래서 가끔 AI가 예측을 벗어나고 통제를 벗어납니다. 그렇게 사고가 난 후에야 그것을 확인해서 고칠 수 있습니다. 예방은 어렵습니다. 

 AI가 이상하게 작동하면 고치면 됩니다. 그런데 AGI에서는 그 기회가 없을 수 있습니다. 단 한 번 잘못 작동하는 순간 그것을 고칠 기회는 영영 주어지지 않을 수 있습니다. AGI는 일반인공지능을 뜻하는 말로 AI가 체스나 바둑처럼 특수한 것이 아닌 모든 것에 대해 인간 이상의 혹은 인간에 비견되는 지능을 갖추는 것을 말합니다. 인간과 비슷한 코딩 능력을 갖추게 되겠죠. 그러면 자기 자신을 코딩할 수 있게 됩니다. 인간보다 1만배 빠른 속도로 자기 자신을 코딩해서 계속 업그레이드 하는 것입니다. 이를 특이점이라고 합니다. 특이점은 빅뱅처럼 그 전과 후를 비교할 수 없을 정도로 큰 사건을 말합니다.

 만약 누군가 AGI를 개발하게 된다면 그리고 그 AGI가 인간이 예측하지 못하는 동기나 목표를 가지게 된다면, 충분한 안전장치를 준비하지 못한다면, 아주 사소한 실수를 하게 된다면 인류에게 다음이란 존재하지 않습니다.

 우주선은 어마어마하게 많은 부품이 들어갑니다. 어마어마한 돈이 들어가기 때문에 당연히 엄청나게 조심하고 또 조심해서 만듭니다. 하지만 아주 사소한, 전혀 생각지도 못했던 원인 때문에 공중에서 폭발합니다. 우주선을 쏘아 올린 이후에는 수정이 불가능합니다. AGI도 이와 같습니다. 우리는 우리가 아직 완전히 이해하지 못하는 방식으로 작동하는 소프트웨어를 만들고 있습니다. 우주선처럼 폭발한다고 끝나는 게 아닙니다. 어쩌면 인류 전체의 목숨을 걸고 도박을 하고 있는지도 모릅니다. 이미 만들어지면 그 다음에는 수정할 기회가 없을 수도 있습니다.

 인공지능에 대한 가장 근본적인 사실은, 그것이 '만들어진 존재'가 아니라 '자라난 존재'라는 점입니다. 어떤 면에서 인간이 만들어지는 과정에 가깝습니다. 우리는 무엇이 자라날지 모릅니다. 

 전 요즘 제미나이를 엄청나게 많이 쓰고 있습니다. 거의 모든 것에 쓰고 있습니다. 아직 부족한 점들이 있지만 그 능력과 활용성은 놀랍습니다. 하지만 한편으로 저는 인공지능이 두렵습니다. 우리가 안전한 데에서 인공지능의 개발을 멈출 수 있을까요? 어디가 안전한 지점인지도 모르는 상태에서?  

 AGI가 언제 개발될지 모르지만 짧게는 5년에서 10년 내로도 보고 있습니다. 전 지금 상태로도 충분히 만족스럽습니다. 제가 죽기 전까지는 AGI가 개발되지 않았으면 합니다. 

 저의 허접한 설명과 논리보다 이 책의 설명과 근거, 논리를 꼭 보셨으면 좋겠습니다. 

<미이라> 매력적인 캐릭터들

 평점 7.5

 감독 스티븐 소머즈

 출연 브렌든 프레이저, 레이첼 와이즈, 존 한나, 아놀드 보슬로, 케빈 J. 오코너

 장르 모험

 아내가 재밌다고 해서 최근에 본 영화입니다. 1999년 작입니다. "이모텝! 이모텝!" 워낙 유명한 영화라 보지 않아도 본 거 같은 영화였습니다. 

 아무튼 영화 자체는 볼만합니다. 남주, 여주, 빌런, 조연 등 캐릭터가 매력적입니다. 특히 <더 웨일>로 최근에 만났던 브렌든 프레이저를 오랜만에 다시 볼 수 있어서 반갑고 좋았습니다.

 네이버 평점도 9.25 라서 기대가 컸는데 제가 보기에는 재밌게 보긴 했는데 굳이 안봤어도 됐을 거 같다는 생각이 드는 영화입니다. 

 그래도 캐릭터들이 매력적이라 2편도 보고 싶은 생각이 있습니다. 

 평점 10 : 말이 필요없는 인생 최고의 영화. 

 평점 9.5: 9.5점 이상부터 인생영화. 걸작. 명작

 평점 9 : 환상적. 주위에 강력히 추천하고 싶은 영화. 수작

 평점 8 : 재밌고 괜찮은 영화. 보길 잘한 영화. 

 평점 7 : 나쁘진 않은 영화. 안 봤어도 무방한 영화. 범작

 평점 6 : 아쉬움이 많이 남는 영화. 6점 이하부터 시간이 아까운 영화. 

 평점 5 : 영화를 다 보기 위해선 인내심이 필요한 영화. 

 평점 4~1 : 4점 이하부터는 보는 걸 말리고 싶은 영화. 망작

유인원을 사랑한 세 과학자

유인원을 사랑한 세 여자 - 제인 구달, 다이앤 포시, 비루테 갈디카스 이야기
짐 오타비아니 지음, 박영록 옮김, 메리스 윅스 그림 / 서해문집 / 2014년 8월

 영장류 연구를 한 세 여성 과학자 제인 구달, 다이앤 포시, 비루테 갈디카스의 이야기를 다룬 그래픽노블입니다.

 세 여성의 이야기가 순차적으로 이어지는 게 신기했습니다. 세 분 모두 인류학자 루이스 리키로 인해 연결됩니다. 

 루이스 리키는 혜안이 있었습니다. 영장류 연규에는 여성이 남성보다 더 적합하다는 것이었습니다. 당시 제인 구달과 다이앤 포시는 동물 연구에 대한 변변한 학위도 지식도 없는 상태였습니다. 하지만 루이스 리키는 반대를 무릅쓰고 그녀들을 연구자로 택했습니다.

 루이스 리키의 생각은 이랬습니다. '여성이 장기 관찰 연구에서 남자보다 인내와 끈기가 있을 것이다. 그리고 영장류는 남성 인간에게 적대감을 보이지만 여성에게는 그렇지 않다.' 였습니다. 그 생각은 유효했던 거 같습니다. 세 과학자 모두 자신이 연구하는 동물들과 돈독하고 특별한 유대관계를 가졌습니다. 동물들에게 하나하나 이름을 붙여주고 친밀한 관계를 맺고 동물 하나하나를 독립적인 개체로 인정하고 존중해주었습니다. 당시에는 과학적 금기를 깨는 행동들이었습니다. 

 세 여성 모두 놀라운 인내와 끈기를 바탕으로 영장류를 연구했습니다. 제인 구달은 무려 40년 넘게 침팬지를 연구했습니다. 그리고 침팬지가 육식을 한다는 사실, 도구를 사용한다는 놀라운 사실을 발견했습니다. 연구를 시작한 지 얼마 안되서 놀라운 발견을 해낸 것입니다.

 다이앤 포시는 고릴라를 연구했습니다. 고릴라는 킹콩 영화 때문에 잘못된 인식이 있는데 온순한 초식동물입니다. 아직까지 인간을 공격한 사례가 거의 없다고 들었습니다. 수컷 고릴라끼리 싸울 때도 대부분 위협만 하고 실제로 물리적으로 싸우는 경우는 드물다고 합니다. 실제로 싸우면 둘 다 치명적인 부상을 입거나 목숨을 잃을 수 있기 때문입니다. 

 그래픽 평전을 보니 세 과학자에 대해 더 많이 궁금해졌습니다. 제인 구달에 관한 책은 몇 권 봤는데 다른 분들의 책도 보고 싶습니다. 

 비루테 갈디카스는 오랑우탄을 연구했습니다. 오랑우탄은 침팬지, 고릴라와 달리 철저한 단독 생활을 한다고 합니다. 그리고 유인원 중 가장 움직임이 적고 가장 나무를 잘 타는 나무 위에서 생활하는 동물이라고 합니다. 

닐스 보어와 양자역학

닐스 보어 - 20세기 양자역학의 역사를 연 천재 ㅣ 푸른지식 그래픽 평전 5
짐 오타비아니 지음, 김소정 옮김, 릴런드 퍼비스 그림, 이강환 감수 / 푸른지식 / 2015년 4월

 그래픽 평전을 보면 오히려 그 인물에 대해 더 궁금하고 더 알고 싶어집니다. 그래픽 평전은 입문서로 좋을 거 같습니다. 

 닐스 보어도 이렇게 평전으로는 처음 만납니다. 양자역학에 대한 책을 보면 절대 지나칠 수 없는 분이 닐스 보어입니다. 아인슈타인과 함께 동시대 물리학의 양대 산맥이었던 분입니다. 

 이 책은 닐스 보어의 삶과 양자영학 이론이 만들어지는 과정을 함께 볼 수 있는 책입니다. 이미 <파인만>으로 뉴욕타임즈 베스트셀러 작가가 된 짐 오타비아니의 그래픽 평전 시리즈입니다. 

 짐 오타비아니의 책을 이어서 보고 있는데 역시 <파인만>이 최고인 거 같습니다. 그만큼 물리학자 리처드 파인만의 이야기가 흥미롭고 재밌기 때문입니다. 

 닐스 보어와 양자역학을 접해보고 싶은 분들께 입문서로 추천드립니다. 

마약 전쟁의 실체

마약 전쟁 - 우리는 왜 이 전쟁에서 실패를 거듭하는가
요한 하리 지음, 이선주 옮김 / 어크로스 / 2025년 9월

 <도둑맞은 집중력>을 인상깊게 읽었다. 저자 요한 하리의 스토리텔링과 주제에 대해 심도깊게 파헤치는 능력이 좋았기 때문에 그의 다른 책도 보고 싶었다. <마약 전쟁>이 눈에 들어왔다. 기존에 알고 있던 마약에 관한 지식들이 정리가 되었다. 

 영화나 드라마에서 수없이 노출된 마약, 중독자, 마약범죄, 마약카르텔, 마약수사국 등의 관계가 정리되었다. 그리고 생각지도 못했던 진실들이 드러났다. 마약을 다른 관점, 정반대의 관점에서 바라볼 수 있게 되었다. 

 이 책에서 마약에 대해 내가 느낀 것은 합리성과 연민이었다. 우리는 대부분 마약은 나쁜 것이라고 배워왔다. 미디어에 노출되는 마약은 악 그 자체다. 중독자를 만들어내고, 마약으로 인한 각종 범죄들이 양산된다. 마약은 절대악이다. 없애야 되고 금지해야 되는 그 무엇으로 인식된다. 마약을 허용하는 순간 끝이다. 사람들은 모두 중독자가 될 것이다.

 이것이 대부분의 사람들이 인식하는 마약이다. 그럼 진짜는 무엇인가? 마약의 실체, 마약과의 전쟁의 실체는 무엇인가?

 결론부터 이야기하겠다. 이 책은 마약 합법화를 주장한다. 마약을 범죄화하면 어떤 문제들이 벌어지는지 이야기하고 범죄화한 국가들, 미국, 멕시코 등의 이야기를 들려준다. 그리고 반대로 마약을 합법화하면 어떤 일들이 벌어지는지 포르투칼, 스위스의 사례들을 보여준다.

 나는 놀라웠다. 반대를 무릅쓰고 합리성과 연민, 신념을 바탕으로 마약 합법화를 추진한 대통령, 의사, 간호사 등의 사람들이 대단하다고 느껴졌다. 

 포르투칼과 스위스도 마약 문제가 심각했다. 지금 미국에서 벌어지고 있는 일들이 벌어졌다. 중독자들이 좀비처럼 거리를 헤매고 마약을 얻기 위해 강도 등의 범죄를 저지르고 마약상들은 마약을 팔아 큰 돈을 벌고. 큰 돈을 벌기 위해 마약 조직들은 계속 전쟁을 하고. 마약상, 마약중독자들을 잡기 위해 경찰들이 동원되고 잡초처럼 뽑아도 뽑아도 계속 자라나고 오히려 들풀처럼 더 번지고 상황은 악화되고. 

 미국은 100년간 마약과의 전쟁을 벌였지만 마약 문제는 더 심각해졌고 심각해지고 있다. 

 왜 처벌로 억제가 안되는 것일까? 금지해도 수요가 있기 때문이다. 마약을 원하는 사람들이 있기 때문이다. 술, 담배를 원하는 사람들이 있듯이. 과거 미국에서 시행된 금주법과 유사하다. 술을 금지시켰지만 술을 원하는 사람들이 있었다. 밀주하는 범죄 조직들이 생겨나고 범죄조직 간의 전쟁이 시작되었다. 그 유명한 알카포네도 이 시대의 인물이다.

 다시 포르투칼과 스위스 이야기로 돌아가보자. 마약을 합법화하자 어떤 일들이 벌어졌는지. 더이상 마약은 범죄가 아니었다. 치료의 대상이었다. 국가에서 마약중독자들을 관리하고 치료하고 지원하기 시작했다. 마약중독자들은 스스로 마약을 줄이고 끊어나갔다. 여기가 감동적인 포인트였다. 국가에서 마약을 주면 마약중독자들이 더 마약을 원하고 더 많은 마약을 소비하고 더 심하게 중독이 될 거라 생각한다. 이것은 우리가 가진 마약에 대한 잘못된 환상이다. 비과학적인 생각이다. 여기에 관한 이야기는 나중에 다시 하기로 하고 아무튼 마약중독자들은 스스로 마약을 끊고 사회로 복귀했다. 일을 하고 세금을 내는 사회의 일원이 되었다. 

 미국은 마약중독자를 범죄자로 다룬다. 감옥에 가두고 빨간줄을 그어 일자리를 구하기 어렵게 하고 주택임대에서 불이익을 준다. 마약중독자들은 사회로 다시 복귀하기 힘들어진다. 감옥에서 배우는 건 범죄에 대한 지식이다. 

 중독의 원인은 화학물질의 중독 때문만이 아니다. 좋은 인간관계와 좋은 환경이 갖추어지면 약물에 대한 중독, 의존성이 줄어든다. 과거 베트남 전쟁 때 수많은 군인들이 헤로인에 중독되었었다. 극한 스트레스 상황에서 버티기 위해 약물을 하게 된 것이다. 중독의 원인은 극한 스트레스다. 그리고 과거 어린 시절 겪었던 트라우마와 제대로 사랑받지 못한 것이 원인이다. 베트남 전쟁이 끝나고 자국으로 복귀한 95퍼센트의 군인들이 약물을 끊었다. 5퍼센트의 중독에 취약한 군인들은 약물을 끊지 못했다. 아마 이들은 어린시절 트라우마가 있었을 것이다. 그리고 미국에서의 환경도 베트남 전쟁의 환경과 크게 다르지 않았을 것이다. 

 통계적으로 마약 사용자의 90퍼센트는 중독되지 않는다고 한다. 10퍼센트는 중독된다. 10퍼센트도 치료와 지원을 받으면 좋아질 수 있다.

 옛날 우화가 생각났다. 나그네의 옷을 벗기기로 내기를 한 바람과 해의 이야기다. 먼저 바람이 강한 돌풍으로 나그네의 옷을 날려버리려 했다. 하지만 바람이 강해질 수록 나그네는 옷을 더 꽉 조일 뿐이었다. 실패였다. 다음에 해가 도전했다. 따뜻한 햇살을 비추자 나그네는 더워서 옷을 벗었다. 

 이 이야기의 교훈이 마약전쟁에도 적용되지 않을까 싶다. 

 마약중독자를 범죄자나 악인이 아닌 연민의 대상, 치료의 대상으로 바라보는 것은 어떨까? 어린시절 트라우마를 가진 사람들, 지지하고 지원해줘야 하는 사람들 말이다. 

 포르투칼과 스위스는 마약을 합법화 했음에도 마약을 불법화하는 다른 유럽 국가들보다 마약을 사용하는 인구가 적고 중독자나 범죄율도 적다. 국가 차원에서도 마약과 싸우기 위한 비용보다 마약을 치료하는 데 드는 비용이 더 적다. 

 대부분의 사람은 마약의 위험성을 알고 조심한다. 자율에 맡겨둬도 대부분의 사람은 마약을 하지 않는다. 많은 사람들이 담배의 폐해를 알고 피우지 않는 것처럼. 마약을 하더라도 제한적으로 사용하고 중독되지 않는다. 대마는 술과 담배보다 중독성이 적다. 

 여기에 담지 못한 많은 이야기들이 있다. 요한 하리의 스토리텔링을 맘껏 즐기셨으면 좋겠다.