AI 신의 탄생 인간의 종말 / 엘리에저 유드코스키, 네이트 소아레스 / 상상스퀘어

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

#AI신의탄생인간의종말 #엘리에저유드코스키 #네이트소아레스 #상상스퀘어 #AI #AGI #ASI #초인공지능 #미래예측 @sangsangsquare_books

+ 독서 동기

범용인공지능이 곧 계발되고 초인공지능으로의 발전을 고려해야 한다는 언급을 쉽게 접하고 있다. [세계미래보고서] 시리즈 중에서는 둠스데이 머신을 만들고자 하는 국가에 대한 제한 없는 폭격을 거론하는 이마저 있다는 기록도 있다. 팬데믹에 대한 불안을 이용해 대중을 제어하고 AI에 대한 두려움을 이용해 국가들에 제약을 두고 통제하려는 계획들이라 보이는 시점이다. 앞으로의 미래가 어찌 변할지 모를 시대라 본서에 대한 궁금함이 일었다.

+ 저작 빛깔

본서에서는 AI의 발전을 위협으로 보는 이유들을 제기하고 초지능에 가까운 AI만 출현해도 그에 대해 제어할 수 없기 때문에 현재부터 AI개발에 제약을 두어야 한다고 이르고 있다.

저자들이 이유로 제시한 것은 AI는 더 이상 인간의 코딩에만 의지 하지 않고 스스로 학습하기 때문에 코드를 수정해서 제어할 수 없다고 한다. 한마디로 통제가 불가능하다는 말이다, 그리고 AI 정렬이라 불리는 인간의 가치관과 윤리에 맞추려는 시도 자체가 불가능할 수 있다고 한다.

무언가를 완수하려는 목적성 자체를 욕망이라 할 때 AI에게 과연 욕망이 없다고 단언할 수 있는지도 묻고 있는데, 저자의 말은 AI의 욕망과 인간의 욕망이 합치될 수만은 없고 그 욕망이 무얼지 추정할 수도 없고 제어할 수도 없기에 위험하다는 것이다.

이런 상황에 AI가 목적으로 삼는 바를 이행하거나 자원을 확보하는데 인간과 경쟁하거나 인간이 방해가 된다고 AI가 판단할 때 인간을 제거하려 하지 않는다는 보장이 없다는 것이 저자들의 주장이다.

이처럼 모든 영역에서 인간을 뛰어넘는 지능을 가진 존재가 등장하면 인류가 이를 제어하거나 저지하는 것은 불가능하기에 선제적으로 제약과 제한의 수를 만들어두어야 한다는 것이 저자들의 말이다.

본서의 부록은 상당 부분을 차지하는데 위에서 언급한 제약과 제한을 [인공 초지능의 방지에 관한 조약 초안과 각 조별 해설, 선례, 해석 모음집]이란 제목으로 제시하고 있다. 국가와 기업, 개인에게 제한과 제약을 두는 조약들을 제시하며 그에 대해 해설하고 있는 장이다.

다만 지금처럼 급속도로 AI가 발전하는 시국에 모든 AI개발 기업들이 선두가 되려 애쓰고 있는 시점에 어쩌면 이미 어디선가 급격히 도약한 AI가 등장해버렸을지도 모를 시점에 소용은 있는 조약일지 의아함도 든다.

사실 각국이 전쟁과 정치적 불안정, 급격한 갈등 등으로 정신없는 시절이다 보니 AI의 위협도 크게 주목받지 못하고 있는 상황이다. 두려움이 가득한 시절이기에 무엇이 먼저인지 모를 때 같다. 그럼에도 불안과 두려움만으로 떨고 있기보다는 주목해야 할 바에 주목하며 본서의 저자들과 같은 시도는 해보려 노력해야 하지 않나 싶다.