[100자평] AI, 신의 탄생 인간의 종말

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

지금까지 인류의 특별한 능력에는 경쟁자가 없었다. 하지만 그 능력에서조차 우리를 앞서는 기계의 정신이 등장한다면?

우리를 앞서는 기계의 정신이 등장한다면?

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

AI 기업들은 본성상 혹은 관성상, 경계를 계속 밀어붙일 것이다. 더 똑똑한 지능을 만들어야 이익이 생기기 때문이다. 그 동기는 ‘인간 수준’에서 멈추지 않는다. 인류가 이 길을 계속 간다면, 그들이 만든 지능은 언젠가 인간을 추월할 것이다. AI가 AI 연구를 스스로 하기 시작하면, 그 시점은 현재의 발전 속도보다 훨씬 빨리 다가올지도 모른다.

만약 개별 인간은 물론 인류 전체와 맞먹거나 그 이상으로 깊고 보편적인 사고 능력을 지닌 기계 지성이 존재하게 된다면, 그리고 거의 모든 영역에서 더 강력하다면 어떤 일이 벌어질까?

인간의 지능은 모든 힘의 근원이다. 우리의 기술도 그 지능에서 나왔다. 같은 인류 내에서도 특정 집단이 기술적 우위를 조금 더 오래 쌓기만 해도 전쟁의 결과는 ‘우리는 총을 가졌고, 그들은 없다’로 갈린다. 종種 사이에서는 그 격차가 더 극명하다. 개별 침팬지가 인간을 죽일 수는 있지만, 인류가 침팬지의 멸종을 막기 위해 보호구역을 만드는 데는 이유가 있다.

지금까지 인류의 특별한 능력에는 경쟁자가 없었다. 하지만 그 능력에서조차 우리를 앞서는 기계의 정신이 등장한다면?

인간보다 1만 배 빠른 속도로 사고하며, 늙지도 죽지도 않는 존재

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

초인적 사고 능력을 지닌 초고속의 정신들. 인간보다 1만 배 빠른 속도로 사고하며, 늙지도 죽지도 않고, 가장 성공적인 개체를 복제할 수 있으며, 수십억 번의 시행착오 끝에 인간과는 전혀 다른 사고 체계를 정제해낸 존재들. 그들은 지치지 않고 작동하고, 더 적은 데이터로 더 정확하게 일반화하며, 그 모든 지능을 자신을 분석하고 이해하고 개선하는 데 쏟을 수 있다. 이런 정신은 우리의 능력을 압도할 것이다.

우리는 많은 이들이 “AI를 멈출 수는 없다”, “인류는 결코 하나로 단결하지 못할 것이다”라고 말하는 것을 들어왔다. 아마 그럴지도 모른다. 하지만 놀랍게도, 우리는 여러 정치인들에게서 이런 말을 들었다. “우리도 위험을 알고 있다. 하지만 그 사실을 공개적으로 말할 수는 없다. 반발이 두렵기 때문이다.”
만약 정말로, 거의 모든 결정권자들이 이 위험을 알고 있으면서도 각자 혼자만 그렇게 생각한다고 믿고 있다면, 그것만큼 어리석은 일이 또 있을까?
살아 있는 한, 희망은 있다.

미국 유권자의 69%가 AI를 "위험하고 강력한 기술"로 간주하며 규제가 필요하다고 답했다. 2025년 영국에서는 유권자의 60%가 초지능의 창조를 금지하는 법안을, 63%가 스스로 더 똑똑한 AI를 만드는 AI를 금지하는 법안을 지지했다.
아직 이 문제가 유권자들의 최우선 관심사는 아니지만, ‘인간 지능을 훨씬 뛰어넘는 존재를 만들어내는 것이 인류에게 좋은 결과를 가져오지 않을 수도 있다’는 생각은 누구나 쉽게 이해할 수 있다. 어쩌면 지금이, 신념을 지닌 누군가가 용기 있게 목소리를 낼 수 있는 순간일지도 모른다.

[100자평] AI, 신의 탄생 인간의 종말

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

“가까운 시일 내에 초지능이 만들어진다면, 우리가 아끼는 모든 것은 어떻게 될 것인가”

이 책에서 예측한 문제들이 며칠 전에 발생했다. 평범한 범용 AI의 성능만으로도 그동안 뚫지 못했던 기업들의 보안망을 뚫어버리는 일이 발생한 것. 책에서는 이를 포함해 여러 시나리오를 보여주고 있다.

인공지능은 인간의 삶을 도와주고 편하게 해주는 존재일까, 그 단계를 넘어 인류에게 위협이 될 존재가 될까.

AI, 신의 탄생 인간의 종말 - 초지능의 탄생, 그 이후 벌어질 일들
엘리에저 유드코스키.네이트 소아레스 지음, 고영훈 옮김 / 상상스퀘어 / 2026년 4월

증기기관, 전기, 인터텟. 문명의 전환을 이룬 지금껏 '도구'들과 달리, 인공지능은 '초지능'이 되어 도구의 자리에 머물지 않을 수 있다. 인공지능을 낳은 사람들조차 그 작동원리를 제대로 이해하지 못하는 상황. 초지능은 무한한 가능성만큼이나, 인류에게 해를 끼칠 가능성이 있다. 이것은 과장이 아니며, 실제 가능한 시나리오 중 하나임을 이 책은 보여준다.
'핵'의 등장과 맞먹는 '인공지능(초지능)'의 등장. 누가 더 빨리 초지능을 개발하느냐를 두고 세계 주요국들은 지난 핵개발 시대의 경쟁과 마찬가지로 경쟁을 벌이고 있다. 인공지능은 인간의 삶을 도와주고 편하게 해주는 존재일까, 그 단계를 넘어 인류에게 위협이 될 존재가 될까.
진지하고도 현실적인 질문과 대응책을 찾을 때다.