더 커밍 웨이브

더 커밍 웨이브
무스타파 술레이만 지음, 마이클 바스카 정리, 이정미 옮김 / 한즈미디어(한스미디어) / 2024년 1월

챗GPT 등장이 엊그제 같은데, 인공지능 관련한 문제들이 쏟아지고 있어요.

얼마 전 미국에서는 조 바이든 대통령을 사칭해 경선 불참을 권유하는 딥페이크 음성이 유포되며 큰 논란이 있었고, 국내에서도 유명 연예인들이 투자를 권유하는 딥페이크 영상 때문에 투자사기를 당한 피해자들이 발생하며 심각한 사회문제로 대두되고 있어요. 사람을 돕는 기술로 활용되어야 할 AI 기술이 신종 범죄 수단으로 악용되는 사례는 늘어만 가는데, 근본적인 해결책은 없다는 것이 우리의 현실이에요. 현재 우리나라는 딥페이크 범죄를 성착취물일 경우에만 처벌할 수 있어서 만약 범죄자가 선거 여론 조작과 투자 사기, 금융범죄 등을 목적으로 딥페이크 제작을 한다면 이를 처벌한 방법이 없다는 거예요. 이대로 앞서가는 기술을 따라잡지 못한다면 우리 사회는 어떻게 되는 걸까요.

《더 커밍 웨이브》는 무스타파 술레이만의 책이에요.

저자는 세계 최고의 AI 회사 중 하나인 딥마인드의 공동설립자이며, 딥 러닝이라는 혁신의 주역이었고 전 세계에 충격을 안긴 바둑프로그램 알파고의 개발자예요. 최근까지 구글에서 AI 제품 관리 부서의 부사장으로 일했으며 팀과 함께 세계에서 가장 강력한 대화용 AI 시스템인 람다(LaMDA)를 개발했다고 하네요. 그가 이 책을 쓴 이유는 지금 이 순간이야말로 인류 역사상 전례 없는 변화의 물결을 직면하고 있기 때문이에요.

이 책에 대해서 빌 게이츠는 "전대미문의 시기를 항해하기 위한 최고의 안내서"라고 했고, 유발 노아 하라리는 "매혹적이고 중요한 책"이라면서, "다가오는 기술의 물결은 인류에게 신과 같은 창조의 힘을 약속하지만, 그것을 현명하게 관리하지 못한다면 우리를 파멸로 이끌 수도 있다"라고 했는데, 이보다 더 정확한 표현은 없을 것 같아요. AI와 인류의 새로운 미래가 궁금하다면 이 책을 꼭 읽어봐야 해요.

다음은 이 책의 프롤로그인데, 매우 중요한 내용이라서 옮겨 적어봤네요.

"다가오는 기술의 물결은 인류에게 어떤 의미가 있을까?

인류 역사의 연대기를 보면 인류의 운명을 바꿔 놓은 전환점이 되는 순간들이 있다.

불을 발견하고, 바퀴를 발명하고, 전기를 사용하게 된 이 모든 순간이 인류 문명을 변화시키고 역사의 흐름을 영원히 바꿔 놨다.

그리고 이제 우리는 첨단 AI와 생명 공학 기술을 모두 포함한 기술의 물결이 다가오고 있는 상황에 직면하면서 또 다른 변혁의 순간을 눈앞에 두고 있다. (···) AI를 통해 우리는 우리가 통제할 수 없는 시스템을 만들 수 있고, 우리가 이해하지 못하는 알고리즘의 지배를 받을 수도 있다.

미래를 예측하기 어려운 불확실한 순간에도 한 가지 확실한 것은 첨단 기술의 시대가 다가오고 있으며, 우리는 그 도전에 정면으로 맞설 준비가 돼 있어야 한다는 점이다. (19p)

위의 글은 AI가 작성했어요. 저자는 이 부분을 소개하면서 책의 나머지는 AI가 작성한 글이 아니지만 곧 그렇게 될 수 있으며, 이것이 앞으로 우리에게 다가올 미래임을 강조하고 있어요. 사실 근래에 인공지능이 쓴 글, 그림, 노래 등 각종 창작물들이 예술성 인정 여부와 더불어 저작권 관련 법적 문제의 쟁점이 되고 있으니 이미 미래는 우리 곁에 와 있다고 볼 수 있어요. 중요한 건 신기술을 추구하는 것이나 추구하지 않는 것 모두 위험이 따른다는 것, 핵심적인 딜레마는 머지않아 강력한 기술 세대가 인류를 비극적인 재앙이나 디스토피아적 결과로 이끌 수 있다는 점이에요. 저자는 지난 10년간 사석에서 그 문제를 여러 차례 언급해오다가, 그 영향력이 점점 더 무시할 수 없을 정도로 커지고 있는 지금이야말로 이 문제를 공개적으로 제기해야 할 때라고 여긴 거예요.

이 책에서는 새로 다가올 역사의 물결이 무엇이며, 왜 억제가 불가능해 보이는지 그 이유를 설명하면서 억제가 불가능하다면 실질적인 대안은 무엇인지, 억제를 재검토하는 새로운 대합의를 모색하고 있어요. 다가오는 물결은 인공지능 AI와 합성생물학 synthetic bio 이라는 두 가지 핵심 기술로 정의되는데, 이러한 기술의 급속한 확산은 동전의 양면처럼 인류에게 부와 여유를 창출하는 동시에 상상할 수조차 없는 규모의 혼란, 불안정, 심지어 재앙을 일으킬 수 있는 힘을 가지고 있어요. 현재로서는 이 새로운 물결을 억제하는 것, 즉 그것을 통제하거나, 억누르거나, 막는 것은 불가능해 보이므로 완전한 지도나 결정적인 해결책은 없으나 현재의 상황을 조금이나마 개선해 억제할 수 있는 기회를 만들어 내야 한다고 주장하는 거예요. 여기에 제시된 아이디어들은 우리 모두가 직면해야 할 세대적 사명인 행동을 요구하고 있어요. 불확실하고 불가능해 보이지만 21세기 가장 중대한 딜레마는 반드시 해결되어야 한다고, 결국 미래의 핵심은 기술이 아니라 인간이며 새로운 물결과 그 중심의 딜레마를 억제하기 위한 인간의 강력한 통제력이 필요하다는 거예요. 이제는 우리가 바뀌어야 해요.