˝엄마, 초지능이 뭐예요?˝

슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2017년 4월

인공지능(AI, Artificial Intelligence)은 컴퓨터를 이용해 구현되는 지적능력을 뜻한다. 인공지능 연구의 목표는 크게 두 가지다. 인간의 지적 능력을 기계에 부여하려는 목표가 하나이고, 그렇게 하는 데 필요한 사람의 지적능력이 어떻게 발달되었는지 밝혀내는 목표가 다른 하나다. 하지만 인공지능의 비약적인 성장에 대한 우려의 목소리가 높다. 비관론자는 인간성에 대한 무관심 등의 문제가 발생하여 미래를 통제 불능 상태로 몰고 갈 것이라고 지적한다. 인공지능이 인류에게 축복을 줄 것인가 아니면 재앙을 초래할 것인가에 대한 해석은 아직도 뜨거운 논쟁거리로 남아있다.

현실적으로 인간과 거의 흡사한 인공지능은 아직 완전하게 실현되지 않은 상태다. 그러나 많은 학자가 예견하듯 인공지능의 발전 가능성은 이미 검증된 기술로 여겨질 정도로 우리 곁에 바짝 다가왔다고 할 수 있다. 소설 및 영화 《2001 : 스페이스 오디세이》(황금가지, 2017)와 영화 <매트릭스>, <터미네이터>는 인공지능이 지배하는 인류의 암울한 미래를 그렸다. 컴퓨터가 자발적 진화를 거듭해 인간보다 더 똑똑해진 뒤 인류를 멸망시킨다는 시나리오다. 초지능(superintelligence)의 탄생은 공상과학소설 속 허황한 상상일 뿐일까.

꼭 그렇지만은 않다. 중립적인 인공지능 비관론자 닉 보스트롬(Nick Bostrom)은 초지능의 탄생은 시간문제일 뿐이라고 주장한다. 닉 보스트롬은 초지능의 미래를 가장 설득력 있게 전망한 철학자다. 2014년에 발간된 《슈퍼인텔리전스 : 경로, 위험, 전략》(까치, 2017)은 초지능 시대 인간의 삶과 그 그림자를 구체적으로 짚어낸다. 그런데 만연체의 문장이 읽는 속도를 방해한다. 책에 어려운 내용이 가득한데, 한 번 읽고 이해하기 쉽지 않다.

초창기의 인공지능은 인간의 도움을 받아 학습하는 단계를 실행하는 ‘씨앗 인공지능(seed AI)’이다. 여기가 초지능으로 향하는 경로의 시작점이다. 씨앗 인공지능은 소정 기간의 훈련으로 스스로 문제를 처리하는 능력을 갖춘다. 그렇다면 지능은 물론 감정까지 가진 초지능 기계로 발전하는 데 시간이 얼마나 걸릴까. 닉스트롬에 따르면 세 가지 시나리오를 제시한다. 느린 도약, 빠른 도약, 중간 속도의 도약. 느린 도약은 말 그대로 꽤 오랜 시간을 두고 인공지능이 발달하는 과정이다. 길어야 백 년이다. 이때 인간은 인공지능의 역할이 많아지는 변화에 천천히 적응할 수 있다. 인공지능이 단 며칠 만에 초지능으로 도약하는 상황(빠른 도약)이 찾아오면, 갑작스러운 변화에 신중하게 대처할 여유가 없다. 이제 인간은 초지능의 도약에 슬슬 긴장해야 한다. 중간 속도의 도약은 몇 달, 또는 몇 년 동안에 일어나는 과정이다. 초지능에 대처할 만한 시간은 있지만, 도약으로 인해 발생한 새로운 문제를 해결할 시간이 부족하다. 6장 ‘인지적 초능력’의 핵심 내용은 ‘인공지능에 의한 통제력 장악 시나리오’다. 초지능 기계가 인공지능 기계와 다른 점은 인간이 만든 시스템을 전략적으로 제거하는 힘을 가지고 있다는 것이다. 상황에 따라 스스로 적응하는 능력이 있다는 뜻이다.

여러 가지 최악의 시나리오에 대비할 수 있는 ‘통제 방법’은 있다. 초지능을 통제하는 전략이 한두 개가 아니다. 그중에 누구나 이해할 수 있는 통제 방법이 ‘로봇의 3대 원칙’이다. 작가 아이작 아시모프(Isaac Asimov)는 로봇이 인간을 공격하는 상황을 대비해 ‘로봇의 3대 원칙’을 만들었다. 첫째, 로봇은 인간을 다치거나 위험에 빠지도록 해서는 안 된다. 둘째, 로봇은 첫째 규범에 저촉되지 않는 한 인간이 내린 명령에 복종해야 한다. 셋째, 로봇은 첫째와 둘째 규범에 저촉되지 않는 한 자신의 존재를 보호해야 한다. ‘간접적 규범성’은 독자들이 이해하기 힘든 통제 방법이다. 9장 ‘통제 문제’에 잠깐 언급되고, 13장 ‘선택의 기준 선택하기’에 다시 나온다. 이 책에 나오는 간접적 규범성의 대표적인 예가 ‘일관 추정 의지’다. 이름만 보는데도 현기증이…‥. 그 내용이 꽤 철학적이라서 복잡해 보일지는 모르겠으나 과학적 기술에도 비과학적으로 취급되는 철학적 사고로 설명하려는 저자의 시도가 돋보인다.

사람이 세상에 태어나 지능이 발달하게 되면 자기보다는 자기 주변에 먼저 눈길을 돌리게 된다. “엄마, 나는 누구예요?”라고 묻는 아이가 있겠지만 대부분 아이는 “저게 뭐예요?”라고 묻는다. 아이는 자신의 정체보다는 자신을 둘러싼 세상에 호기심을 가진다. 보스트롬은 인간을 언제 터질지 모르는 ‘폭탄’을 쥐면서 놀고 있는 어린아이로 비유한다. 그 폭탄이 바로 ‘초지능’이다. 초지능이 이 세상을 장악하면 지능 대확산(intelligence explosion)이 일어날 것이다. 우리는 터지지 않은 폭탄을 물끄러미 바라보면서 혼잣말하듯이 묻고 있다. “저게 뭐예요?” 왜 혼잣말로 묻느냐고? 엄청난 폭발성(explosiveness)을 지닌 초지능의 위력을 상세하게 알려주고, 지능 대확산 이후 도움을 요청해야 할 어른이 없기 때문이다. 우리는 초지능이 무엇인지 알지 못한 채 그걸 무턱대고 손대려고 한다. 결국, 더 많은 위기와 도전에 직면하게 될 초지능의 미래를 위해 우리가 할 수 있을 만큼 머리를 맞대야 한다.