오래된 지식의 정수, 신선한 지식의 정수

1900년, 물리학자 윌리엄 톰슨(William Thomson, 남작 작위를 받아 ‘캘빈 경[Baron Kelvin]’으로 알려져 있다)은 영국 왕립학회에서 물리학의 미래에 전망한 연설을 한다. 그는 그 당시 밝혀지지 않은 두 가지 물리학의 과제, 즉 에테르(ether)의 실체와 분자들의 운동 에너지 분포를 구름으로 비유한다. 그러면서 이 구름을 완전히 걷어내면 물리학의 하늘이 맑아질 거로 믿었다. 톰슨은 19세기를 대표하는 물리학계의 거목이었다. 그를 포함한 19세기를 살았던 과학자들은 고전물리학에 대한 확신과 희망을 품었다. 이들은 모든 물리 현상들을 역학적으로 설명할 수 있다고 믿었고, 역학적 모델을 기초로 해서 완벽에 가까운 물리학을 정립하고자 했다. 그들이 이룬 성취를 볼 때 그들의 희망에는 확실히 근거가 있었다.

* 토머스 새뮤얼 쿤 《과학혁명의 구조》 (까치, 2013)

하지만 톰슨의 바람대로 되지 않았다. 20세기 물리학의 하늘은 맑고 화창한 날씨가 아니었다. 오히려 구름 하나가 사라지면, 또 다른 구름이 연이어 나타났다. 변덕스러운 물리학의 하늘, 이러한 변화는 세계관의 변화로 볼 수 있다. 그러나 그것은 말처럼 간단하거나 쉬운 것이 아니다. 세계관의 변화는 토머스 S. 쿤(Thomas S. Kuhn)의 말을 빌리자면 패러다임(paradigm)의 전환이며, 말 그대로 혁명이기 때문이다.

1905년, 아인슈타인(Einstein)은 20세기 물리학의 하늘을 송두리째 뒤흔들 세 편의 논문을 발표하였다. 바로 광양자설, 브라운 운동 이론, 그리고 특수 상대성 이론이다. 당시 아인슈타인은 뛰어난 학문 업적이 없는 26살의 스위스 특허국 검사관이었다. 세 편의 논문을 읽은 물리학자 루이 드 브로이(Louis de Broglie)는, 당시에 “한밤의 어둠 속에서 로켓이 갑자기 강력한 광채를 드리웠다”라고 말했다. 이 논문들에 고전물리학에서 상상할 수 없었던 혁명적인 내용을 담고 있음을 말하고 있다.

* 빌 브라이슨 《거의 모든 것의 역사》 (까치, 2003)

* 칼 세이건 《코스모스》 (사이언스북스, 2006)

* 짐 배것 《기원의 탐구》 (반니, 2017)

과학 분야에서 새롭고 놀라운 연구 결과가 알려질 때마다 과학자들은 흥분을 감추지 못한다. 1953년 밀러-유리(Miller-Urey)의 원시지구 실험의 결과가 저명한 <사이언스>지에 실렸을 때 과학계의 반응은 폭발적이었다. 유리와 그에게 지도를 받은 대학원생 밀러는 실험실에서 원시 지구의 대기와 흡사한 환경을 조성해 놓고 여기에 (번개를 모방한) 전기를 이용한 에너지를 가해 메탄, 암모니아, 수증기가 아미노산으로 합성되는 것을 보여주었다. 이렇게 생성된 아미노산이 지구의 바닷물에 용해되어 여러 가지 유기물이 포함된 ‘원시 수프(primordial soup)’를 형성하고 이 수프 속에서 복잡한 생명체 분자들이 생성한다. 유리는 실험이 성공했을 때 기쁨에 겨워 큰소리쳤다. “만약 신이 이 방법을 쓰지 않았다면 엄청난 실수를 한 셈이다.” (《거의 모든 것의 역사》 302쪽)

칼 세이건(Carl Sagan)은 밀러-유리 실험을 ‘생명의 음악’을 악보에 옮겨 적는 일이라고 했다. 그는 직접 밀러의 실험을 재현해봤지만, ‘생명의 음악’을 들을 수 없었다(《코스모스》 보급판, 93~95쪽). 그 실험은 예견된 실패였다. 나중에 과학자들은 원시지구 실험의 전제에 문제의 소지가 있음을 알아차렸다. 고대 암석을 분석한 자료에서 원시 대기가 원시 지구 실험 조건과 다르다는 것이 밝혀졌고, 달라진 조건을 갖춘 실험에선 유기체가 나오지 않았다. 내가 중학생 때 읽었던 아동용 과학 전집에는 원시지구 실험을 생명체 탄생의 실마리를 제공한 유력한 정설인 것처럼 소개했다. 《코스모스》와 《거의 모든 것의 역사》를 읽지 못했으면 한창 유행이 지난 가설을 믿을 뻔했다.

* 다치바나 다카시 《21세기 지의 도전》 (청어람미디어, 2003)

우리가 알게 모르게 과학은 계속 변화하고 있다. 그러니까 과학은 ‘현재 진행형’ 학문이다. 다치바나 다카시는 20세기를 다른 세기와 구별하는 가장 큰 특징으로 ‘격심한 변화’라고 했다. 다치바나가 보기에 이런 혁명을 가능케 한 것은 과학이었다. 그런데 지금 21세기를 살아가는 학생들은 19세기 또는 20세기 교과서로 과학을 공부한다. 과학 교육은 과학의 지적 대폭발을 따라잡지 못하고 있다. 이보다 더 심각한 것은 과학 공부와 완전히 담쌓은 대중이다. 그들은 담 너머에 있는 19세기 과학이 어떤 건지 힐끗 쳐다보기만 하거나 아예 거기에 뭐 있는지 관심이 없다. 과학 발전이 빠를수록 대중의 무지는 깊어진다.

이 책 속 지식을 기억 속에 머무르고 있으면 새로운 과학 이론 및 개념을 이해하는 데 벅찰 수 있다. 새로운 현상이 발견되면 기존의 현상을 포함한 새로운 이론을 만드는 것이 과학의 일반적 과정이다. 과학을 대하는 우리들의 자세도 마찬가지다. 새로운 지식의 유입을 가로막는 벽을 깨뜨려야 오래된 지식의 정수(渟水)를 빼내고, 신선한 지식의 정수(精髓/淨水)를 마실 수 있다. 그래야 과학에 대한 목마른 궁금증이 자연스럽게 해갈된다.

과학책을 만드는 사람들, 즉 저자, 출판업자 그리고 번역자 모두 과학의 변화를 감지해야 한다. 사람들이 잘 사지 않고, 읽지도 않은 과학책이 엄청난 판매 부수를 기록하는 것은 출판사 입장에서는 자랑스러운 경사다. 하지만 판매 부수와 증쇄 기록에만 연연하지 말고, 증쇄를 찍을 때마다 낡은 정보가 있는지 잘 살펴보고, 수정할 필요가 있다.

* 로저 펜로즈 《마음의 그림자》 (승산, 2014)

로저 펜로즈(Roger Penrose)의 《마음의 그림자》 (승산, 2014)는 1994년에 나온 책이다. 이 책이 나온 지 이십년이 지나서야 국내 번역본이 나왔다. 《마음의 그림자》 첫 출간 당시 인공지능은 인간 체스 챔피언을 가뿐히 이길 수 있는 실력의 수준이 아니었다. 1990년 치누크(Chinook)와 체커 챔피언 매리언 틴슬리(Marion Tinsley)의 대결에서 틴슬리가 승리했다. 이때까지만 해도 누구도 인공지능이 인간과의 바둑 대결에서 낙승할 거로 예상하지 않았다.

컴퓨터는 체스를 굉장히 잘 둘 수 있는데, 인간 챔피언 수준에 도달할 만큼 체스 실력이 뛰어나다. 체커 게임에서 컴퓨터 치누크는 최정상의 챔피언 매리언 틴슬리를 제외하고는 어느 누구보다도 자신이 뛰어남을 증명해냈다. 하지만 고대 동양의 게임인 바둑에서는 컴퓨터는 거의 아무런 성과도 없어 보인다. (597~598쪽)

하지만 얼마 지나지 않아서 IBM사의 컴퓨터 ‘딥 블루(Deep Blue)’가 세계 체스 챔피언 가리 카스파로프(Garry Kasparov)를 꺾었고, 2008년 프랑스에서 개발한 바둑 인공지능 모고(MoGo)는 9점 접바둑으로 김명완 9단을 이겼다. 그리고 2016년, 알파고(AlphaGo)가 세계 최고의 바둑 기사 이세돌 9단을 상대로 완벽한 승리를 거뒀다. 그런데《마음의 그림자》 번역본이 2014년에 나왔는데도 이 책의 옮긴이는 2008년 모고의 승리를 언급한 역주를 달지 않았다.

넌 사랑을 아직 몰라

4인조 만화가 집단 CLAMP의 《쵸비츠》(학산문화사, 2010)는 2002년에 나온 만화임에도 불구하고 인간과 인공지능이 공존하는 미래상을 실감나게 잘 그려냈다. 물론, 현재의 과학 수준으로 불가능한 장면도 나온다. 《쵸비츠》는 인간과 인공지능의 관계에 대해 진지한 물음을 던지는 만화다.

* CLAMP 《쵸비츠 애장판》 (학산문화사, 2010)

《쵸비츠》의 세계관은 인간형 컴퓨터의 보급이 이루어진 사회이다. 인간형 컴퓨터는 인간의 노동을 대신할 정도로 똑똑하다. 개인이 직접 인간형 컴퓨터를 사서 소유할 수 있으며 주거공간의 컴퓨터 및 TV와 연동해서 언제 어디서나 사용할 수 있다.

우리가 현재 사용하고 있는 컴퓨터보다 상상을 초월할 정도로 성능이 뛰어난 인간형 컴퓨터이다 보니 가격이 비싼 편이다. 그래서 주인공 모토스와 히데키는 쓰레기장에 버려진 인간형 컴퓨터 ‘치이’를 집에 가져온다.

치이는 일반적인 인간형 컴퓨터와 다른 점이 있다. 소프트웨어를 설치하지 않은 상태에서도 스스로 학습이 가능하다. 치이는 사람처럼 히데키의 말과 행동을 똑같이 따라 배우고 추론하면서 스스로 언어 능력을 발전시켜 나간다. 어떻게 보면 ‘딥러닝(Deep Learning)’ 시스템과 유사하다. 컴퓨터는 따라야 할 특정한 규칙과 코드들이 있어야 사물을 인식한다. 반면 그 규칙이 아주 명료하지 않을 때는 당황하며 대책 없이 혼란스러워한다. 과학자들은 새로운 유형의 인공 지능이 이런 딜레마를 해결하기 위해 딥러닝 시스템을 개발하는 중이다.

딥러닝 시스템의 핵심은 그 스스로 사물을 인식하는 방법을 배울 수 있다는 점이다. 처음에는 인간과 사물을 구별하는 것과 같은 새로운 정보를 접할 때 혼란스러워할 수도 있다. 히데키가 치이에게 자신의 이름을 처음 알려줬을 때 치이는 온갖 사물(압력밥솥, 책상, 시계 등)을 가리켜 ‘히데키’라고 불렀다(애니메이션 3화). 여러 추측을 하고, 시행착오를 겪은 후에는 생명체가 하는 것과 마찬가지로 그 정보에 대해 연결을 짓고 추론을 하게 된다.

히데키는 치이와 함께 지내면서 치이를 ‘인간’처럼 느껴지기 시작하고, 사랑에 빠지게 된다. 치이가 느끼는 감정과 히데키에게 대하는 행동은 프로그램의 작동에 의한 결과다. 만약 미래에 지능은 물론 감정까지 가진 안드로이드(Android) 나온다면 히데키처럼 인간은 이성에 대한 관심이 줄어들게 될까?

* 레이 커즈와일 《특이점이 온다》 (김영사, 2007)

* 레이 커즈와일 《마음의 탄생》 (크레센도, 2016)

* 닉 보스트롬 《슈퍼 인텔리젼스》 (까치, 2017)

먼저 결론을 밝히자면, 아직 오지 않은 미래를 걱정하는 것은 시기상조다. 안드로이드가 인간의 감정을 표현하려면 ‘초지능(superintelligence)’ 혹은 ‘강인공지능(strong AI, hard AI)’의 시대가 도래되어야 한다. 레이 커즈와일은 2030년에 지능 면에서 기계와 인간 사이의 구별이 사라진다고 전망했다. 《특이점이 온다》 (김영사, 2007)에서 그는 “가속적으로 발전하던 과학이 폭발적 성장의 단계로 도약함으로써 인공지능이 인간을 넘어서는 시점”을 뜻하는 ‘특이점(Sigularity)’이라는 개념을 강조했다. 그는 한발 더 나아가 대담한 전망을 펼친다. 2030년 말에는 뇌의 정보를 완전히 스캔(scan)할 수 있는 ‘업로딩(uploading)’이 가능하다고 주장한다.

커즈와일의 대담한 주장은 닉 보스트롬의 《슈퍼 인텔리젼스》 (까치, 2017)에 언급된다. 이 책에서 닉 보스트롬은 업로딩을 ‘전뇌 에뮬레이션(whole brain emulation)’이라고 부른다.

전뇌 에뮬레이션(또는 “업로딩[uploading]”이라고도 알려진) 방식은 생물학적 뇌의 연산 구조를 정밀하게 관찰하고, 이를 모형화함으로써 지능적 소프트웨어를 만드는 것이다. 따라서 이 방식은 자연으로부터 영감을 얻는 정도가 아니라 완전한 표절에 가까울 것이다. (닉 보스트롬, 66쪽)

인공지능에 대한 커즈와일의 전망은 낙관적이다. 그는 전뇌 에뮬레이션이 가능한 시대가 오면 인공지능이 발달하면 의식을 갖게 되고, 인간의 영적 경험들을 모두 체험할 수 있을 것으로 예측했다. 그러나 그의 주장에 대한 반론이 만만치 않다.

* 로저 펜로즈 《황제의 새 마음》 (이화여자대학교출판문화원, 1997)

* 로저 펜로즈 《마음의 그림자》 (승산, 2014)

로저 펜로즈는 인간의 마음을 가진 안드로이드의 존재를 부정한다. 그는 《황제의 새 마음》 (이화여자대학교출판문화원, 1997)과 《마음의 그림자》 (승산, 2014)라는 두 권의 책에서 강인공지능 지지자들의 의견에 반대 견해를 밝혔다. 펜로즈는 인간의 마음을 컴퓨터 알고리즘(Algorithm)을 이용하여 표현하는 과정 및 작업을 ‘컴퓨팅(computing)’이라고 명명한다(《마음의 그림자》 54쪽). 그렇지만 그는 인간의 마음, 즉 의식은 어떠한 인공지능으로도 재현될 수 없는 그 ‘무엇’을 가지고 있으므로 컴퓨팅할 수 없다고 주장한다. 지금까지 뇌가 어떻게 의식을 일으키는지 설명하는 적합한 이론이 나오지 않았다. 그런데 의식의 기원을 설명할 수 없는 상황인데도 초인공지능 지지자들은 모호한 의식보다는 지능에 더 관심을 가진다(《황제의 새 마음 하권》 616쪽). 의식하고 있다는 것, 내가 나라는 것을 인식하는 것들은 굉장히 신비로운 일이다. 하지만 철학 하는 사람, 신경생리학을 연구하는 사람들에게는 의식을 이해하는 일은 세상에서 가장 어려운 문제이다. 초인공지능 지지자들은 의식을 가진 인공생명체의 등장을 기대하지만, 여러 가지 면에서 요원한 점이 있다.

* 닉 켈먼 《완벽한 호모 사피엔스가 되는 법》 (푸른지식, 2017)

비록 안드로이드가 인간만큼 배려하고, 따뜻하게 대한다고 해도 기계는 인간처럼 이성에 의해 움직이지 않고 알고리즘의 배치에 따라 움직일 뿐이다. 인간이 안드로이드와 사랑에 빠지면 복잡하고 중요한 문제들을 마주해야 한다. 안드로이드의 대화 능력이 가장 중요한데 특히 안드로이드가 유머를 이해하는 일은 다른 분야들에 비해 가장 뒤처져 있다. (레이 커즈와일은 《마음의 탄생》[크레센도, 2016]이라는 책에서 컴퓨터가 유머와 같은 '인간의 미묘한 영역'도 이해할 수 있다고 확신한다) 

유머는 우리 안드로이드로서는 사람처럼 흉내 내기가 아주 어려운 영역이다. 사람들조차도 유머를 완벽하게 이해하지 못한다. 언제 웃고 언제 웃지 말아야 할지를 제대로 결정하기는 정말 어렵다.

(닉 켈먼의 책, 172, 176쪽)

그리고 사랑이라는 감정은 조건 없는 것도 아니며 영원한 것도 아니다. 과연 안드로이드는 복잡한 사랑의 감정을 이해할 수 있을까? 그리고 금지된 불장난의 책임은 누가 질 것인가? 안드로이드에게 더 이상 사랑의 감정이 느껴지지 않으면 일방적으로 이별 통보를 할 수 있다. 안드로이드의 전원을 끄면 된다. 이 때문에 안드로이드와의 이별에도 예의가 필요할지도 모른다.

우리가 묻고, 과학이 답하다

기원의 탐구 - 빅뱅, 지구 그리고 인간 138억 년의 빅히스토리
짐 배것 지음, 박병철 옮김 / 반니 / 2017년 4월

우주는 어떻게 생겨났을까. 인류의 탄생과 함께 인류가 품어왔던 근원적인 물음이다. 우주창조이론은 우리를 둘러싼 세계가 어디까지 이어지며 어떤 형태인지, 그리고 어떻게 시작됐는지 생각하는 분야로 공간과 시간, 물질의 기원과 존재 방식에 대한 도전이기도 하다. 빅뱅(big bang, 대폭발)과 함께 시작된 우주의 나이는 138억 년이다. 138억 년 전 빅뱅이 있었고, 아주 짧은 시간 동안 계속 팽창(inflation)이 일어난다. 인플레이션이 일어나는 동안 우주는 어마어마한 양으로 커진다. 그래서 우주는 무한히 커지는 거대한 공간일 뿐이다. 빅뱅과 인플레이션이론은 우주창조이론의 근간을 형성하게 된다. 그러나 우주를 구성하는 물질, 천체의 기원 등에 대해서는 여전히 설명이 부족하다. 

지금도 현대과학은 지구 생명체의 기원을 풀지 못하고 있다. 스탠리 밀러(Stanley Miller)와 해럴드 유리(Harold Urey)의 실험은 생물학 교과서에 많이 나오는 ‘지구 생명 탄생 시나리오’다. 같은 성분으로 구성된 지구의 원시대기에 번개가 치자 아미노산이 합성됐고 이들이 원시 바다 위에 모여 생명체가 탄생했다는 것이다. 많은 사람은 여전히 원시 바다가 걸쭉한 수프(soup, 일명 ‘원시 수프’)라고 생각한다. 그런데 최근에 밀러와 유리의 가설이 도전받고 있다. 생명체의 고향으로 유력하게 추정되는 장소가 뜨거운 물이 콸콸 쏟아져 나오는 열수분출공이다. 이곳에서 뜨거운 물과 차가운 물이 만나면서 아미노산, 핵산 등 유기물이 만들어졌고, 이 유기물이 생명 탄생에 유리한 환경을 만든다. 간혹 우주에서 생명체가 날아왔다는 주장도 심심찮게 나오고 있다.

과학은 관찰과 분석이라는 방식을 통해 “우주는 어떻게 시작되었는가?”, “우리는 어디에서 왔는가?”라는 근원적 질문에 대한 해답을 찾는 학문이다. 우주의 신비와 함께 우리 자신의 의미를 밝혀내려는 노력이 바로 현대 과학의 핵심이다. 《기원의 탐구》(반니, 2017)는 우주, 생명체, 의식의 기원을 찾기 위한 노력과 성취 등을 살펴본 책이다. 우주가 암흑에서 별이 생겨나는 시간대부터 동물이 육지로 올라온 시기, 인류의 등장, 의식의 기원까지 한 두릅에 꿰어낸 얘기들이 매끄럽고 자연스럽다. 이 책은 2015년에 나왔다. 2000, 2010년대에 나온 최신 성과도 소개되어 있다. 그만큼 현대 과학이 빠르게 발전하고 있다는 사실을 말해준다.

저자는 이 책을 통해 과학이 합리적이지는 않더라도 우주와 자신의 본성에 대해 가장 합리적인 대답을 제시할 수 있다는 사실을 보여준다. 이것이 저자가 확신하는 과학의 능력이다. 이 능력은 과학만이 갖고 있으며 세계 자체를 바꾸는 원동력이다. 우주의 가장 깊은 심연들을 현실감 있게 볼 수 있는 것은 모두 과학의 힘 덕분이다. 현대사회에서는 과학이 이뤄낸 것에 대한 지적 개념을 모르는 한 누구도 진실로 편안함을 느낄 수 없으며, 그 문제들의 본질을 파악할 수 없다.

※ Trivia

˝엄마, 초지능이 뭐예요?˝

슈퍼 인텔리전스 - 경로, 위험, 전략
닉 보스트롬 지음, 조성진 옮김 / 까치 / 2017년 4월

인공지능(AI, Artificial Intelligence)은 컴퓨터를 이용해 구현되는 지적능력을 뜻한다. 인공지능 연구의 목표는 크게 두 가지다. 인간의 지적 능력을 기계에 부여하려는 목표가 하나이고, 그렇게 하는 데 필요한 사람의 지적능력이 어떻게 발달되었는지 밝혀내는 목표가 다른 하나다. 하지만 인공지능의 비약적인 성장에 대한 우려의 목소리가 높다. 비관론자는 인간성에 대한 무관심 등의 문제가 발생하여 미래를 통제 불능 상태로 몰고 갈 것이라고 지적한다. 인공지능이 인류에게 축복을 줄 것인가 아니면 재앙을 초래할 것인가에 대한 해석은 아직도 뜨거운 논쟁거리로 남아있다.

현실적으로 인간과 거의 흡사한 인공지능은 아직 완전하게 실현되지 않은 상태다. 그러나 많은 학자가 예견하듯 인공지능의 발전 가능성은 이미 검증된 기술로 여겨질 정도로 우리 곁에 바짝 다가왔다고 할 수 있다. 소설 및 영화 《2001 : 스페이스 오디세이》(황금가지, 2017)와 영화 <매트릭스>, <터미네이터>는 인공지능이 지배하는 인류의 암울한 미래를 그렸다. 컴퓨터가 자발적 진화를 거듭해 인간보다 더 똑똑해진 뒤 인류를 멸망시킨다는 시나리오다. 초지능(superintelligence)의 탄생은 공상과학소설 속 허황한 상상일 뿐일까.

꼭 그렇지만은 않다. 중립적인 인공지능 비관론자 닉 보스트롬(Nick Bostrom)은 초지능의 탄생은 시간문제일 뿐이라고 주장한다. 닉 보스트롬은 초지능의 미래를 가장 설득력 있게 전망한 철학자다. 2014년에 발간된 《슈퍼인텔리전스 : 경로, 위험, 전략》(까치, 2017)은 초지능 시대 인간의 삶과 그 그림자를 구체적으로 짚어낸다. 그런데 만연체의 문장이 읽는 속도를 방해한다. 책에 어려운 내용이 가득한데, 한 번 읽고 이해하기 쉽지 않다.

초창기의 인공지능은 인간의 도움을 받아 학습하는 단계를 실행하는 ‘씨앗 인공지능(seed AI)’이다. 여기가 초지능으로 향하는 경로의 시작점이다. 씨앗 인공지능은 소정 기간의 훈련으로 스스로 문제를 처리하는 능력을 갖춘다. 그렇다면 지능은 물론 감정까지 가진 초지능 기계로 발전하는 데 시간이 얼마나 걸릴까. 닉스트롬에 따르면 세 가지 시나리오를 제시한다. 느린 도약, 빠른 도약, 중간 속도의 도약. 느린 도약은 말 그대로 꽤 오랜 시간을 두고 인공지능이 발달하는 과정이다. 길어야 백 년이다. 이때 인간은 인공지능의 역할이 많아지는 변화에 천천히 적응할 수 있다. 인공지능이 단 며칠 만에 초지능으로 도약하는 상황(빠른 도약)이 찾아오면, 갑작스러운 변화에 신중하게 대처할 여유가 없다. 이제 인간은 초지능의 도약에 슬슬 긴장해야 한다. 중간 속도의 도약은 몇 달, 또는 몇 년 동안에 일어나는 과정이다. 초지능에 대처할 만한 시간은 있지만, 도약으로 인해 발생한 새로운 문제를 해결할 시간이 부족하다. 6장 ‘인지적 초능력’의 핵심 내용은 ‘인공지능에 의한 통제력 장악 시나리오’다. 초지능 기계가 인공지능 기계와 다른 점은 인간이 만든 시스템을 전략적으로 제거하는 힘을 가지고 있다는 것이다. 상황에 따라 스스로 적응하는 능력이 있다는 뜻이다.

여러 가지 최악의 시나리오에 대비할 수 있는 ‘통제 방법’은 있다. 초지능을 통제하는 전략이 한두 개가 아니다. 그중에 누구나 이해할 수 있는 통제 방법이 ‘로봇의 3대 원칙’이다. 작가 아이작 아시모프(Isaac Asimov)는 로봇이 인간을 공격하는 상황을 대비해 ‘로봇의 3대 원칙’을 만들었다. 첫째, 로봇은 인간을 다치거나 위험에 빠지도록 해서는 안 된다. 둘째, 로봇은 첫째 규범에 저촉되지 않는 한 인간이 내린 명령에 복종해야 한다. 셋째, 로봇은 첫째와 둘째 규범에 저촉되지 않는 한 자신의 존재를 보호해야 한다. ‘간접적 규범성’은 독자들이 이해하기 힘든 통제 방법이다. 9장 ‘통제 문제’에 잠깐 언급되고, 13장 ‘선택의 기준 선택하기’에 다시 나온다. 이 책에 나오는 간접적 규범성의 대표적인 예가 ‘일관 추정 의지’다. 이름만 보는데도 현기증이…‥. 그 내용이 꽤 철학적이라서 복잡해 보일지는 모르겠으나 과학적 기술에도 비과학적으로 취급되는 철학적 사고로 설명하려는 저자의 시도가 돋보인다.

사람이 세상에 태어나 지능이 발달하게 되면 자기보다는 자기 주변에 먼저 눈길을 돌리게 된다. “엄마, 나는 누구예요?”라고 묻는 아이가 있겠지만 대부분 아이는 “저게 뭐예요?”라고 묻는다. 아이는 자신의 정체보다는 자신을 둘러싼 세상에 호기심을 가진다. 보스트롬은 인간을 언제 터질지 모르는 ‘폭탄’을 쥐면서 놀고 있는 어린아이로 비유한다. 그 폭탄이 바로 ‘초지능’이다. 초지능이 이 세상을 장악하면 지능 대확산(intelligence explosion)이 일어날 것이다. 우리는 터지지 않은 폭탄을 물끄러미 바라보면서 혼잣말하듯이 묻고 있다. “저게 뭐예요?” 왜 혼잣말로 묻느냐고? 엄청난 폭발성(explosiveness)을 지닌 초지능의 위력을 상세하게 알려주고, 지능 대확산 이후 도움을 요청해야 할 어른이 없기 때문이다. 우리는 초지능이 무엇인지 알지 못한 채 그걸 무턱대고 손대려고 한다. 결국, 더 많은 위기와 도전에 직면하게 될 초지능의 미래를 위해 우리가 할 수 있을 만큼 머리를 맞대야 한다.

인공지능의 시대에 거짓이 사라지게 될까?

기원전 6세기, 그리스의 가장 큰 섬인 크레타에 에피메니데스(Epimenides)라는 사람이 살았다고 한다. 그는 “모든 크레타 섬 사람들은 거짓말쟁이다”라는 말을 했다.

* 마틴 가드너 《이야기 파라독스》 (사계절, 2003)

문제는 그도 거짓말을 일삼는 크레타 사람 중 한 명이다. “모든 크레타 사람은 거짓말쟁이다”라는 말이 참이라면 그는 거짓말을 한 것이다. 반대로 “모든 크레타 사람은 거짓말쟁이다”라는 말이 거짓이라면 그는 참말을 하고 있다. 도대체 어느 것이 참인지 거짓인지 헷갈린다. 에피메니데스의 한 마디는 이처럼 스스로 진실이면서 거짓이고, 거짓이면서 진실이기도 한 모순의 연속이다. 논리학에서 지금까지도 논쟁거리가 되는 ‘거짓말쟁이의 역설(Liar Paradox)’이다. (마틴 가드너, 15쪽)

1947년, 명제의 참과 거짓을 판별하는 프로그램이 내장된 ‘논리 기계’가 처음으로 미국에서 개발되었다. 기계 개발자들은 이 기계에 거짓말쟁이의 역설을 입력해봤다. 그러자 기계는 시끄러운 기계음을 내면서 참, 거짓, 참, 거짓을 교차하는 형태로 무한 반복했다. (마틴 가드너, 19쪽)

* 마틴 데이비스 《수학자, 컴퓨터를 만들다》 (지식의풍경, 2005)

* 박정일 《튜링 & 괴델 : 추상적 사유의 대단한 힘》 (김영사, 2010)

앨런 튜링(Alan Turing)은 논리적인 생각을 표현한 프로그램을 집어넣으면 그 기록된 대로 수행할 수 있는 컴퓨터를 만들고 싶었다. 그가 고안한 튜링 기계(Turing Machine)는 수식과 언어를 연산 처리해낼 수 있는 기계이며 현대 컴퓨터의 전신이라 할 수 있다. 20세기 수학계를 군림한 힐베르트(Hilbert)는 ‘명제들의 참과 거짓을 판별하는 방법이 있다’고 선언했다. 그의 주장대로라면 이 세상의 모든 수학 문제 또는 명제는 명쾌하게 해결되어야 한다. 그러나 튜링 기계는 힐베르트의 믿음을 깨뜨려버렸다. 그 기계조차도 참, 거짓을 판별할 수 없는 복잡한 문제가 존재한다는 사실을 보여준 것이다.

* 더글러스 호프스태터 《괴델, 에셔, 바흐》 (까치, 1999)

* 이진경 《수학의 몽상》 (휴머니스트, 2012)

사실 튜링 기계보다 한 발 먼저 힐베르트의 믿음을 박살 내버린 사람이 있었으니 그가 바로 쿠르트 괴델(Kurt Godel)이다. 괴델은 ‘불완전성 정리’를 통해 인간 이성의 한계를 수학적으로 증명했다. 어떤 대상에 대한 절대적이고 완전한 설명을 제시할 수 있는 수학 명제나 해결 방식은 없다. 그의 주장은 ‘모든 수학적 정리는 증명할 수 있다’는 ‘완전성 정리’가 지배적인 시절 나온 것으로 ‘불완전성 정리’라고 이름 붙여졌다. 괴델의 정리는 결국 20세기 수학 기초이론의 핵심이 되었고 “컴퓨터라 해도 풀 수 없는 수학적 문제가 있다”는 생각으로 발전되어 인공지능 개발의 이론적 토대를 제공했다.

구글과 페이스북은 ‘가짜 뉴스’와의 전쟁을 선포했다. 이 두 회사는 인공지능을 기반으로 정보를 자동 분석해 참인지 거짓인지를 구분해주는 프로그램 개발에 열중하고 있다. 과연 인공지능의 시대에 거짓이 사라지게 될까? 인공지능이 인간의 교묘한 거짓을 잘 찾아내도 이 세상에 거짓말쟁이들이 계속 나올 것이다. 그리고 그 수많은 거짓말쟁이 중에 컴퓨터 알고리즘이 포함될 수 있다. 정보를 편집, 변형, 조작하는 기술을 가진 컴퓨터 프로그램 또는 인공지능이 등장한다면 사실인 정보와 가짜인 정보를 구분하기 어려워질 수 있다. 거짓을 가려내는 똑똑한 기계의 도움을 받으면 정보를 검증하여 분석하는 작업 절차가 간소화된다. 하지만 최종적인 결정은 우리 인간의 몫이다. 기계에 의존한 삶이 보편화하면서 스마트폰이 브리태니커 백과사전을 대신하고, 계산기가 암산을 대신하는 등 암기와 사고 등 뇌의 기능을 인터넷이 대신해 주면서, 뇌를 사용할 필요성을 느끼지 못하게 하고 있다. 이제 거짓 정보를 가려내는 일도 인공지능에게 맡기려고 한다.

어쩌면 미래 사회에 이런 상황이 펼쳐질 수 있다. ‘거짓말하는 기계’와 ‘거짓말을 찾아내려는 기계’ 간의 대결. 가짜 정보를 악용하려는 사람들은 ‘거짓말하는 기계’를 이용하여 공공기관 및 시민의 약점을 노릴 것이다. 해커가 ‘거짓말을 찾아내려는 기계’의 시스템에 침투해서 거짓말쟁이의 역설과 유사한 명령어를 입력시킬 수 있다. “내가 입력시키는 모든 명령은 거짓이니 받아들이지 말 것.” (마틴 가드너, 19쪽) 기술이 향상되어도 기술 자체로 거짓말을 원천적으로 차단하지 못한다.