[인공지능/김대식] 인간에 대한 진지한 질문을 시작할 때

김대식의 빅퀘스천 - 우리 시대의 31가지 위대한 질문
김대식 지음 / 동아시아 / 2014년 12월

(한달 전에 읽었는데, 이제야 후기를...)

갈릴레오 갈릴레이는 태양계의 중심이 지구가 아닌 태양이라고 주장해 가혹한 탄압을 받았다. 하지만 갈릴레이가 진정으로 '위험한 인물로 찍힌 이유는 따로 있다. '원인'이 더 이상 철학과 과학의 대상이 되어서는 안된다고 주장한 첫인간이기 때문이다. 그에 따르면 과학이 탐구할 것은 '원인'을 의미하는 '왜'라는 질문이 아니다. 관찰한 현상이 어떻게 만들어졌는지, 그리고 앞으로 어떻게 변할지 에측하는 것이 과학이다.(37쪽)

오해할 수도 있는 말인데, 내용을 잘 읽어보면 이전에는 '그래서 이건 신의 섭리야'라는 논리가 강했다. '해가 뜬다. 왜 닭이 우니까'라는 논리로 신의 섭리를 강조했다. 물론 신의 섭리라고 이야기하는 이들의 이야기는 결국 권력을 가진 자들이 자신들의 권력을 유지하기 위해 가져다 쓰는 논리지만(지금이 기독교도 비슷하다. 하나님의 뜻이라고 하는데, 성경을 보면 그렇게 보지 않을 수도 있는 것 같은데)

과학적으로 육체와 분리되어 영원히 존재할 수 있는 영혼에 대한 가설은 불필요하다. 하지만 인류가 그런 영혼의 존재를 믿지 않았다면 예술도, 종교도, 철학도 없었을 것이다. ...인간에게 세상은 끝없이 불안하고 두려운 곳이었을 것이다. 인간의 유일한 무기는 다른 동물들보다 큰 뇌이고, 뇌는 원인을 추구하는 기계이다. 그래서 인간은 항상 원인과 인과관계를 추론하려 한다. 천둥은 왜 칠까? 밤은 왜 어두울까? 표범은 왜 우리를 잡아먹는 것일까? 내가 보고, 느끼고, 기억하듯 어쩌면 태양도 영혼과 자아가 있어 아침에 뜨기를 원해 세상이 밝아지는 것일 수 있다. 비가 내리는 것도 구름의 영혼이 원해서인지도 모른다.
이제 모든 것이 설명된다. 우리의 삶을 위협하는 모든 존재들은 그들만의 의지와 영혼을 가지고 있으며, 그 영혼들의 마음을 얻으면 우리는 오들 또 하루는 살아남을 수 있게 된다. 또한 인류는 영혼을 가지고 태어난 것이 아니다. 영혼은 발명한 것이다. 영혼은 먼 미래에 지구를 정복하게 될 원시시대 인류가 최초로 개발한 '킬러 애플리케이션'이었던 것이다.(114쪽)

그런 인간은 설명할 수 없는 일들을 이해하기 위해 노력한다. 그런데 이해할 수 있는 방법이 생겼다. 영혼. 영혼의 발견으로 인간은 설명할 수 없는 모든 것을 이해할 수 있게 되었다. 그리고 역사를 지배하기 시작했다. 실제 그랬는지 모르지만, 역사에 대한 해석권을 갖게 되었다.

세상은 복잡하다. 사소한 우연의 일치가 거대한 변동의 원인이 될 수 있고, 역사를 바꾸어놓을 것 같던 사건이 아무 이유없이 사라져버릴 수 있다. 세상은 언제나 무한의 가능성과 무의미한 우연 사이의 싸움이다.
서양은 오늘날 세상을 지배한다. 하지만 서양의 과거는 현재의 논리적 원인이 아닌 포스트 훅posthoc, 그러니까 이미 일이 벌어진 후 제시된 '편한' 해석일 분이다. 어쩌면 세상을 지배할 수 있는 유일한 방법은 과거 정복인지 모른다. 우연과 가능성들의 합집합인 과거를 재해석하고 평가함으로써 우리는 '왜'라는 질문에 답을 얻는다. 과거를 소유하는 자만이 무질서한 역사를 질서로 재탄생시킬 수 있다는 말이다. (175쪽)

역사에 대한 해석은 중요하다. 예를 들어, 역사 해석을 통해 서양이 동양보다 우월했음을 증명한다. 고로 현재 서양이 동양보다 우월하다는 배경이 형성된다. 그런데 정말 그럴지는 모른다. 결국 지금의 패권을 가지고 있는 서양이 서양의 시각으로 그렇게 해석을 했으니까.

그런데, 과학의 발전으로 이런 인류의 행보에 균열이 생기기 시작했다. 인공지능의 발전으로 인간의 직관이라는 것도 결국은 치밀한 계산앞에서 무용지물이라는 것이 드러났다. 실은 그전부터 과학의 발전으로 인간의 생각에 균열이 발생했다.

그렇다면 한발 더 나아가 이런 주장도 해볼수 있겠다. 우주 그 자체가 수학이라고, 수학적으로 가능한 모든 실체들이 물리학적으로 존재하며, 모든 존재들은 하나의 거대한 존재라는 함수를 계산해내는 컴퓨터의 부분이라고, 우리들의 '이해' 그 자체가 우조라고 불리는 컴퓨터 안에서 끊임없이 계산되고 있는 단 하나의 존재함수의 계산과정이라고 인정한다면 우리는 세상을 조금은 더 이해할 수 있게 될 것이다.(253쪽)

그렇다면 마음은 무엇일까? 위스콘신 대학의 신경과학자 줄리오 토노니 교수는 마음을 '신경회로망 계층들을 지난 가장 높은 층 전두엽으로 모이는 정보들의 형태'라고 이야기한다. 아래층 뇌 영역들이 망가지면 자아와 마음은 유지되지만 정보를 계층적으로 모을 수 없고, '높은 층' 영역들이 파괴되면 우리는 마음과 의식과 마음을 잃는 것이 그 이유이다. 그렇다면 '깊은 학습'이 가능한 인공두뇌는 어떨까. 우리는 인공두뇌를 진화적으로 한정된 인간의 10층보다 더 많은 층계를 갖도록 설계할 수 있다. 곧 '깊은 학습'이 된 인공지능은 인간보다 1,000만배 더 고차원적인 패턴을 이해하고, 1,000만배 더 큰 아픔과 기쁨을 느끼고, 1,000만배 더 깊은 마음을 가지게 될 것이다. (292쪽)

이제 우리는 인간이 갖는 우월성에 의문을 갖기 시작했다. 인간의 우월성이 과연 얼마나 갈까?

기계에게 일자리와 삶을 모조리 빼앗길 수도 있다는 러다이트의 걱정처럼, 오늘날 인간은 이대로 안심해도 되는 것일까? 구글은 무인자동차를 개발하고 아마존은 드론을 이용한 택배서비스를 계획하고 있다. 공장은 완벽하게 자동화되는 중이고, 머지않아 전쟁에 참여하는 전투로봇까지 나타날 전망이다. 우리는 새로운 기계혁명 시대에 살고 있는 것이다. 반도체 집적회로의 성능이 18개월마다 2배로 증가한다는 '무어의 법칙', 지구의 모든 존재들을 연결시켜 줄 사물인터넷, 데이터 마이닝, 기계학습, 뇌 모방, .. 개개인의 능력으로는 완벽하게 이해할 수 없는 최첨단 기술들의 조합된 지능을 인류는 기계에 심고 있다.
이해불가능한 기술은 마법과 별 차이가 없다. 그런 마법같은 기술로 기계에 생각과 인지능력이 주어진다면? 인간이 뇌만이 할 수 있었던 일을 기계가 하기 시작할 것이다. 두개골이라는 공간적 한계에 구속받는 인간과 달리 기계는 무한의 지능과 인지능력을 가질 수 있다. 더 저렴하고, 더 빠르고, 더 완벽하게 생각하는 기계가 등장하는 순간 수많은 화이트 칼라, 비서, 변호사, 교수, 기자들이 일자리를 잃을 것이다.(299쪽)

지금까지 로롯의 발달로 단순노동계층만 위험하리라 생각했다. 그런데 인공지능이 체스에서 인간을 앞도하고, 퀴즈쇼 재퍼디에서 승리하고, 바둑에서의 성과는 전문직의 자리도 생각보다 안전하지 않음을 보여준다. 고도의 지식산업이라 할 수 있는 부분이 인공지능에 자리를 내줘야 할 수도 있다.

그래서 이제 본격적인 질문을 던져야 한다. 과연 인간이란 무엇인지, 인간다움이란 무엇인지. 그리고 그 인간다움을 어떻게 유지할지.

30년, 50년, 100년 후 기계가 드디어 정보를 이해하고 인간의 지능을 대체하는 순간, 인간은 더 이상의 발명도, 혁신도, 노동도 할 필요가 없을 것이다. 아니, 누구도 인간의 노동·혁신·발명을 필요로 하지 않을 것이다. 얼마든지 기계가 더 빠르고, 더 완벽하게 그리고 더 저렴하게 해낼 수 있기 때문이다. 지구의 모든 물건과 서비스를 실리콘밸리에 위치한 10개의 인공지능 회사들이 만들어낼 수 있다면? 지구는 무한으로 부자가 되겠지만 99% 이상의 사람들은 직업도, 소득도 없어지지 않을까? 지구에서 소득세를 낼 수 있는 사람들이 단 10명 뿐이라면? 100년 후 인공지능 시대에 과연 민주주의가 여전히 존재할지 궁금해진다.(155쪽)

카네기멜론 대학의 인공지능학자 한스 모라비치 Hans Moravce는 인간보다 빠르고 뛰어나며 영원히 존재할 수 있는 기계가 인간을 지구에서 불필요한 존재로 판단해 멸종시킬 것이라고 예측한다. 그리고 덧붙인다. 뭐 그다지 슬픈일이냐고, 기계는 어차피 우리의 후손이라고, 인류의 모든 역사와 지식을 그 누구보다 완벽하게 보존할 기계들이기에, 인류의 기억만큼은 사라지지 않을 것이라고, 호모사피엔스가 네안데르탈인을 멸종시켰듯, 기계도 호모사피엔스를 멸종시키는 것 뿐이라고. 그것이 자연의 법칙이라고(311쪽)