어떤 철학을 가질 것인가 - 김재인 《인공지능의 시대, 인간을 다시 묻다》

인공지능의 시대, 인간을 다시 묻다 - 철학과 과학을 넘나드는 사고력 강의
김재인 지음 / 동아시아 / 2017년 9월

인공지능에 대한 우리의 분석도 여러 변화 과정 속에 있다.

할란 엘리슨 「나는 입이 없다 그리고 나는 비명을 질러야 한다」(1960년대 소설)에 나오는 ‘인공지능 AM’은 세계를 파괴하고 창조하는 능력을 가지고 있음에도 돌아다닐 수 없고 경탄할 수 없으며 소속될 수 없이 그저 존재하는 것에 분개하며 인간에게 복수하는 낙으로 산다. 니체는 “인간만이 과거 앞에서 원한 감정과 복수의 정신을 갖는다고”(p216) 했지만 대부분의 SF 물에서 봤다시피 전혀 그렇지 않다. 제발 분노한 침팬지들과 싸우지 않게 해 주시옵소서! 시로 마사무네 원작, 오시이 마모루 감독 《공각기동대》(1990년대 작품)의 ‘인공지능 인형사(프로젝트 2501)’는 개성과 다양성의 특성으로 진화하며 영원히 존재하기 위해 쿠사나기와 융합을 꾀한다. 다른 단편에서도 그랬지만 할란 엘리슨의 소설은 인공지능과 인간의 적대만을 강조했다면, 《공각기동대》는 유발 하라리 《호모 데우스》의 전망처럼 인간과 기계의 합체를 보여준다. 이상하지 않은가. 인공지능은 왜 몸에 그토록 집착할까. 결과야 어찌 되었든 이 작품들에는 ‘몸과 정신’, ‘나’라는 자의식 즉 지극히 인간적인 생각이 투영되어 있다. 참고로 이 책과 여기서 내가 말하는 ‘몸’은 몸의 일부인 ‘뇌’를 가리킨다. 몸과 정신의 이원론과 그것의 불화는 플라톤 이전부터 생각되어 왔고 “최소한 2500년 동안 지속된 생각”(p246)이다. 몸과 정신의 이원론을 어떻게 받아들이냐에 따라 ‘나’라는 존재방식도 달라진다. “만약 디지털화라면 무한 복제가 가능하기 때문에 ‘나’는 보존될 것이고, 지각 과정에 가깝다면 ‘나’는 변형”(p298) 될 것이다. 이 인식이 바뀌기 시작한 것은 비교적 최근이다.

“자연과학이 발전하기 전, 그러니까 15~16세기까지를 염두에 두면 세계에 관해 얻은 지식은 모조리 감각을 통한 지식이었습니다. 태양이 쟁반 정도 크기에 200걸음 정도 떨어져 있다고 아는 식이었습니다. 해와 달이 된 오누이 이야기가 나온 것도 그래서입니다. 해와 달이 비슷한 크기로 비슷한 거리에 있다고 보았던 거죠. 그런 수준의 지식으로 논의된 철학은 자연에 대한 앎과 관련해서는 별로 쓸모가 없어요. 가치와 관련된 논의들, 가령 윤리학이나 미학 같은 철학 논의는 여전히 통찰을 주고 있지만요.”(p262)

"모든 철학은 당대의 자연과학과 나란히 가야 합니다. 그렇지 않은 철학은 구식이에요. 실제 세계를 모른 채 철학하게 되는 거니까요. 데카르트, 스피노자, 라이프니츠, 로크, 버클리, 흄 등 17~18세기 철학자들의 가장 중요한 특징은 이들이 당대의 자연과학과 동시대적으로 작업했다는 점입니다. 거기에 더해 자연과학 지식이 우리에게 답변해주지 못하는 것들까지 논하려고 했던 거죠. 자연과학 지식을 모른 채 그렇게 한 게 결코 아니라는 겁니다. 오늘날은 어떨까요? 철학자들이 저 선배들처럼 하지 못한다면 그건 지적 태만이 아닐까요? 과학에서 이미 알고 있고 공학에서 기술로 구현하고 있는데, 이를 부인하는 꼴이 되니까요. 물론 결정적인 어려움도 있습니다. 오늘날 과학과 기술이 너무 빠른 속도로 발전하고 있어서 실제 해당 분야 전문가조차도 이를 따라가기 어렵다는 겁니다. 바깥 분야 사람들에겐 더더욱 어렵겠지요? 어떻게 하는 게 최선일지 답을 찾기가 참 어렵습니다.”(p263)

데카르트의 코르푸스(몸, 물체)는 “몸을 기계라는 말로 지칭하면서 ‘스스로 움직이는 힘’을 지니지 않다고 명시적으로 말”(p291) 했다. 뇌사자에게 자아 존재로서는 죽었다고 판정하는 요즘 생각과 그리 다르지 않은 것 같다. 저자는 뇌와 마음의 구별도 말한다. “뇌도 그렇지만 특히 마음은 DNA에 의해 결정되지 않습니다. 어떤 경험을 하느냐에 따라 마음이 달라지니까요.”(p306) 이러한 논지에서 저자는 리처드 도킨스의 “이기적 유전자”의 결정론을 비판한다. 

“자연선택은 결과의 관점에서 출발해서 계보를 찾는 거예요. 개체이건 개체군이건 아니면 특정한 형질을 지닌 유전자이건, 미리 아무리 노력해도 소용없어요. 전략을 짠다는 것 자체가 불가능합니다. 그저 변이와 다양성을 자기 안에 되도록 많이 확보하는 게 최선이에요. 그런데 변이와 다양성은 유전자 차원에서 확보될 수 없어요. 도킨스한테 유전자는 복제자로 이해되고 있거든요. 도킨스는 과도한 의인법에 스스로 속아 넘어간 걸로 보입니다. 유전 자체는 동일성 전달이지만 자연 선택은 차이의 선택입니다. 동일할수록 환경의 급변 앞에서 멸절하기 쉽습니다. 나는 이 점에서 도킨스가 진화론의 기본을 오해하고 있다고 생각합니다.”(p325)

도킨스의 유전자론은 생존 조건이 DNA 속에 모두 저장되어 있다고 말하는데 이는 태어날 때부터 가지고 있다는 본유관념과 흡사하다. 저자는 책 전반에서 베이트슨 Gregory Bateson 이론을 지지하며 논의를 펼친다. 진화가 끊임없는 학습에 의해 지속된다고 볼 때 “학습은 개체 또는 체세포 수준에서 일어나는 변화”이고 “학습 과정 전후에 우리는 전면적으로”(p326) 바뀐다. “생명체가 ‘나’라는 형태로 자기 자신(정체성)을 계속 유지해가는 것은 일정한 변화 ‘속’에서”(p353)이다. 그러므로 저자는 ‘무작위성’을 내장하고 있는 진화론적 생물의 특성을 간과한 호프스태터 《괴델, 에셔, 바흐》 의견도 비판한다.

“호프스태터는 컴퓨터가 무작위성을 내장하지 않아도 된다고 보았습니다. 세계의 무작위성을 흡수하면 된다고 생각했거든요. …(중략)…하지만 내장되어 있지 않다면 알고리즘이 무작위 실행을 해보는 일은 원리상 불가능합니다. 외부에서 들어오는 정보는 그것이 무작위이건 아니건 에이전트의 구조에서 지각의 층위에 속합니다. 따라서 지각을 기반으로 삼아 알고리즘 자신이 변하는 일은 있을 수 없습니다. 따라서 나는 호프스태터의 직관보다 튜링의 직관이 옳다고 봅니다. 무작위 요소가 프로그램에 내장되어 있어야 학습과 진화가 가능합니다.”(p350~351)

저자는 인공지능에 대한 우리의 진단이나 우려가 과도하다고 평한다.

“자의식을 갖는 걸 반성 reflection이라 합니다. 자기를 돌아보며 어떻다는 걸 아는 거예요. …(중략)…자의식의 특징은 무엇이죠? 내가 생각하기엔 앞에서 말했던 것처럼 두 층위의 병행입니다. 작동이 일어나는 층위가 있고 동시에 한 단계 높은 층위에서 그 작동을 점검하는 겁니다. 그래야만 반성이 성립하겠죠. 위계의 차이가 있으면서 끊임없이 상호작용이 일어납니다. 컴퓨터 프로그램은 자의식을 가질 수 있을까요? 자기가 자기를 점검하고 평가할 수 있을까요? 그런 일이 수학적으로 프로그래밍될 수 있을까요? 그럴 수 없다는 것이 내 사색의 결론입니다.”(p355~356)

"물리학자 스티븐 호킹, 마이크로소프트 창업자 빌 게이츠, 테슬라 최고경영자 엘론 머스크, 옥스퍼드 대학의 철학자 닉 보스트롬, 『파이널 인벤션』의 저자 제인스 배럿 등 많은 명사들이 말하는 묵시록적 전망은 과장된 것입니다. 이들의 공통점은 인공지능의 구현을 위해 노력하는 현장의 전문가가 아니라는 점입니다. 그리고 나는 이 책을 통해 초인공지능의 불가능성을 보였다고 생각합니다."(p359)

이런 책들의 결론이 대체로 그렇듯 인공지능이 할 수 없는 “문제를 제기하는 일, 목표를 세우는 일, 한마디로 창조적인 일”(p360)을 찾으라는 걸로 끝이 났다.

도래하는 인공지능 시대, 어떤 철학을 가질 것인가가 이 책의 주제다. 좋은 질문이 곧 좋은 답이라면 결정론적인 단언보다 이러한 질문을 찾는 것이 가장 시급하며 절실하다.