인간을 닮은 인공물을 만든다는 것

계산하는 기계는 생각하는 기계가 될 수 있을까? - 인공지능을 만든 생각들의 역사와 철학 ㅣ Editorial Science : 모두를 위한 과학 2
잭 코플랜드 지음, 박영대 옮김, 김재인 감수 / 에디토리얼 / 2020년 1월

도전장은 던져졌다 

손안의 비서 — 시리와 빅스비, 알렉사 — 와 이야기하고, 허공에 대고 혼자 중얼거리는 이들이 더는 기괴하게만 보이지 않는 요즘이다. 21세기의 세 번째 10년이 시작됐고 사회 전반에서 4차 산업혁명과 인공지능 시대에 돌입하고자 박차를 가한다. 한 대기업에서는 로봇업무자동화 시스템 8대가 249명의 몫을 해낸다. 이는 237명이 연간 총 3만9000시간을 투입해야 하는 업무다. '알 파트장'이라고 불리는 이 인공지능은 사내 네트워크에 정식으로 '동료'로 등록되어 다른 직원과 협업이 가능하다.

알파고가 바둑 명예 9단에 등극하면서 인공지능에서 장밋빛 미래를 보는 이들과 더불어 그 이면을 우려하는 사람도 많아졌다. 체스와 달리 바둑에서 기계가 인간을 넘어설 수 없다던 호언장담은 전설 속으로 사라져버렸다. 기계의 진화는 어디까지일까? 기계가 스스로 생각하고 자유의지를 가질 수 있을까? 더 나아가 의식이란 무엇일까? 이 책 <계산하는 기계는 생각하는 기계가 될 수 있을까?>에 손이 가지 않을 수 없는 이유다.

저자인 잭 코플랜드는 심리철학, 언어철학, 논리학을 주제로 강의하고 글을 쓰는 학자이자 튜링 연구 전문가다. 그가 이 책을 쓴 건 1993년이다. 4반세기 전 인공지능의 현실은 어땠을까? 그리고 다가올 다음 세기를 맞이하며 어떤 전망을 그렸을까? 저자는 컴퓨터가 마침내 체스판에서 인간 정신을 이기는 때가 되면, 하나의 강력한 상징이 만들어질 것이라고 했다(69). 인공지능 딥 블루가 체스 세계 챔피언을 꺾은 지 20년이 흘러 '알 사범' 알파고는 68승 1패라는 화려한 전적을 남기며 2017년 은퇴했다. 듣도 보도 못한 알파고의 포석은 이제 많은 바둑 기사가 즐겨 쓰는 수법이 되었고 인간 기사들은 알파고의 후배들과 대국 훈련을 한다.

이 책의 원제는 <인공지능: 철학적 입문>이다. 과학과 인문학의 첨병과도 같은 '인공지능'과 '철학'이 제목에 나란히 있는 것을 보라(입문이라는 말은 일단 제처두자). 코플랜드는 직관적으로 사유하는 방식이 적용되지 않는 사례들을 들어, 일반적인 사유 방식이 모든 사례에 적용할 수 있을만큼 보편적이지 않다는 것을 보여준다. 가만, 분명 저자는 평이한 문장으로 누구나 이해할 수 있게 썼다고 했는데?(데카르트 곱이 대체 뭐지...) 머리속이 혼란하다. 수수께끼를 풀기 위해 스핑크스를 마주하는 것처럼 긴장과 흥분으로 저자의 논지를 열심히 쫓아가다 보면 십중팔구 '슈뢰딩거의 고양이'와 만나게 된다. 그렇다, 독자는 사고실험을 해야 한다. 

모든 사고실험에 개념상의 오류는 없다. 그렇다고 근거도 없다. 저자의 말대로 '만약'이라는 거대한 함정이 곳곳에 도사리고 있을 뿐. 이 구덩이를 잘 헤쳐갈 수 있을까? 책장을 넘기며 독자는 생각의 지평을 사정없이 늘리고, 쥐어짜고, 거꾸러뜨릴 만반의 준비를 해야 한다. 도전장은 던져졌다.

생각하는 존재 컴퓨터? 컴퓨터! 

18세기 줄리앙 드 라 메트리가 "인간은 시계다”라고 했을 때 당신은 분노했다. 나를 시계 따위와 비교하다니! 근 2세기가 흘러 '당신은 컴퓨터 같네요'라는 말은 셈이 신속 정확하다는 뜻이며, 당신도 라 메트리 시대와 같은 분노로 치를 떨지는 않을 것이다. 

'당신, 알파고군요!' 2020년의 어느 날 이런 소리에 당신은 '아이고, 아니죠'라며 손사래를 칠 테지만 한편으로 뿌듯해할지 모른다. 나의 지능과 지식은 인간을 넘어선다! 심지어 어떤 이들 — 과학자나 미래학자를 포함하여 — 은 기계가 되기를 원한다.

기계가 생각하는 것이 개념적으로 불가능하지 않다는 논지는 이 책 곳곳에서 드러난다. 이는 다시 인간은 생각하는 컴퓨터인가?라고 되물을 수 있다. 4장 '기호체계 가설'에서 특히 잘 드러나는데, 기호 유형이 복합적으로 실현될 수 있다는 이론에서 인간의 뇌는 글자 그대로 컴퓨터라는 것이다. 더 나아가 컴퓨터를 제외한 인공물은 생각할 수 없다는 강한 기호체계 가설은 SF 영화만큼이나 흥미롭다. 이에 따르면 우리는 모두 컴퓨터다(180). 입력 장치와 지식 저장소에 따라 내부 처리와 출력 방식은 꽤 차이가 나겠지만. 

존 폰 노이만은 중앙처리장치에서 순차적 방식으로 과제를 수행하는 컴퓨터를 고안하면서 컴퓨터의 아버지가 되었다. 하지만 부모 세대는 저물고 자식 세대는 변하기 마련 아닌가. 이제 비(non)노이만형 컴퓨터는 병렬 및 분산 처리 방식으로 인간 신경망을 모사하면서 발전하고 있다. 코플랜드는 “100년 안에 컴퓨터라는 단어의 의미가 너무 많이 바뀌어서 뇌를 컴퓨터라 하더라도 반박에 부딪힐 염려를 하지 않아도 되리라” 확신한다(425). 하지만 우리가 언어 공동체로서 컴퓨터라는 '의미'를 끊임없이 다듬어야 하는 의무도 강조한다. 20세기 양자역학의 출현으로 인간 이해 능력과 판단 형식은 새로운 전환기를 맞았다. 물리학자 하이젠베르크는 "과학의 진보는 단순히 우리가 새로운 사실을 알고 그것을 이해하는 데 머무는 것이 아니라 ‘이해한다'는 말이 무엇을 뜻하느냐 하는 것을 항상 거듭 새롭게 배워나가면서 성취하는 것"이라고 했다. 테세우스의 배(125)를 통해 공동체에서 언어의 합의가 인공지능에 관해 어떤 관념과 개념을 '만들 수' 있는지 생각할 수 있는데 이는 의식의 영역까지 확장한다.

한편 일부 미디어가 인공지능을 다루는 데는 볼멘소리를 낸다. 정보는커녕 오해만 불러일으키는 떠버리에 불과하다는 것이다. '지능형' 운운하는 미디어의 과대광고 — 이젠 어느 정도 사실이 되어버린 문구 — 에 현혹되지 말 것을 당부한다. 이는 4차 사업혁명의 물결에 올라탄 우리 역시 명심해야 하는 바다. 이어지는 맥락에서 한스 모라벡의 주장 역시 과장과 속임수의 경계를 오간다고 꼬집는데 코플랜드는 과학자는 책임감을 느끼고 주요 기술혁신이 사회를 어디로 이끄는지 전망해야 한다고 강조한다(211). 어찌 됐든 모라벡의 예측은 현재 빠르게 현실이 되어 가는 듯하다. 2040년(특이점에 근접해 있다!) 모라벡의 예측이 과연 어느 과녁에 꽂힐지 두고 볼 일이다.

똑똑하지만 상식은 없는 친구 

모라벡의 비전에 "공상적인 과장"이라며 날을 세웠어도 코플랜드는 '생각하는 존재'에 대한 개념을 현상학적 구분과 생물학적 구분에서 찾는 것은 잘못이라고 짚는다. "대규모의 적응성"을 바탕으로 행동 지향성을 갖는, 즉 행위 하는 존재는 생각할 수 있다는 것이다. 이는 우리가 현재 서로에게, 그리고 생물학적으로 우리와 가까운 동물에게만 적용하는 용어와 카테고리를 인공물로 확장할지에 대한 결정이다(282).

"최고의 고양이 모형은 고양이다." 사이버네틱스 분야를 창시한 노버트 위너가 한 말이다. 그렇다면 인공지능은 적절한 인간 모형이 될 수 있을까? 앨런 튜링은 생각하는 기계를 만들려는 시도가 인간이 어떻게 생각하는지 밝히는 데 도움이 될 거라고 믿었다. 저자도 이에 적극적으로 동의한다. 미션은 확실해졌다. 인간을 잘 알고 싶다면 인간을 닮은 인공물, 인간형 인공지능을 만들어라.

인간의 의식 작용과 거의 일치하는 인공물에는 '생각하는 존재'라는 개념을 사용할 수 있다. 여기서 가장 까다로운 것이 바로 지식 문제다. 세상을 살아가는 데 있어 아는 것이 곧 힘 아니던가. 더글러스 레넛이 주도한 CYC 프로젝트는 백과사전 Encyclopaedia에서 이름은 따왔다. 흥미롭게도 이 프로젝트는 존재론, 인식론, 논리라는 철학 영역에서 가장 큰 열매를 맺었는데 레넛은 CYC를 대규모 "존재론적 공학"이라고 한 바 있다(224). CYC는 심리치료사 일라이자와는 확실히 달랐다. 하지만  레넛이 CYC는 전자 백과사전이 아니라고 강조했음에도 미시세계에서 표식 붙이기를 하는 전문가 시스템의 한계도 벗어나지 못했다. 인간의 지식 모델은 색인된 목록이 아니다. 이 똑똑한 친구가 "더 넓고 덜 질서정연한" 세계에서 제대로 살아가려면 어떻게 해야 할까?

레넛은 지식에는 반드시 그만큼, 아니 그 이상의 상식이 필요하다는 것을 잘 알았다. 이 상식은 인간이 보기엔 어처구니없는 것이 대부분이다. CYC를 손수 코딩하는 사람은 마치 그 옛날 라 메트리가 인간을 시계에 비유했던 것처럼 모욕감을 느꼈을지도 모른다. 기호체계 가설에 기반한 CYC는 1994년 일종의 자가학습이 가능한 '교차점'을 지나, 2001년이 되면 인간 수준의 지식을 갖춘 시스템으로 완성되는 데 목표를 두었다. 2001년 목표는 실패했다. 평균적인 성인의 지식을 따라잡으려면 CYC는 적어도 2190년까지 학습해야 한다. 작고 작은 우리의 두뇌가 새삼 신비롭기만 하다.

상식과 더불어 '잊어버릴 줄' 안다는 것 역시 이 신비의 영역일 것이다. 똑똑한 컴퓨터는 인간과 다르게 망각하지 않는다. 강제로 코드를 뽑거나 고장 내지 않는 한. 모든 것을 기억하는 컴퓨터와 달리 인간은 기억의 조각들이 떠돌다 느닷없이, 한꺼번에 맞춰지기도 한다. 이 작은 뇌는 분주하게 움직이며 때때로 착각하고, 실수하고, 잊어버리기도 한다. 특히 '망각하기'는 더 넓고 덜 질서정연한 세계에서 빛을 발하는, 컴퓨터와는 다른 인간 특유의 적응성이다.

기억과 망각 사이

"나의 기억력은 마치 쓰레기 하치장과도 같지요." 

호르헤 보르헤스, <기억의 천재 푸네스> 중  

보르헤스의 단편 소설에 등장하는 인물 이레네오 푸네스는 모든 것을 기억한다. 모든 것을 기억하는 순간까지도 모조리 기억하는 그는 마치 기호체계 가설의 현신인 양, 글자 그대로 두개골 속에 슈퍼컴퓨터가 들어 있다. 소설의 화자는 푸네스에 관한 기억을 떠올리며 '기억한다’라는 단어는 '신성한 동사'라고 한다. 그리고 이 말을 쓸 수 있는 사람은 지구상에 단 한사람 — 이미 죽었지만 —  오직 푸네스 뿐이라고 말한다. 

"칠판에 그려놓은 원, 직각삼각형, 마름모와 같은 것들이 우리가 완벽하게, 그리고 즉각적으로 인지할 수 있는 그런 형상들이다. 이레네오에게는 말의 곤두선 갈기들, 언덕 위의 가축떼들, 다른 모양으로 바뀌는 불길, 그리고 그것의 셀 수 없이 많은 재들, 긴 임종의 밤 동안 수없이 바뀌는 망자의 얼굴들을 가지고 그러한 일이 일어났다. 나는 그가 하늘에서 한꺼번에 얼마나 많은 수의 별을 보았는지 상상하기조차 힘들다." 

하지만 “시계 같은 푸네스”의 사고 능력에는 회의를  품는다. 푸네스의 기억에는 개념화가 결여되어 있기 때문이다. 푸네스는 정면에서 보는 개와 2/3 지점에서 보는 개가 왜 똑같은 이름을 가져야 하는지 이해하기 힘들었다. 화자는 이를 두고 푸네스가 플라톤적인 사고, 추론을 할 수 없었다고 회상한다.

"사고를 한다는 것은 차이점을 잊는 것이며, 또한 일반화를 시키고 개념화를 시키는 것이다. 푸네스의 풍요로운 세계에는 단지 거의 즉각적으로 인지되는 세부적인 것들밖에 없었다." 

우리는 정면에서 보든, 측면에서 보든, 다양한 견종을 다른 날에 걸쳐 여러 번 보든 모두 '개'라고 인식한다. 소설의 화자는 독자에게 요청한다. 한 번 들었던 것은 정확하게 반복할 수 없고, 그래서 간접화법으로는 자신이 푸네스를 만나서 느낀 경외감을 제대로 전하긴 힘들겠지만, 부디 상상력을 발휘해달라고. 우리에겐 푸네스 같은 능력이 없다. 그래서 화자의 말을 통해 푸네스의 의식 세계를 상상해 볼 뿐이다. 어쩌면 이 말은 소설을 '읽는' 독자에게 하는 보르헤스의 당부가 아닐까? 

보르헤스는 책을 제외한 모든 매체가 인간 육체의 확장이라고 했다. 현미경은 시력을, 전화기는 목소리를 확장한 것이다. 하지만 책은 상상력의 확장이라고 했다. 시력을 잃은 그가 시각이 지배적인 매체인 책을 인간 지성과 상상력의 확장이라고 꼽은 것은 어떤 의미일까? 보르헤스는 자신이 눈이 보이지 않기 때문에 기억 속에 산다고 했다. 우리는 과거 속에 존재한다. 그렇지 않으면 우리가 누구인지, 이름이 무엇인지도 알지 못할 것이라고. 인간은 모든 것을 기억하거나, 모든 것을 잊어버리는 존재가 아니며 그 중간, 기억과 망각 사이에 존재한다고 했다. 그리고  바로 이 지점에서 상상력이 생긴다는 것이다. 

이제 인공지능 연구는 모 아니면 도인 아버지 세대를 지나 병렬분산처리(PDP) 방식으로 거듭 성과를 내고 있다. 20세기에는 민달팽이보다도 못한 취급을 받았지만, 산발적인 병렬 활동은 역치를 통해 ON과 OFF 사이를 무수히 오가며 놀라운 학습 능력을 보여준다. 하지만 PDP 역시 우리의 작은 뇌를 희미하게 비출 뿐이다. (개념적으로)생각하는 기계는 과연 상상하는 기계가 될 수 있을까?

우리 감각의 지향점

인공지능 연구의 첫 황금기인 1960년대. 미디어학자 마셜 맥루언은 미디어는 인간 육체의 확장뿐 아니라 정신의 확장이라고 했다. 차기 미디어가 무엇이 되건, 의식의 연장이라는 것이다. 맥루언은 ‘지구촌'의 개념을 이야기하면서 전자 기술은 인간 중추신경계의 연장이며 지구의 집단적인 신경 회로가 24시간 돌아가면서 준지각력이 있는 무형의 거대 메타 커뮤니티라고 정의했다. 또한 "너무 많은 정보를 접하게 되면 사람들은 곧바로 패턴을 찾아내서 이를 구조화하려 한다. 예술가의 일은 패턴을 찾는 것이다."라고 했다. 여기서 구조화를 '네트워크 하기'로 이해하면 이는 빅데이터의 정보 처리 방식과 다름없다. 맥루언의 비전은 초고속 인터넷의 등장으로 현실이 되었다. 그리고 초연결 시대에 접어들면서 우리의 생활 패턴은 사람이 아닌 빅데이터로 재구성되고 있다. 여기서 주목할 것은 맥루언의 신묘한 통찰이 아니라 그가 어떻게 이 같은 비전을 그렸냐는 것이다.

맥루언의 주장은 과학적 방법과는 거리가 먼 것이기에 충격을 넘어 광대, 사기꾼이라는 비웃음까지 샀다. 그는 시골 출신(캐나다는 당시엔 그야말로 깡촌이었다.) 영문학자고 열렬한 가톨릭 신자였으며 중세 종교 개혁의 문건, 르네상스 시대의 미술, 모더니즘의 수사학 등을 연구해서 다음 세기 미디어의 전망을 예측했다. 같은 맥락에서 코플랜드의 고찰을 눈여겨봐야 할 이유다. 독자는 책장을 넘기며 고대(그리고 외계의) 수수께끼와 여러 사고 실험으로 머리를 싸매게 된다. 저자는 책의 원제처럼 인공지능의 ‘개념’을 철학적으로 분석한다. 이 책의 독법은 인공지능 기술이 아닌 ‘인간’을 좀 더 잘, 제대로 이해하기 위한 사고 과정이다.

조지프 와이젠바움은 심리상담 프로그램 일라이자를 만들고 뜻하지 않은 효과에 의문을 품는다. 왜 인간을 모델로 하는 인공지능을 만들어야만 할까? 아이처럼 유년기가 있고 언어를 배우면서 자신의 기관으로 세계를 감각해서 궁극적으로 인간 사유의 전 영역을 고려하는 로봇을 왜 만들어야 하는지 말이다(52). 우리는 기술 진보를 향해 달려가는 것뿐 아니라 왜 그래야 하는지 끊임없이 상기해야 한다. 인간이 생물학적 표본으로 인간 존재를 더 잘 이해하고, 삶을 가치 있게 하고, 시대에 따른 개념 구조를 공동체의 합의로 끊임없이 다듬어가는 것이 인공지능 연구의 바탕이어야 한다.

4차 산업혁명에 따른 초연결, 빅데이터, VR/AR 등 미래 기술이 사방에서 화두인 요즘이다. 너도나도 5G 시대를 선도한다고 외쳐댄다. 사회가 기술 진보를 쫓아 숨 가쁘게 달려가는 한편 지능형, 스마트 운운하는 떠버리 미디어에 현혹되지 말라는 코플랜드의 경고는 여전히 유효하다. 최소한 알맹이와 쭉정이를 구분하기 위해 우리의 눈과 귀가 머물 곳은 어디일까? 맥루언은 <미디어는 마사지다>에서 말한다. “우리는 백미러를 통해 현재를 본다. 우리는 미래를 향해 뒷걸음질한다." 포스트휴먼 시대에 인공물과 공생을 넘어, 상생의 시대를 맞고자 하는 인류가 되새겨 볼 만한 말이다. 

#원탁의 서평단