김대식의 ‘인간 vs 기계‘는 인공지능에 대한 정밀 보고서이다. 과학적 근거를 제시하는 가운데 객관성을 담보한 것도 있고 SF 적인 것도 있다. 우리에게 인공지능은 희망과 우려가 뒤섞인 시각으로 보게 되는 것이 아닐지? 그것은 인공지능에 대한 확신 불가의 미래로부터 기인한다.
물론 인공지능의 미래는 결정되어 있지 않다. 인공지능의 미래는 인류가 무엇을 기대하고 어떤 입장을 취하는가 등에 따라 달라질 것이다. 기계들이 판단하며 행동하려면 자율성이 필요하다. 아무리 멋있는 로봇이라도 기계들을 인간이 리모컨으로 조종한다면 그냥 장난감이나 다름 없다.
우리가 기대하는 인공지능 로봇이 경쟁력이 있으려면 기계 스스로 세상을 인식하고 스스로 판단을 내려야 한다.(30 페이지) 기계들에게 지능을 집어넣는 것은 너무 어렵다. 정반대의 관계인 보편성과 구체성을 동시에 만족시키기 어렵기 때문이다.
가령 강아지를 설명할 때 보편적인 설명을 하면 강아지 집합의 멤버가 아닌 동물들이 포함되고 너무 구체적인 설명을 하면 강아지 멤버에 다양한 종들의 강아지가 배제된다.(강아지의 공통점은 대부분의 동물들에게도 해당된다. 강아지만 가지고 있는 특징이면서 모든 강아지가 가지고 있는 특징은 없다.; 39 페이지)
기계가 분석할 수 있는 계량화된 데이터는 선형적으로 증가하고 분석할 수 없는 데이터는 기하급수적으로 증가하기에 기계가 결국 세상에 대해 무언가를 배우고 소화하여 자신의 것으로 만들기 위해서는 사람과 비슷한 수준의 지적 능력을 가진 인공 지능이 필요하다.(38 페이지)
보편성 개념이 중요하다. 이 보편성 문제에 대한 해결책은 두 가지이다. 하나는 유명론(nominalism)이고 다른 하나는 실재론(realism)이다. 실재론의 플라톤은 이데아 개념을 제시했다. 이데아라는 원형(原形)이 있기에 현실의 것들을 구별할 수 있다는 것이다. 아우구스 티누스도 실재론자이다.
아리스토텔레스, 오컴(오컴의 면도날이란 개념으로 유명한) 등이 유명론자이다. 유명론(唯名論)이란 유명 즉 오직 이름만 있다는 의미이다. 강아지에 대해 말하자면 강아지는 강아지라는 이름을 가진 것 외에 공통점이 없다는 말을 할 수 있다. 이데아 세상을 믿지 않은 아리스토텔레스는 우리가 보편적인 물체를 알아볼 수 있는 유일한 이유는 결국 우리의 경험과 경험에 모종의 교집합이 존재하고 그 교집합이 바로 보편적인 물체가 된다고 생각했다.
우리가 희망하는 인공지능을 만들기 위해서는 인간이 세상을 어떻게 보편적으로 이해하는지 정확히 알 필요가 있다.(47 페이지) 파르메니데스의 말 가운데 호토스 에스틴(hotos estin)란 말이 유명하다. 이 세상 또는 존재는 하나라는 의미이다. 존재가 하나의 법칙을 통해 작동한다는 말이 가능하다.
세상이 하나가 아니라면 공통의 이해는 불가능하다. 헤라클레이토스는 physis kryptesthai philei라는 말을 했다. 자연은 숨는 것을 좋아한다는 의미이다. 파르메니데스의 말대로 ‘하나인 세상‘이 이해가 어렵다면 자연이 숨는 것을 좋아하기 때문이라는 의미이다. 그렇기에 안을 파헤쳐 들어가야 한다는 의미이다.
숨으려고 하는 자연의 비밀을 알아낼 수 있는 도구들이 필요한데 그것들을 다 만든 사람이 아리스토텔레스이다. 형이상학, 물리학, 경제학, 정치학, 그리고 그 도구들을 연결시키는 도구인 논리까지...수학이 유일하게 오해가 없는 언어라 생각한 라이프니츠는 이진법을 만들었다. 물론 라이프니츠의 프로젝트는 실패했다.
언어를 이진법으로 표현할 수 없었기 때문이다. 라이프니츠는 우주는 원자가 아닌 원자보다 더 본질적인 점 즉 모나드로 만들어졌고 이 모나드 자체가 우리의 정신도 만들었다고 주장했다. 라이프니츠는 인간의 자유의지는 불가능하다고 생각했다. 라이프니츠는 신의 완벽성과 선함 사이의 모순을 해결하기 위해 창조할 수 있는 최선의 우주라는 개념을 제시했다.
라이프니츠의 우주관은 평행우주이다. 우리가 살고 있는 우주는 창조할 수 있는 최선의 우주라는 것이 라이프니츠의 진단이다. 인간의 경우 기억하는 것은 어디에나 정보를 저장했다가 가져오는 것이 아니라 매번 새로 만들어내는 것과 다름 없다. 저장 용량이 제한적이기 때문에 각 상황에서 저장 가치가 있는 것과 없는 것을 구별해 저장한다.
그리고 그것들을 압축한다. 뇌에서는 정보가 무늬(패턴) 위주로 입력된다.(93 폐이지) 뇌는 정보를 획득하는 방법이 컴퓨터와 완전히 다르다. 뇌는 두개골 속에 있기 때문이다. 컴퓨터는 정보를 가감 없이 입력한다. 매개체를 거치지 않는다. 뇌는 세상을 직접 볼 수 없다. 뇌는 다섯 가지 감각 기관을 통해 들어오는 정보를 패턴화해 저장, 해석한다.(93, 94 페이지)
문제는 감각기관들이 절대 완벽하지 않다는 데 있다. 눈은 물체에서 반사된 광자(光子; 빛 입자)를 렌즈로 모은 뒤 렌즈에서 모은 빛을 망막에 영사시키는 역할을 한다. 현대 뇌과학에서는 인간의 믿음, 생각, 지각, 느낌, 기억 대부분이 착시현상일 것이라 생각한다. 망막에서 얻을 수 있는 대부분의 정보는 광자들의 확률 분포 밖에 없다. 색, 형태, 입체감은 뇌가 만들어낸 착시이다.(98 페이지)
세상은 절대 우리가 보는 대로 존재하지 않는다. 우리 눈에 보이는 세상은 인풋이 아니고 계산이 끝난 아웃풋이다.(98 페이지) 우리가 보는 현실의 사물이 가진 색을 완벽하게 표현할 수 있는 언어는 없다. 사과의 경우만 해도 상당히 애매하고 복잡한데 우리는 사과가 가진 색에 가장 근접한 색인 빨강이라는 색으로 사과를 표현한다. 이 과정에서 우리는 서로 이해하고 소통했다는 착시를 얻는다.
문제는 언어의 해상도가 인식의 해상도보다 훨씬 더 낮다는 것이다.(103 페이지) 생각의 숫자보다 언어의 숫자가 적은 것도 문제이다. 심리학자들은 알수록 세상이 다르게 보인다고 하고 뇌과학자들은 아무리 알아도 세상이 똑같이 보인다고 말한다. 뇌는 계층구조로 되어 있다. 10층에서 15층 정도 되는 구조로 차곡차곡 쌓여 있는 것이다.(118 페이지)
인간의 사물 인식 과정은 대기업 구조 같다. 맨 아래층의 신입사원들은 정말 아는 게 없다. 본인 책상 위의 한 픽셀 짜리 정보 말고는.(122 페이지) 위로 올라갈수록 추상적이고 거시적인 시야를 갖게 된다. 인공지능 분야에 딥러닝이라는 알고리즘이 등장했다. 딥러닝은 더 이상 인간이 기계에 세상을 설명하지 않는다. 엄청나게 많은 데이터를 그냥 집어넣으면 된다.
빅데이터가 있기에 가능한 일이다. 기계는 이 엄청난 양의 데이터를 자체 인공신경망 구조를 통해 스스로 학습한다. 이 데이터에 포함된 통계학적인 정보에 대해 점점 더 압축된 표현을 만들어내는 과정을 학습한다.(126 페이지) 딥러닝은 더 이상 우리가 세상을 설명해주지 않고 엄청나게 많은 수천만 장의 사진들을 집어넣는다.(알고리즘algorithm은 컴퓨터의 기계 처리의 순서를 말한다.)
철학자 루드비히 비트겐슈타인은 낸드(NAND: NOT and AND)가 우주의 진리라 생각했다. 석연치 않음을 인식해서인지 비트겐슈타인은 말할 수 없는 것에 관해서는 침묵해야 한다는 말을 했다. 현대 뇌과학은 들어오는 정보의 대부분을 언어처리할 수 없다고 말한다. 낸드인 것이다.
언어로 정확히 표현할 수 없는 정보와 기능은 딥러닝 같은 방식을 통해 기계에게 학습시켜야 한다는 결론이 도출된다.(141, 142 페이지) 기존 인공신경망의 한계를 극복한 인공신경망을 딥러닝이라 한다.(146 페이지) 인공신경망을 만들면 신경망과 신경망 사이 연결고리 시냅스가 있고 여기에 정보가 저장된다. 신경세포 수 만큼의 표현이 가능한 것이다.
50년 동안 풀리지 않았던 문제들이 딥러닝으로 인해 3- 4년 만에 다 풀렸다.(168 페이지) 이제까지 기계는 상황을 인식하지 못했는데 딥러닝으로 상황을 인식할 수 있게 되었다. 저자는 공학자의 입장에서 직감은 존재하지 않는다고 생각한다고 말한다. 당연히 뇌는 무엇인가를 계산하고 그 일부만을 언어로 표현하는데 언어로 표현할 수 없는 모든 것을 우리는 직감이라 말한다.(177 페이지)
직감이 아니라 본인도 의식하(알)지 못하는 부분이 있는 것이다. 바둑의 경우 매번 할 수 있는 옵션이 200가지 정도이다. 따라서 바둑에서는 10의 170 제곱 개 이상의 길들이 존재한다. 이 모든 길을 다 계산할 수는 없다. 계산으로는 절대 불가능하기에 프로 바둑 기사들은 최적의 수를 찾아낸다.
그들은 직관으로 그 최적의 수를 찾아낸다고 말한다. 우리는 바둑책을 아무리 읽어도 이세돌 기사 같은 직관은 안 생긴다. 책으로 설명할 수 없고 표현할 수 없는 90퍼센트의 비정형 데이터가 있기 때문이다. 이세돌 9단도 자신의 머리 안에 있는 그 지식들을 언어로 표현할 수 없다.
딥러닝에서는 시야가 좁은 아래층 신경세포들이 범하는 오류들을 위로 올라가면서 넓어진 시야로 대처한다. 재미있는 또는 아이러니한 것은 딥러닝이란 모델은 뇌를 이해하기 위해 만든 것인데 복잡해지자 그 자체를 이해 못하게 되었다는 점이다. 기계 학습법에서 한 번 보고 익히는 것을 원 샷 학습법이라 한다. 인간은 원샷 학습법으로 배운다.
딥러닝이 가장 못하는 것은 실시간 학습이다. 현재의 딥러닝 기계는 1,000 가지 물체를 알아보는데 새로운 물체 한 가지를 추가로 학습하려면 이미 알고 있는 1,000 가지는 잊어버려야 한다. 인간은 그렇지 않다. 2016년 3월 알파고와 이세돌의 대결에서 알파고는 아마추어도 하지 않는 실수를 한 것으로 보였지만 40수 뒤에 보니 굉장히 중요한 역할을 하는 수로 판명된 경우를 연출했다.
우리가 모르는 미래를 알파고는 이미 알기에 준비해두는 것이다. 베이퍼웨어(vaporware)란 아직 실용화되지 않았거나 존재하지 않지만 논의되고 광고도 하는 소프트웨어 또는 하드웨어를 말한다. 베이퍼는 (수)증기를 말한다. 안티베이퍼웨어(anti vaporware)는 구글이 만드는 웨어이다. 무언가를 만들겠다고 모델과 프로토 타입까지 만들면 경쟁 회사들이 뛰어든다.
어떤 수익이 날지 아무도 모르는 상태에서 다른 회사들이 뛰어들면 구글은 그 사업에서 슬쩍 빠진다. 다른 회사들의 시간과 에너지와 자원을 낭비하게 하는 것이다. 자율주행차로 인해 운전자가 사라져 모든 사람이 승객이 되면 멀미 문제가 생긴다. 무인자동차는 엄청난 멀미를 일으킬 것이다.(254 페이지) 멀미는 예측 코드에서 생긴다.
운전자는 자신의 의도대로 가기에 예측을 하지 못하는 상황에 처하지 않는다. 무인자동차가 등장한 이후 2, 30년 안에 유인자동차는 법적으로 금지될지도 모른다. 유인자동차와 무인자동차가 함께 다니면 무척 위험하다.(259 페이지) 고도로 발달한 인공지능으로 인해 기존의 특정 일자리가 한 순간에 사라지는 특이점(singularity)이 올 수도 있다.
특이점이란 예측하지 못하는 전면적 변화가 한 순간에 오는 것을 말한다. 가령 칠면조는 1년 내내 무탈하다가 추수감사절 같은 특별한 날에 잡아 먹힐 수 있는데 이런 극적인 변화가 특이점이라 할 수 있다. 독립성과 자아, 정신, 자유의지 등이 있는 강한 인공지능이 출현할 수 있는지 여부가 관심을 모으고 있다.
이런 인공지능이 가능하다는 증거도 없고 불가능하다는 증거도 없다. 앞으로의 산업혁명은 인공지능 위주이다 보니 어쩌면 기계가 스스로 업그레이드하게 될 수도 있다.(290 페이지) 저자는 프랑스가 도입한 공교육과 독일이 마련한 사회보장제도, 영국이 채택한 세금제도로 19세기의 1, 2차 산업혁명은 잘 극복했지만 앞으로 닥칠 산업혁명은 지금도 벌어지고 있고 향후 2, 30년 후에도 벌어질 일이지만 인류가 아무 준비도 하고 있지 않다는 것이 핵심적인 문제가 아닐까요?라 말한다.(292 페이지)
경제학자들이 연구에 참가했다.(301 페이지) 직업과 소득을 분리하자는 것이 논의되고 있다. 국민소득, 네거티브 세금, 투자 모기지, 대리노동을 하는 로봇 아바타 등을 통해 기본소득을 보장할 수 있다는 말을 저자는 한다. 물론 자아실현을 위해 생산적인 일도 해야 한다.(304 페이지)
미래에는 창의적이지 않으면 살아남을 수 없다.(308 페이지) 창조와 혁신에 필요한 건설적 불평등을 유지하면서 파괴적 사회불평등은 최소화하는 내쉬 균형(Nash Equilibrium) 수준의 재분배만 디자인한다면 인공지능의 미래에 대한 희망적인 시나리오 역시 충분히 그릴 수 있다.(309 페이지)
튜링 테스트란 것이 있다. 인간이 만든 테스트 중 가장 위험한 테스트일지도 모르는 이 테스트는 기계의 지능 소유 여부를 구별하기 위해 기계와 사람을 각각 방에 두고 제 삼자가 질문을 해 누가 기계이고 누가 사람인지 구별을 하지 못하면 기계가 지능을 가지고 있다고 인정해주는 인공지능 테스트이다.(311 페이지)
인공지능 개발의 목표는 인간을 속이는 기계를 만드는 것이다. 스티븐 호킹은 자아와 독립성, 자유의지가 있는 인공지능(강한 인공지능)이 생기면 인류가 멸망한다고 이야기했고 테슬라의 엘론 머스크는 핵폭탄보다 더 위험하다고 말했다.(319 페이지) 앤드루 무어(Andrew Moore) 교수는 강한 인공지능이 등장하면 인류가 망하는데 그것이 왜 나쁜지 설명해보라고 말한다.(338 페이지) 인간은 죽어서도 기억되기를 원하지만 사실 세 세대 정도가 지나면 기억되기 어렵다.
저자는 인간은 자신의 명성이 남는 것을 유전자가 남는 것이라 착각한다고 말한다. 강한 인공지능이 생기면 인류는 멸망하겠지만 나는 영원히 기억된다.(343 페이지) 이것은 인류가 원하는 바이지만 왠지 모르게 내키지 않는다. 인류가 살아남으려면 무엇을 해야 하는가?란 말을 할 수도 있지만 무어 교수가 말했듯 왜 살아남아야 하는지에 대해서는 할 말이 별로 없다. 우울하기보다 다행스러운 일인지도 모른다.