[인공지능/김대식] 인공지능 입문을 위한다면 이 책을

김대식의 인간 vs 기계 - 인공지능이란 무엇인가
김대식 지음 / 동아시아 / 2016년 4월

(한달전에 읽은 책을 다시 들쳐본다)

인공지능이 이제서야 인공지능 다워진것은 왜 일까? 이미 오래전부터 인간은 인공지능을 개발하기 위해 노력했지만 번번히 실패했다. 여기에 김대식이 아주 핵심적인 설명을 한다.

전통적인 인공지능이 지능을 획득하기 어려웠던 이유는 기계에 설명을 입력해줘야 하기 때문입니다. ... 설명을 하기 위해선 두 가지 조건이 필요합니다. 첫째, 설명을 하는 사람이 답을 알고 있어야 해요. 둘째는 답을 알고 있는 사람이 답을 완벽하게 표현할 수 있는 기호시스템이 필요합니다. 쉽게 말하면 언어체제가 필요하다고 보면 됩니다. (33~34쪽)

라이프니치는 수학이 유일하게 오해가 없는 언어라고 생각했습니다. 수학은 증명의 학문이기 때문에 주장하고 싶으면 증명하면 되고 증명됐다면 믿으면 됩니다. ... 언어를 수학으로 바꾼다는 것은 수학화된 언어로 계산을 할 수 있게 되는 것입니다. 그래서 라이프니치는 이진법을 만듭니다. 언어를 계산할 수 있는 숫자로 바꿔 준 것이죠. 이 세상의 모든 것을 0과 1의 조합으로 바꿔서 대화 할 수 있을 것이라고 기대했습니다.(58쪽)

그렇다면 언어를 기호적으로 표현하는 것뿐만이 아니고 기호들과 기호들 간의 관계도 수학적으로 표현을 해보자해서 만든 것이 바로 지금 우리가 컴퓨터에서 사용하고 있는 불의 논리Boolean logic 입니다. 이 문법은 몇 개 안됩니다. AND, OR, NOT, NAND ···. 네다섯개만 있으면 모든 걸 다 표현할 수 있죠. 이제 문자도 있고 문법도 있으니 세상일을 표현할수 있는 완벽한 언어가 생겼습니다. 세상일들 혹은 머릿속에서 일어나는 일을 기호화시킬 수 있고 표현한 것들을 서로 연결시키는 문법도 수학화하게 된 것입니다. (66쪽)

아리스토텔레스 때부터 2,500년 동안 서양철학에선 모든 건 말할 수 있다고 믿었습니다. 그러니까 모든 걸 표현할 수 있다고 믿었지요. 어떻게 표현하느냐를 가지고 2,500년 동안 연구를 했는데, 표현할 수 있는 방법은 비트겐슈타인이 찾았습니다. NAND로 말이죠. 하지만 알고 보니 표현할 수 없는게  있다는 것을 알게 되었습니다. 그럼 그건 어떻게 해야 할까요? 비트겐슈타인은 '말할 수 없는 것에 대해선 그냥 침묵을 지키는 게 최고구나. 결론은 말할 수 없는 게 있구나'라고 결론지었습니다. 그리고 이 결로은 현대 뇌과학에서 말하는 들어오는 정보를 대부분 언어 처리 할 수 없다는 것과 일맥상통합니다. 10퍼센트만 낸드로 표현이 되고 나머지 90퍼센트는 낸드로 표현할 수 없이죠. (140쪽)

기계에게 '우리같이 팔다리를 움직여봐'라고 아무리 말한다고 기계가 모방하기는 어렵습니다. 그래서 결국 언어로 정확히 표현할 수 없는 정보와 기능은 딥러닝 같은 방식을 통해 기계에게 학습시켜야 한다는 결론을 내게 된 것입니다.
비트겐슈타인은 표현할 수 없는 것에 대해선 침묵을 지켜야 된다고 이야기했는데, 지금의 딥러닝은 표현할 수 없는 건 학습을 시켜서 해결하겠다는 원리입니다.(141~142쪽)

설명하기 위해서는 컴퓨터 언어가 필요했다. 거기에 and, or, not 만 있으면 모든 설명이 가능했다. 그런데 언어를 표현할 수 없는게 있다는 것을 깨닫게 된다. 기존에 로직으로 다 해결할 수 있다는 생각에 한계가 있던 것이다. 그런데 말할 수 없는 것, 그것을 머신러닝이 해결하게 되었다. 그토록 힘들었던 인공지능이 왜 이제서야 인공지능스러워 졌는지가 이해되는 부분이다.

불과 몇 년 전까지만 해도 인공지능은 먼 훗날의 이야기로 생각했다. 그런데 어느 날 문득 우리 앞에 나타나 현실이 되었다. 터미네이터 이야기가 나오는 등 이제 인공지능은 실질적인 위협이 되었다. 물론 여전히 많은 전문가들은 위험한 상황이 되기에는 아직은 여유가 있지 않냐고 하지만, 몇몇 전문가들은 '그런데 알 수 없다. 기술이 발전해온 속도를 보면'이라는 단서를 단다. 김대식은 효과적으로 이를 설명한다. 1900년과 1913년의 동일한 장소의 사진을 보여준다.

기술적으로 가능해진다면 정부가 주도하여 무인자동차를 더 상용화시킬 것입니다. .. 유인자동차를 금지시키는 법안 혹은 무인자동차만 생산해야 한다거나 혹은 새 차 등록은 무인자동차에 한한다는 법만 통과시키면 됩니다. .. 말도 안되는 상상 같지만, 150년 전까지 사람들은 말을 탈 줄 알았지만 지금 말을 타는 사람은 거의 없습니다. ...1900년 부활절 아침, 뉴욕 5번가의 사진 속 거의 모든 운송수단은 마차였습니다. 딱 한대의 자동차가 있습니다. ... 하지만 신기하게도 13년 후 같은 날 같은 장소의 사진을 보면 모든 운송수단이 자동차입니다. 마차는 단 한대도 없어요.

기술이 발전하는 과정 중 늘 걱정해야 할 부분은, 기술은 어느 한 순간 기하급수적으로 증가하는 시점이 있다는 것입니다. 이를 두고 특이점이라 부릅니다. 하지만 이 특이점은 나중에 알 수 있어요. 대체로 직선형태로 성장하고 있다고 생각하기 쉽습니다. 특이점은 미래의 일이기 때문에 어디서 오는지 알 수 없죠. 우리는 과거로 미래를 예측하다보니 현상태에서는 선형으로 증가한다고 예상하는 것이 더 일반적입니다. (268~270쪽)

기술의 발전은 항상 인간의 직관을 넘어섰다.

김대식은 인공지능 시대에 대해 더 많은 문제점과 사례, 그리고 사람들이 놓치고 있는 것을 이야기한다. 사람들이 산업혁명을 견뎌내고, 각 종 기술변혁시대를 견뎌낸 것 처럼 역시 인간은 이 상황을 해결할 것이라고 말하지만, 김대식은 아직 아무런 준비도 되어 있지 않다고 말한다. 산업혁명의 시대에 인간은 공교육 제도를 도입했고, 자본주의를 사회를 지탱할 각 종 시스템을 개발했다. 그런데 지금 우리는 인공지능 시대에 대한 대비가 아무것도 되어 있지 않다. 오히려 대한민국은 인공지능 시대에 쓸모없어질 전문직이 되기 위한 교육에만 열중할 뿐이다.

몇 몇 전문가들은 인공지능시대에 인간은 멸종할 것이라고 말한다. 그리고 덧붙인다. 그게 나쁜거냐고?

생각해보면 우리는 너무 인간중심적인 생각으로 살았다.

인류는 1만 년, 2만 년 전부터 지구를 인간의 편의대로 다 바꿔놨습니다. 그리고 지구에 존재하는 모든 것들이 인간에게 얼마만큼 도움이 되는지 재해석했습니다. 공기가 깨끗해야 하는 이유는 우리가 숨을 쉬어야 하니까, 숲을 베고 댐을 만드는 일들 모두 인간의 편의를 위해, 이렇게 이리저리 바꿔놨습니다. 아무도 인간에게 이런 권리를 허락해준 적은 없 습니다. 인류가 그 권리를 스스로에게 줬고, 행동을 했습니다. 그 이유는 지구에서 인류가 제일 똑똑하기 때문이었죠. 지구에서의 알파 동물이니까요. 그리고 그 재해석의 마지막에 '그럼 사람은 왜 있어야 되나?'라는 질문은 우리가 사회적 으로 합의하여 서로 하지 않기로 한 거죠. (320쪽)

어찌보면 인간의 멸종은 당연할지도 모른다. (나는 개인적으로 우리세대가 호모사피엔스의 마지막세대가 아닐까라고 생각한다.) 잘 생각해보면 모든 종은 종족번식이 목적이다. 조금 더 자세히 말하면 기억과 유전자를 후손에게 넘기는 것인데, 우리는 인공지능을 만들었고, 인간의 모든 것이 인공지능으로 넘겨진다고 조금 더 받아들이기 쉬우려나.

한번 인간이 아닌 외부의 눈으로 인간-인공지능의 관계를 볼 필요도 있겠다. 그렇거나 어쨌거나 우리는 지금 하루 하루가 생존인 사회에서 살고 있다.

과거의 산 업혁명이 해피엔딩으로 끝날 수 있었던 것은 인류가 19세기 에 엄청난 노력을 했기 때문에 결국에 가능했다는 점입니다. 인류는 세 가지 혁신적 인 노력을 했습니다. 첫째로는 프랑 스에서 공교육이란 것을 시작했습니다. 왜 공교육을 도입했을까요? 국영수라는 학습과정을 만든 거잖아요. 왜 국영수를 만들었을까요? 1차 산업혁명 때 대부분의 유럽 사람들은 글을 못 읽었습니다.

대부분 농부였죠. 글을 못 읽는 농부의 자녀들을 데려다가 공장에서 일을 시키려니 적어도 글을 읽고 계산을 할 수 있어야 된다는 거죠. 이 당시에는 정말로 킬 러 애플리 케이션killer application이었습니다. 모든 국민에게 교육을 시킨다는 것은 어마어마하게 혁신적인 아이디어입니다. 글을 가르쳐주고, 계산하는 법을 가르쳐줬습니다. 그 덕분에 우리가 어쩌면 살아남은 거죠. 우리는 인지적인 활동을 할 수 있게 됐습니다. (291쪽)

둘째로 독일에서 사회보장제도를 만들었습니다. 보험제도지요. 셋째로 영국에서 세금제도가 생겼 습니다. 이전에는 나라의 모든 수입이 농업을 통한 것이었는데, 농업이 점점 사라지니까 기계에 대한 누진세 등을 만들어 산업활동을 하는 과정에서 국가가 돈을 벌 수 있는 제도를 만들었죠.

이 세 가지 제도로 19세기 1,2차 산업 혁명은 잘 극복할 수 있었습니다. 하지만 앞으로 닥칠 산업혁명은 지금도 벌어지고 있고, 향후 20~30년 후에도 벌어질 일이지만 인류는 아 직 아무 준비를 하고 있지 않다는 것이 핵심적인 문제가 아닐까요? (291-292쪽)

[인공지능/김대식] 인간에 대한 진지한 질문을 시작할 때

김대식의 빅퀘스천 - 우리 시대의 31가지 위대한 질문
김대식 지음 / 동아시아 / 2014년 12월

(한달 전에 읽었는데, 이제야 후기를...)

갈릴레오 갈릴레이는 태양계의 중심이 지구가 아닌 태양이라고 주장해 가혹한 탄압을 받았다. 하지만 갈릴레이가 진정으로 '위험한 인물로 찍힌 이유는 따로 있다. '원인'이 더 이상 철학과 과학의 대상이 되어서는 안된다고 주장한 첫인간이기 때문이다. 그에 따르면 과학이 탐구할 것은 '원인'을 의미하는 '왜'라는 질문이 아니다. 관찰한 현상이 어떻게 만들어졌는지, 그리고 앞으로 어떻게 변할지 에측하는 것이 과학이다.(37쪽)

오해할 수도 있는 말인데, 내용을 잘 읽어보면 이전에는 '그래서 이건 신의 섭리야'라는 논리가 강했다. '해가 뜬다. 왜 닭이 우니까'라는 논리로 신의 섭리를 강조했다. 물론 신의 섭리라고 이야기하는 이들의 이야기는 결국 권력을 가진 자들이 자신들의 권력을 유지하기 위해 가져다 쓰는 논리지만(지금이 기독교도 비슷하다. 하나님의 뜻이라고 하는데, 성경을 보면 그렇게 보지 않을 수도 있는 것 같은데)

과학적으로 육체와 분리되어 영원히 존재할 수 있는 영혼에 대한 가설은 불필요하다. 하지만 인류가 그런 영혼의 존재를 믿지 않았다면 예술도, 종교도, 철학도 없었을 것이다. ...인간에게 세상은 끝없이 불안하고 두려운 곳이었을 것이다. 인간의 유일한 무기는 다른 동물들보다 큰 뇌이고, 뇌는 원인을 추구하는 기계이다. 그래서 인간은 항상 원인과 인과관계를 추론하려 한다. 천둥은 왜 칠까? 밤은 왜 어두울까? 표범은 왜 우리를 잡아먹는 것일까? 내가 보고, 느끼고, 기억하듯 어쩌면 태양도 영혼과 자아가 있어 아침에 뜨기를 원해 세상이 밝아지는 것일 수 있다. 비가 내리는 것도 구름의 영혼이 원해서인지도 모른다.
이제 모든 것이 설명된다. 우리의 삶을 위협하는 모든 존재들은 그들만의 의지와 영혼을 가지고 있으며, 그 영혼들의 마음을 얻으면 우리는 오들 또 하루는 살아남을 수 있게 된다. 또한 인류는 영혼을 가지고 태어난 것이 아니다. 영혼은 발명한 것이다. 영혼은 먼 미래에 지구를 정복하게 될 원시시대 인류가 최초로 개발한 '킬러 애플리케이션'이었던 것이다.(114쪽)

그런 인간은 설명할 수 없는 일들을 이해하기 위해 노력한다. 그런데 이해할 수 있는 방법이 생겼다. 영혼. 영혼의 발견으로 인간은 설명할 수 없는 모든 것을 이해할 수 있게 되었다. 그리고 역사를 지배하기 시작했다. 실제 그랬는지 모르지만, 역사에 대한 해석권을 갖게 되었다.

세상은 복잡하다. 사소한 우연의 일치가 거대한 변동의 원인이 될 수 있고, 역사를 바꾸어놓을 것 같던 사건이 아무 이유없이 사라져버릴 수 있다. 세상은 언제나 무한의 가능성과 무의미한 우연 사이의 싸움이다.
서양은 오늘날 세상을 지배한다. 하지만 서양의 과거는 현재의 논리적 원인이 아닌 포스트 훅posthoc, 그러니까 이미 일이 벌어진 후 제시된 '편한' 해석일 분이다. 어쩌면 세상을 지배할 수 있는 유일한 방법은 과거 정복인지 모른다. 우연과 가능성들의 합집합인 과거를 재해석하고 평가함으로써 우리는 '왜'라는 질문에 답을 얻는다. 과거를 소유하는 자만이 무질서한 역사를 질서로 재탄생시킬 수 있다는 말이다. (175쪽)

역사에 대한 해석은 중요하다. 예를 들어, 역사 해석을 통해 서양이 동양보다 우월했음을 증명한다. 고로 현재 서양이 동양보다 우월하다는 배경이 형성된다. 그런데 정말 그럴지는 모른다. 결국 지금의 패권을 가지고 있는 서양이 서양의 시각으로 그렇게 해석을 했으니까.

그런데, 과학의 발전으로 이런 인류의 행보에 균열이 생기기 시작했다. 인공지능의 발전으로 인간의 직관이라는 것도 결국은 치밀한 계산앞에서 무용지물이라는 것이 드러났다. 실은 그전부터 과학의 발전으로 인간의 생각에 균열이 발생했다.

그렇다면 한발 더 나아가 이런 주장도 해볼수 있겠다. 우주 그 자체가 수학이라고, 수학적으로 가능한 모든 실체들이 물리학적으로 존재하며, 모든 존재들은 하나의 거대한 존재라는 함수를 계산해내는 컴퓨터의 부분이라고, 우리들의 '이해' 그 자체가 우조라고 불리는 컴퓨터 안에서 끊임없이 계산되고 있는 단 하나의 존재함수의 계산과정이라고 인정한다면 우리는 세상을 조금은 더 이해할 수 있게 될 것이다.(253쪽)

그렇다면 마음은 무엇일까? 위스콘신 대학의 신경과학자 줄리오 토노니 교수는 마음을 '신경회로망 계층들을 지난 가장 높은 층 전두엽으로 모이는 정보들의 형태'라고 이야기한다. 아래층 뇌 영역들이 망가지면 자아와 마음은 유지되지만 정보를 계층적으로 모을 수 없고, '높은 층' 영역들이 파괴되면 우리는 마음과 의식과 마음을 잃는 것이 그 이유이다. 그렇다면 '깊은 학습'이 가능한 인공두뇌는 어떨까. 우리는 인공두뇌를 진화적으로 한정된 인간의 10층보다 더 많은 층계를 갖도록 설계할 수 있다. 곧 '깊은 학습'이 된 인공지능은 인간보다 1,000만배 더 고차원적인 패턴을 이해하고, 1,000만배 더 큰 아픔과 기쁨을 느끼고, 1,000만배 더 깊은 마음을 가지게 될 것이다. (292쪽)

이제 우리는 인간이 갖는 우월성에 의문을 갖기 시작했다. 인간의 우월성이 과연 얼마나 갈까?

기계에게 일자리와 삶을 모조리 빼앗길 수도 있다는 러다이트의 걱정처럼, 오늘날 인간은 이대로 안심해도 되는 것일까? 구글은 무인자동차를 개발하고 아마존은 드론을 이용한 택배서비스를 계획하고 있다. 공장은 완벽하게 자동화되는 중이고, 머지않아 전쟁에 참여하는 전투로봇까지 나타날 전망이다. 우리는 새로운 기계혁명 시대에 살고 있는 것이다. 반도체 집적회로의 성능이 18개월마다 2배로 증가한다는 '무어의 법칙', 지구의 모든 존재들을 연결시켜 줄 사물인터넷, 데이터 마이닝, 기계학습, 뇌 모방, .. 개개인의 능력으로는 완벽하게 이해할 수 없는 최첨단 기술들의 조합된 지능을 인류는 기계에 심고 있다.
이해불가능한 기술은 마법과 별 차이가 없다. 그런 마법같은 기술로 기계에 생각과 인지능력이 주어진다면? 인간이 뇌만이 할 수 있었던 일을 기계가 하기 시작할 것이다. 두개골이라는 공간적 한계에 구속받는 인간과 달리 기계는 무한의 지능과 인지능력을 가질 수 있다. 더 저렴하고, 더 빠르고, 더 완벽하게 생각하는 기계가 등장하는 순간 수많은 화이트 칼라, 비서, 변호사, 교수, 기자들이 일자리를 잃을 것이다.(299쪽)

지금까지 로롯의 발달로 단순노동계층만 위험하리라 생각했다. 그런데 인공지능이 체스에서 인간을 앞도하고, 퀴즈쇼 재퍼디에서 승리하고, 바둑에서의 성과는 전문직의 자리도 생각보다 안전하지 않음을 보여준다. 고도의 지식산업이라 할 수 있는 부분이 인공지능에 자리를 내줘야 할 수도 있다.

그래서 이제 본격적인 질문을 던져야 한다. 과연 인간이란 무엇인지, 인간다움이란 무엇인지. 그리고 그 인간다움을 어떻게 유지할지.

30년, 50년, 100년 후 기계가 드디어 정보를 이해하고 인간의 지능을 대체하는 순간, 인간은 더 이상의 발명도, 혁신도, 노동도 할 필요가 없을 것이다. 아니, 누구도 인간의 노동·혁신·발명을 필요로 하지 않을 것이다. 얼마든지 기계가 더 빠르고, 더 완벽하게 그리고 더 저렴하게 해낼 수 있기 때문이다. 지구의 모든 물건과 서비스를 실리콘밸리에 위치한 10개의 인공지능 회사들이 만들어낼 수 있다면? 지구는 무한으로 부자가 되겠지만 99% 이상의 사람들은 직업도, 소득도 없어지지 않을까? 지구에서 소득세를 낼 수 있는 사람들이 단 10명 뿐이라면? 100년 후 인공지능 시대에 과연 민주주의가 여전히 존재할지 궁금해진다.(155쪽)

카네기멜론 대학의 인공지능학자 한스 모라비치 Hans Moravce는 인간보다 빠르고 뛰어나며 영원히 존재할 수 있는 기계가 인간을 지구에서 불필요한 존재로 판단해 멸종시킬 것이라고 예측한다. 그리고 덧붙인다. 뭐 그다지 슬픈일이냐고, 기계는 어차피 우리의 후손이라고, 인류의 모든 역사와 지식을 그 누구보다 완벽하게 보존할 기계들이기에, 인류의 기억만큼은 사라지지 않을 것이라고, 호모사피엔스가 네안데르탈인을 멸종시켰듯, 기계도 호모사피엔스를 멸종시키는 것 뿐이라고. 그것이 자연의 법칙이라고(311쪽)

[인공지능/김대식] 뇌속에선 도대체 무슨일이 벌어지는 걸까?

내 머릿속에선 무슨 일이 벌어지고 있을까 - 카이스트 김대식 교수의 말랑말랑 뇌과학
김대식 지음 / 문학동네 / 2014년 6월

우리가 보는 것은 사실일까? 아래에 답이 있다. 우리가 본다고 하지만 결국은 내 몸의 감각기관들이 뇌에 전달한 정보를 뇌는 새석할 뿐이다. 실제 눈이 세상을 보는 것은 다르다고 한다. 눈은 전혀 잘 만들어진 기관이 아니다. 정반대로 상이 맺히고 게다가 여러 방해물들이 상에 맺힌다. 뇌는 시각정보를 토대로 우리가 보는 것을 다시 재현해낸다. 즉, 우리의 감각기관이 보고 느끼는데로 뇌가 인식하는 것이 아니라는 점이다.

그래서 인간은 시각적 착시를 한다. 드레스 색깔 논라에서부터, 길이가 같지만 화살표의 위치에 따라 선분의 길이를 다르게 인식한다.

시각적 착시는 단지 빙산의 일각이다. 현대 뇌과학에서는 우리 인간이 가지고 있는 대부분의 믿음, 사상, 의견, 신념, 생각, 감각이 어쩌면 세상에 대한 뇌의 착시적 해석일수도 있다고 말한다.(33쪽)

뇌는 머리 안에 있다. 다시 말해 뇌는 두개골이라는 어두운 감옥에 갇혀 바깥세상을 직접 볼 수 없는 죄인과 같다. 세상에 대한 모든 정보는 눈, 코, 귀, 혀 같은 감각센서들을 통해서만 들어올 수 있고, 뇌는 그런 정보들을 기반으로 세상에 대한 답을 찾아내야 한다. 하지만 아무도 정답을 제시해줄 수 없는 이런 상황에서 뇌가 신뢰할 수 있는 것은 예전부터 알고, 믿고, 경험했던 편견들뿐일 수도 있다. (33쪽)

뇌는 세상을 있는 그대로 보여주는 기계가 절대 아니다. 뇌는 단지 감지되는 감각센서의 정보를 기반으로 최대한 자신의 경험과 믿음을 정당화할 수 있는 해석들을 만들어낼 뿐이다. 그리고 그렇게 해석된 결과를 우리에게 인식시킨다. 세상을 본다는 것은 결국 우리 뇌의 '착한 거짓말'에 속고 있는 것과 마찬가지다.(35쪽)

뇌가 세상을 이해하기 위해서는 외부에서 들어오는 사실과 이미 내부적으로 갖고 있는 믿음을 적절히 조합해야 한다. 하지만 믿음과 사실이 일치하지 않으면 어떻게 해야 할까? 과학에서는 이럴 경우 믿음을 바꾸라고 가르친다. 하지만 뇌는 과학자가 아니다. 뇌는 지금 한순간 얻은 데이터보다 오래전부터 가진 고정관념을 더 신뢰하고, 사실을 왜곡하기 시작한다. (60쪽) 

책은 뇌에 대한 많은 것들을 알려준다. 실제로 우리가 생각하는 것과 뇌와의 간극은 너무나도 크다. 뇌는 익숙한 것을 선호하는 경향이 있다. 그래서 인간을 더 인간답게 만들어주는 것은 지속적인 노력이다.

뇌는 비논리적이고 그룹 이기주의로 가득찼지만 민주주의는 개인에게 현명함과 타인에 대한 인내심과 배려를 요구한다. 그래서 민주주의는 그렇게 어렵고 우리의 지속적인 노력이 필수적인 것이다. (191쪽)

뇌에 대해 신비가 밝혀지는 만큼 세상의 변화도 너무 빠르다. 기계가 뇌의 기능을 갖추고 인공지능이라는 이름으로 우리앞에 성큼 다가왔다. 이 때 우리의 역할은 무엇일까.

밀려오는 디지털 세상의 변화는 그 누구도 막지 못한다. 그렇다면 우리 디지털 이주자들이 해야 할 가장 중요한 역할은 대한민국의 미래 세대가 이 세상 누구보다 더 멋지고 의미 있는 디지털 세상을 살아갈 수 있도록, 이 세상의 최고의 사회적 원칙과 조건을 만들어주는 게 아닐까.(280쪽)

* 책은 다양하게 뇌와 디지털 세상을 다루고 있지만, 앞 부분에서 읽은 뇌에 대한 부분이 너무 강하게 다가왔다.

현대 뇌과학이 제시하는 우리 인간의 모습은 아름답기만 하지는 않다. 아니, 상당히 추하다. 아니, 대부분 어이 없다. 하지만 그 어이없는 뇌의 모습은 현실이고, 우리는 그런 뇌를 가지고 살아야 한다.(14쪽)

세상은 뇌가 보는 것이 아니다. 뇌가 아는 것을 본 것이 세상이다.(285쪽)

[인공지능] 시대를 살아가는 법, 기계와의 공존

제2의 기계 시대 - 인간과 기계의 공생이 시작된다
에릭 브린욜프슨 & 앤드루 맥아피 지음, 이한음 옮김 / 청림출판 / 2014년 10월

불과 10년전만 하더라도 전문가들은 인공지능에 대해 그다지 크게 평가하지 않았다. 2004년의 책에서는 운전이라는 것이 모든 정보를 집합해서 순간적인 판단을 해야 하기 때문에 컴퓨터가 쉽게 대체할 수 없다고 했다. 실제 그 후에 있었던 자율주행차 경주에서 아주 조악한 모습을 보였다. 그런데 불과 10년만에 실제 운행하는 자율주행차를 마주하고 있다.

'모라벡의 역설'이 있다. 인공지능과 로봇공학이 인간에게는 아주 간단한 일이 엄청난 연산을 필요로 하기 때문에 인공지능, 로봇에는 어렵다는 것인데, 생각보다 개선이 빠르게 되고 있다.

이에 저자들은 체스판의 후반부라는 예를 들어 순식간에 인공지능과 결합된 기계화의 시대가 올 수 있다고 본다. 체스판의 후반부란 체스판 한칸에 정확히 두배씩 늘어나는 원리인데, 후반부에 들어서면 예상할 수 없도록 기하급수적으로 증가한다는 것이다. 우리는 지금 그것을 눈으로 보고 있다. 2000년대 후반 퀴즈게임 제퍼디에서 IBM의 인공지능 '왓슨'이 우승하는 것을 경험했고, 그리고 2016년 바둑에서도 인공지능의 경이로움을 경험했다.

제2의 기계 시대의 기하급수적 성장, 디지털화, 재조합 혁신 능력 덕분에 인류가 역사상 가장 중요한 유례없는 사건 중 두가지를 일으킬 수 있었기 때문이다. 바로 쓸모있는 인공지능을 출현시키고 공통의 디지털망을 통해 세계 대부분의 사람을 연결한 것이다.

이 두가지 발전은 그중 하나만으로도 우리의 성장 전망을 근본적으로 바꾸어놓았을 것이다. 하물며 둘은 결합함으로써 육체노동이 이루어지는 방식을 영구히 바꾸어놓은 산업혁명 이래로 가장 중요한 것이 되었다.

인지적 작업을 완수할 수 있는 기계는 물리적 작업을 해낼 수 있는 기계보다 더 중요하다. 그리고 현대 인공지능 덕분에 우리는 지금 그런 기계를 갖고 있다. 우리의 디지털 기계는 협소한 틀을 벗어나 패턴인지, 복잡한 의사소통 등 오로지 인간만이 독차지하던 영역들에서 다방면으로 능력을 보여주기 시작했다.(118쪽)

그러나 이런 자동화, 인공지능화는 소득불균형을 더 가속화 시킬 수 있다.

우리 대다수는 어떤 원형을 참조해 추론하는 데 익숙하다. 정치가는 '평균적인 유권자'를 이야기하고, 마케팅담당자는 '전형적인 소비자'를 이야기한다. 그런 태도는 가장 흔한 값이 평균 근처에 놓일 때, 더 공식적으로 말하면 분포의 최빈값과 평균이 같거나 거의 같은 정규분포를 보일 때 잘 작동한다. 하지만 멱법칙 분포의 평균은 대체로 중앙값이나 최빈값보다 훨씬 더 높다. 예를 들어, 2009년에 미국 메이저리그 야구 선수의 평균 연봉은 324만 206달러로, 중앙값인 115만 달러의 거의 세배에 달했다.

실질적으로 이 말은 소득분포가 멱법칙을 따른다면, 대다수의 사람들은 소득이 평균보다 낮을 것이라는 의미다. .. 더군다나 시간이 흐를수록 평균소득은 증가해도 중위소...득에는 아무런 변화가 없을 수 있다. 다시 말해, 대다수 사람들의 소득은 전혀 증가하지 않을 수 있다. 멱법칙 소득분포는 소득불평등만 키우는 것이 아니라 우리의 직관도 혼란에 빠뜨린다. (206쪽)

이런 환경변화에서 인간이 할 수 있는 일은 거의 없다.

기계와 공존할 수 있는 방법을 찾아야 한다.

그리고 인간만의 장점을 찾아야 한다. 저자들의 권유는 '아이디어 떠올리기' '큰틀의 패턴인식', 복잡한 의사소통 기능'을 갖추는 것이다. 뻔한 답이긴 하지만 이 것 말고 다른 건 잘 생각하기 어렵다. 하지만 기억해야 할 것이 있다. 기술의 발전을 예측하기는 힘들다는 것이다.

우리의 예측과 권고를 일종의 복음처럼 받아들여서는 안된다는 점을 강조하지 않을 수 없다. 우리는 컴퓨터와 로봇이 언제라도 곧 아이디어 떠올리기, 큰 틀의 패턴인식, 고도로 복잡한 의사소통 같은 일반 기능을 획득할 것이라고 예상하지 않으며, 모라벡의 역설이 조만간에 완전히 해결될 것이라고 생각하지도 않는다. 하지만 우리가 디지털 발전을 연구하면서 배운 것이 하나 있다면, '결코 안된다고 말하지 말라'는 것이다. 다른 많은 연구자들과 마찬가지로, 우리도 과학소설에서 곧바로 튀어나온 듯한 기능과 능력을 보여주는 디지털 기술의 발전에 거듭 놀라고 있다.

사실 인간 특유의 창의성과 기계의 능력을 나누는 경계선은 계속 바뀌고 있다.  ... 때로 인간의 창의성은 기계의 강력한 분석력과 동일해질 수 있다.(257쪽)

두 저자들의 전작이 있다. 바로 <기계와의 경쟁>이다. <제2의 기계시대>는 큰 틀에서 <기계와의 경쟁>과 다르지 않다. 오히려 증보판의 느낌이 강하다. 그리고 전작의 저자 표기가 다른데,(전작은 앤드루 매카피, 이 책은 앤드루 맥아피)이는 전작에 맞추는 것이 좋지 않았을까 싶다.

[인공지능] 기계와의 경주는 어떻게 될까

기계와의 경쟁 - 진화하는 기술, 사라지는 일자리, 인간의 미래는?
에릭 브린욜프슨 & 앤드루 매카피 지음, 정지훈 외 옮김 / 틔움출판 / 2013년 12월

이 책의 제목은 Race against the Machine이다. 번역은 <기계와의 경쟁>으로 되어 있지만, '기계와의 경주'가 어울려보인다. 책 자체가 기계와의 경쟁보다는 기계와 어떻게 공존할 수 있는지를 이야기하기 때문이다.

책은 경제침체에 대한 경제학자들의 이야기로 시작한다. 하지만 저자들은 경제침체에 대해 다른 의견을 제시한다. 기계의 변화를 인간이 못 쫓아가서 발생한다고 이야기한다.

침체론자는 미국의 중간 소득 감소와 전체적인 경제 성장 둔화가 상당히 오래전부터 이뤄져 왔음을 잘 지적하고 있다. 그러나 이런 일이 벌어진 이유에 대해서는 우리와 생각이 다르다. 그들은 기술혁신의 속도가 늦어진 것을 원인으로 생각하지만 우리는 빠르게 발전하고 있는 기술혁신의 속도를 인류가 쫓아가지 못하고 있기 때문이라고 판단한다. 간단히 말해, 사람이 기계와의 경주에서 패한것이다.(33쪽)

기술혁신은 체스판의 후반부와 같이 기하급수적으로 발전한다. 그러나 이러한 기술의 발전은 경제에 심각한 문제를 야기한다. 기술적 실업의 발생이다.

기술이 계속해서 발달하고 오직 사람만이 할 수 있었던 일을 기계가 위협하기 시작하면, 미래 어느 순간부터는 점점 더 많은 일이 기계의 몫으로 넘어갈 것이다. 적어도 미국에서는 이 같은 사실이 이미 증명되었다. 지난 30년 동안 미국의 비숙련 노동자 임금은 계속해서 낮아졌기 때문이다.

일반적으로 급여 수준이 최저 생활비 이상이 될 때 기술적 실업이 발생하며 (84쪽)

기술적 실업은 우리가 겪고 있는 실제 위협이다. 이 위협을 제대로 이해하기 위해서는 기술 변화가 만들어내는 3가지 승자와 패자 집단을 올바르게 정의해야 한다. (1) 고숙련 근로자대 저숙련 근로자 (2) 슈퍼스타 대 기타 일반인 (3) 자본 대 노동.(85쪽)

1. 고숙련 노동자 대 저숙련 노동자

흥미로운 것은, 높은 교육을 받은 근로자의 경우 공급이 늘어도 이들의 임금은 계속 올랐다는 것이다. 공급이 늘고 있는 상황에서도 급여가 계속 올랐다는 것은 숙련된 근로자에 대한 상대적 수요가 증가했음을 의미한다. 결국, 최소한의 교육을 받은 사람들은 가장 낮은 임금을 받게 되었고, 이 같은 변화는 전체적으로 소득 불균형을 심화시켰다.(87쪽)

2. 슈퍼스타 대 기타 일반인

많은 산업 분야에서 소수의 승자가 대부분의 보상을 가져간다. 대중음악가, 프로 운동선수, 전문 경영인 등을 생각해보라. 기술은 정보 상품 뿐 아니라 비즈니스 프로세스 그 자체를 복제한다. 그 결과 한사람의 재능, 통찰력, 결정이 한 국가 혹은 전 세계 시장에 영향을 준다. (91쪽)

기술의 발전으로 단 한명이 판매할 수 있는 제품과 서비스를 값싸고 쉽게 복제할 수 있다면, 최고 품질의 제품을 만드는 한 사람이 시장의 대부분을 차지한다. 그 다음 품질의 제품을 생산하는 사람은 시장의 아주 적은 부분만을 확보할 뿐이다. (92쪽)

실제 일반 근로자와 CEO의 월급을 비교해보면, 1990년에는 70배의 차이를 보였지만 2005년에는 300배까지 늘었다. .. 이런 현상이 정보통신 기술의 활용과 밀접한 관련이 있는 것으로 밝혀졌으며 다른 경영진의 급여도 비슷한 모습을 보이는 것으로 나타났다. 디지털 기술의 도움으로 창업주, CEO, 엔터테인먼트 스타, 그리고 금융 부문의 전문가들은 글로벌 시장을 오가며 자신의 능력을 확대 재생산할 수 있게 되었고 그 이전 시대에서는 상상할 수 없을 만큼의 보상을 획득하게 된 것이다.(94쪽)

3. 자본 대 노동

기업 순이익이 국내 총생산에서 차지하는 비중도 50년 사이에 최고치였다. 반면에 노동에 대한 각종 보상은 임금과 모든 수당을 포함해도 50년 중 최저치였다. 노동보다 자본이 점점 더 큰 몫을 가져가고 있다.(97쪽)

기술의 발전은 불평등한 세상을 가속화시키고 있다. 현재의 기술혁신은 이런 불평등을 더 가속화시킬 수 있다. 이에 대해 저자들은 다소 낙관적인 전망을 하고 있다. 기술혁신을 인류가 쫓아가지 못해서 발생한 문제이기 때문에 교육과 제도의 변화를 통해 이 문제를 해결할 수 있다고 본다. 그런데 결국 교육이나 제도가 아무리 변화한다고 해도 기술혁신의 속도를 쫓아갈 수는 없을 것 같다.

인공지능을 갖춘 기계의 등장은 분명 인간의 일자리를 빼앗아갈 것이다. 그렇다면 어떻게 해야 하나? 저자들의 해답중에 하나는 인간과 기계가 협조할 수 있다고 본다. 기계의 도움과 인간의 판단이 결합에 대해서 이야기한다. 인간과 기계의 체스경기는 많은 사람들이 알고 있다. 하지만 그 이후에 대해서는 잘 모른다. 그 뒤의 체스경기에서는 인공지능과 인간이 함께 조를 이룬 팀들이 좋은 결과를 보여주고 있다. 기계가 인간을 대체하는 것이 아니라 기계와 인간의 장점을 더 살릴 수 있다는 것이다.

기술의 발전이 가져올 경제적 문제의 심각성에 대한 지적은 새겨들어야 한다. 저자들의 해답이 맞는지는 모르겠다. 하지만 기계를 경쟁의 상대가 아니라 공존의 대상으로 바라보는 시각은 인공지능, 로봇의 시대를 맞이하는 인류에게 새로운 가능성을 열어주는 것은 분명해보인다.