2017년 10월 구글 딥마인드는 알파고의 새 버전이자 가장 강력한 버전을 개발했다고 밝혔다. 국제학술지 《네이처》에 논문으로 발표했다. '알파고 제로'라고 불리는 이 새 버전은 이전 버전들과 근본적으로 다른 점이 있었다. 바둑을 독학으로 배운 것이다. 이세돌과 겨룬 버전(흔히 '알파고 리'라고 불린다)과 커제와 겨룬 '알파고 마스터' 버전은 인간 기사들이 둔 기보를 학습했다. 알파고 제로는 인간 기사들의 기보는 전혀 학습하지 않았으며, 오로지 바둑 규칙만 입력되어 있었다. 그런데 혼자 바둑을 둔 지 36시간 뒤에 알파고 리의 실력을 넘어섰다. 72시간 동안 490만 판을 혼자 둔 뒤에는 알파고 리와 100판을 겨뤄 100번 모두 이겼다. 40일 동안 2900만 판을 혼자 둔 뒤에는 알파고 마스터와 100판을 겨뤄 89승 11패를 거뒀다. 이제 알파고는 인간 기사는 감히 넘보지도 못 할 아득한 영역에 있었다. (19~20 페이지)
"그렇죠. 연산 속도로는 제가 어떻게 감히 이길 수 있겠습니까. 사람이 어떻게 컴퓨터를 이기겠습니까. 하지만 사람만이 갖는 무언가, 그런 창의성.... 이건 컴퓨터가 아직 따라올 수가 없잖습니까. 그런 점에서 아무래도 제가 승리하지 않을까, 그렇게 자신감이 있는 거죠." 이세돌 9단
그랬기에 알파고가 이세돌 9단을 이겼을 때, 그것도 매우 '창의적인' 수법으로 이겼을 때 바둑계가 받은 충격은 엄청났다. (36 페이지)
'인공지능이 그 분야에 어떤 영향을 미칠 것인가' 같은 고민은, 실제로 그 분야에서 쓸 만한 인공지능이 나오기 전까지만 할 수 있다. 인공지능은 모든 분야에서 게임 체인저가 된다. 인공지능이 등장하면 그 분야의 규칙 자체가 바뀌며, 그때부터 해야 하는 고민은 '이 인공지능을 어떻게 활용할 것인가'가 된다. 어쨌든 경쟁은 다른 사람과 하는 거니까. (79 페이지)
약인공지능은 인간이 언어로 만들어 놓은 추상적 구조물들을 밑바닥에서부터 분해하고, 그 구조물의 어떤 부분을 언어로 설명하는 것을 무의미하게 만들 것 같다. 인간은 여러 분야에서 벌어지는 현상들을 이해하고 그 아래 있는 듯한 패턴을 파악하기 위해 개념어와 비유를 동원해 설명을 만들었다. 그 설명에 의존해 행동 규칙을 세웠고, 그에 따라 일한다. 예술 분야에서뿐만 아니다. 경영 이론, 경제 이론, 사회 이론, 정치 이론, 교육 이론 같은 것들이 다 거기에 해당한다. (141 페이지)
그런데 딥러닝 기법을 사용하는 인공지능은 인간 전문가들보다 더 풍성하고 정확한 암묵지를 지니게 될지 모른다. 의사의 경우를 예로 들어보자. 인간 의사 한 명이 체험할 수 있는 임상 사례에는 한계가 있으며, 그가 오랜 현장 경험을 통해 얻은 통찰 역시 그러하다. 그런 통찰을 지닌 임상의는 인간이 평생 훑어보는 것조차 다 할 수 없을 수많은 임상 사례를 검토하고 거기에서 중요한 '특징'을 찾아낸 Al 의사와 어떤 관계를 맺게 될까? 인간 의사는, 적어도 진단 영역에서는 AI 의사에 의해 완전히 대체될까? (204 페이지)
2000년대 들어 선진국에서는 중산층이 붕괴되는 현상이 일어났고, 그 큰 원인은 세계화와 자동화로 인한 중산층 일자리 감소였다. 디트로이트의 자동차 공장에서 일하던 블루칼라 노동자가 값싸고 질 좋은 한국제 자동차 때문에, 혹은 공장에서 도입한 조립 로봇 때문에 일자리를 잃고 중산층에서 밀려났다. 이후 값싼 일자리를 전전하는 동안 그는 좌절감에 빠졌고 값싼 일자리에서 이민자들과 경쟁하면서 정치적 극단주의에 끌렸다. 이것이 민주주의의 위기로 이어졌다.
Al 시대에는 이런 현상이 훨씬 더 큰 규모로 일어날 가능성이 크다. 그런 위기를 맞닥뜨린 지금, 기본소득이나 로봇세는 시급히 논의해야 하는 아이디어라고 생각한다. 불쉿 직업도 없는 것보다는 있는 편이 낫다. 그러나 우리가 운 좋게도 원활히 작동하는 기본소득 제도를 도입하고, 로봇세를 정착시키고, 큰 사회적 가치를 만드는 것 같지는 않아도 어쨌든 사람들에게 급여를 주는 일자리를 만들었다고 해서 문제가 다 해결되는 건 아니다. 인공지능이 사람들의 일에 미칠 영향은 그보다 훨씬 거대하다. 인공지능은 우리가 가치 있다고 생각하는 일에 의문을 제기하고, 그 가치를 없애 버린다. (222~223 페이지)
우리가 새로운 가치의 원천을 찾아내지 못하면 인공지능에 기반한 사회는 거대한 '죽음의 집'이 될지도 모른다. 그것은 급여와는 상관없다. (225 페이지)
'사악해지지 말라, 옳은 일을 하라.'
나는 구글의 슬로건이 농담 같다는 생각을 자주 한다. 그들은 자신들이 사악한 행위가 뭔지, 옳은 일이 뭔지 모른다는 사실조차 모른다. 혹은 알면서 무시하거나. 시가총액이 2조에 육박하는 거대 IT 제국이 진심으로 옳은 일을 하고 싶다면, 옳은 일이 뭔지부터 먼저 연구해야 한다. 그러나 물론 현재 그들이 도덕철학 연구에 투자하거나 기부하는 돈은 인공지능 연구에 투자하는 금액의 100분의 1도 되지 않는다.
나는 이 사실 자체가 옳지 않다고 생각한다. 구글은 그냥 기업이 아니다. 뉴욕대 스턴경영대학원 스콧 갤러웨이 교수의 표현을 빌리자면 구글은 한마디로 '현대인의 신'이다. 구글은 "우리의 가장 은밀한 비밀을 모두 알고 우리가 지금 어디에 있는지, 어디로 가야 하는지 알려주며 사소한 것에서 심오한 것까지 온갖 질문에 대답해 준다". "그 어떤 기관도 사람들이 구글에게 보이는 믿음과 신뢰를 따라가지 못한다." 그 신은 자신은 사악해지지 않을 거라며, 옳은 일을 할 거라며 사람들을 안심시킨다. 그러나 실제로 옳은 일을 하지는 않으며, 옳은 일이 뭔지 고민하지도 않는다. 그 변덕스러운 신에게 바둑계 정도 규모의 공동체를 뒤흔들고 바둑계 종사자들의 가치의 근원을 박살 내는 일은 어렵지 않다. 신은 그 일을 할 수 있으며, 주저 없이 그렇게 행동한다. (284~285 페이지)
실리콘밸리 안팎의 몇몇 인사는 오늘날 거대 기업이 국가보다 더 큰 영향력을 행사할 수 있다는 사실에 깊은 감명을 받고, 거기에 도취된 것 같다. 그래서 진지하게, 동시에 우스꽝스럽게, 세상의 문제를 해결하겠다고 나선다. 기업의 영향력을 세상의 문제를 해결하는 데 쓰겠다는 이들도 있고, 세상의 문제를 기술로 해결하겠다는 이들도 있다. 비교적 온건한 전자 그룹의 대표 주자는 빌 게이츠이고, 정신 나간 듯한 후자 그룹의 대표 주자는 일론 머스크다. 이들은 스스로를 신이라고 주장하지는 않지만 사상가, 적어도 남과 다른 거대한 비전이 있는 사람으로 여긴다. 전자건 후자건 마찬가지다. 겸손하게 '혁신가'라는 용어를 쓸 때도 있기는 하다.
정작 이들의 말과 행동을 살펴보면 사상이나 비전이라는 말을 쓰기 민망해진다. 규모가 큰 프로젝트를 생각한다고 그게 사상이나 비전이 되는 것은 아니다. 만약 그렇다면 공상에 잠긴 어린아이들을 사상가나 비저너리라고 불러야 하며, 실리콘밸리의 자칭 사상가들은 내 눈에 바로 그런 어린아이들로 보인다. 그들은 자신이 세상의 문제를 해결할 거라고 믿지만, 세상의 문제가 뭔지 정의하는 첫 단계에서부터 실패한다. (289~290 페이지)
가치가 기술을 이끌지 못하고 기술이 가치를 훼손하는 현상은, 기술이 개념에 영향을 미친다는 사실에 우리가 아직 익숙하지 않기 때문이기도 하다. 과학자들은 과학이 중립적이라고 말하며 과학의 사회적 영향력에 대한 논의를 피한다. 기술자들은 기술은 도구일 뿐이며, 쓰는 사람이 그 용도를 정한다고 주장한다. 그런 주장들은 틀렸다. 기술은 하나의 사상이다. 흔히 칼이 요리사의 손에 들어가면 조리 도구가 되고, 강도의 손에 들어가면 무기가 된다고 말한다. 하지만 칼은 오히려 매우 예외적인 기술이다. 총으로 할 수 있는 일은 크게 두 가지뿐이다. 사람을 쏘거나, 사람을 쏘겠다며 위협하는 것. 총에 장식적 가치가 있다 해도 그것은 사람을 죽일 수 있는 물건이라는 상징성에서 나온다. 그리고 칼 중에서도 일본도 같은 칼로 요리를 할 수는 없다. 과연 쓰는 사람이 기술의 용도를 정할 수 있는 것일까? 일본도의 용도는 일본도를 만든 장인이 거의 정한 것 아닐까? 우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다. 만약 어떤 사람이나 정당, 제도가 그런 권력을 행사하려 들면 반드시 견제 장치가 마련될 것이다. (304 페이지)