[인공지능/김대식] 인공지능 입문을 위한다면 이 책을

김대식의 인간 vs 기계 - 인공지능이란 무엇인가
김대식 지음 / 동아시아 / 2016년 4월

(한달전에 읽은 책을 다시 들쳐본다)

인공지능이 이제서야 인공지능 다워진것은 왜 일까? 이미 오래전부터 인간은 인공지능을 개발하기 위해 노력했지만 번번히 실패했다. 여기에 김대식이 아주 핵심적인 설명을 한다.

전통적인 인공지능이 지능을 획득하기 어려웠던 이유는 기계에 설명을 입력해줘야 하기 때문입니다. ... 설명을 하기 위해선 두 가지 조건이 필요합니다. 첫째, 설명을 하는 사람이 답을 알고 있어야 해요. 둘째는 답을 알고 있는 사람이 답을 완벽하게 표현할 수 있는 기호시스템이 필요합니다. 쉽게 말하면 언어체제가 필요하다고 보면 됩니다. (33~34쪽)

라이프니치는 수학이 유일하게 오해가 없는 언어라고 생각했습니다. 수학은 증명의 학문이기 때문에 주장하고 싶으면 증명하면 되고 증명됐다면 믿으면 됩니다. ... 언어를 수학으로 바꾼다는 것은 수학화된 언어로 계산을 할 수 있게 되는 것입니다. 그래서 라이프니치는 이진법을 만듭니다. 언어를 계산할 수 있는 숫자로 바꿔 준 것이죠. 이 세상의 모든 것을 0과 1의 조합으로 바꿔서 대화 할 수 있을 것이라고 기대했습니다.(58쪽)

그렇다면 언어를 기호적으로 표현하는 것뿐만이 아니고 기호들과 기호들 간의 관계도 수학적으로 표현을 해보자해서 만든 것이 바로 지금 우리가 컴퓨터에서 사용하고 있는 불의 논리Boolean logic 입니다. 이 문법은 몇 개 안됩니다. AND, OR, NOT, NAND ···. 네다섯개만 있으면 모든 걸 다 표현할 수 있죠. 이제 문자도 있고 문법도 있으니 세상일을 표현할수 있는 완벽한 언어가 생겼습니다. 세상일들 혹은 머릿속에서 일어나는 일을 기호화시킬 수 있고 표현한 것들을 서로 연결시키는 문법도 수학화하게 된 것입니다. (66쪽)

아리스토텔레스 때부터 2,500년 동안 서양철학에선 모든 건 말할 수 있다고 믿었습니다. 그러니까 모든 걸 표현할 수 있다고 믿었지요. 어떻게 표현하느냐를 가지고 2,500년 동안 연구를 했는데, 표현할 수 있는 방법은 비트겐슈타인이 찾았습니다. NAND로 말이죠. 하지만 알고 보니 표현할 수 없는게  있다는 것을 알게 되었습니다. 그럼 그건 어떻게 해야 할까요? 비트겐슈타인은 '말할 수 없는 것에 대해선 그냥 침묵을 지키는 게 최고구나. 결론은 말할 수 없는 게 있구나'라고 결론지었습니다. 그리고 이 결로은 현대 뇌과학에서 말하는 들어오는 정보를 대부분 언어 처리 할 수 없다는 것과 일맥상통합니다. 10퍼센트만 낸드로 표현이 되고 나머지 90퍼센트는 낸드로 표현할 수 없이죠. (140쪽)

기계에게 '우리같이 팔다리를 움직여봐'라고 아무리 말한다고 기계가 모방하기는 어렵습니다. 그래서 결국 언어로 정확히 표현할 수 없는 정보와 기능은 딥러닝 같은 방식을 통해 기계에게 학습시켜야 한다는 결론을 내게 된 것입니다.
비트겐슈타인은 표현할 수 없는 것에 대해선 침묵을 지켜야 된다고 이야기했는데, 지금의 딥러닝은 표현할 수 없는 건 학습을 시켜서 해결하겠다는 원리입니다.(141~142쪽)

설명하기 위해서는 컴퓨터 언어가 필요했다. 거기에 and, or, not 만 있으면 모든 설명이 가능했다. 그런데 언어를 표현할 수 없는게 있다는 것을 깨닫게 된다. 기존에 로직으로 다 해결할 수 있다는 생각에 한계가 있던 것이다. 그런데 말할 수 없는 것, 그것을 머신러닝이 해결하게 되었다. 그토록 힘들었던 인공지능이 왜 이제서야 인공지능스러워 졌는지가 이해되는 부분이다.

불과 몇 년 전까지만 해도 인공지능은 먼 훗날의 이야기로 생각했다. 그런데 어느 날 문득 우리 앞에 나타나 현실이 되었다. 터미네이터 이야기가 나오는 등 이제 인공지능은 실질적인 위협이 되었다. 물론 여전히 많은 전문가들은 위험한 상황이 되기에는 아직은 여유가 있지 않냐고 하지만, 몇몇 전문가들은 '그런데 알 수 없다. 기술이 발전해온 속도를 보면'이라는 단서를 단다. 김대식은 효과적으로 이를 설명한다. 1900년과 1913년의 동일한 장소의 사진을 보여준다.

기술적으로 가능해진다면 정부가 주도하여 무인자동차를 더 상용화시킬 것입니다. .. 유인자동차를 금지시키는 법안 혹은 무인자동차만 생산해야 한다거나 혹은 새 차 등록은 무인자동차에 한한다는 법만 통과시키면 됩니다. .. 말도 안되는 상상 같지만, 150년 전까지 사람들은 말을 탈 줄 알았지만 지금 말을 타는 사람은 거의 없습니다. ...1900년 부활절 아침, 뉴욕 5번가의 사진 속 거의 모든 운송수단은 마차였습니다. 딱 한대의 자동차가 있습니다. ... 하지만 신기하게도 13년 후 같은 날 같은 장소의 사진을 보면 모든 운송수단이 자동차입니다. 마차는 단 한대도 없어요.

기술이 발전하는 과정 중 늘 걱정해야 할 부분은, 기술은 어느 한 순간 기하급수적으로 증가하는 시점이 있다는 것입니다. 이를 두고 특이점이라 부릅니다. 하지만 이 특이점은 나중에 알 수 있어요. 대체로 직선형태로 성장하고 있다고 생각하기 쉽습니다. 특이점은 미래의 일이기 때문에 어디서 오는지 알 수 없죠. 우리는 과거로 미래를 예측하다보니 현상태에서는 선형으로 증가한다고 예상하는 것이 더 일반적입니다. (268~270쪽)

기술의 발전은 항상 인간의 직관을 넘어섰다.

김대식은 인공지능 시대에 대해 더 많은 문제점과 사례, 그리고 사람들이 놓치고 있는 것을 이야기한다. 사람들이 산업혁명을 견뎌내고, 각 종 기술변혁시대를 견뎌낸 것 처럼 역시 인간은 이 상황을 해결할 것이라고 말하지만, 김대식은 아직 아무런 준비도 되어 있지 않다고 말한다. 산업혁명의 시대에 인간은 공교육 제도를 도입했고, 자본주의를 사회를 지탱할 각 종 시스템을 개발했다. 그런데 지금 우리는 인공지능 시대에 대한 대비가 아무것도 되어 있지 않다. 오히려 대한민국은 인공지능 시대에 쓸모없어질 전문직이 되기 위한 교육에만 열중할 뿐이다.

몇 몇 전문가들은 인공지능시대에 인간은 멸종할 것이라고 말한다. 그리고 덧붙인다. 그게 나쁜거냐고?

생각해보면 우리는 너무 인간중심적인 생각으로 살았다.

인류는 1만 년, 2만 년 전부터 지구를 인간의 편의대로 다 바꿔놨습니다. 그리고 지구에 존재하는 모든 것들이 인간에게 얼마만큼 도움이 되는지 재해석했습니다. 공기가 깨끗해야 하는 이유는 우리가 숨을 쉬어야 하니까, 숲을 베고 댐을 만드는 일들 모두 인간의 편의를 위해, 이렇게 이리저리 바꿔놨습니다. 아무도 인간에게 이런 권리를 허락해준 적은 없 습니다. 인류가 그 권리를 스스로에게 줬고, 행동을 했습니다. 그 이유는 지구에서 인류가 제일 똑똑하기 때문이었죠. 지구에서의 알파 동물이니까요. 그리고 그 재해석의 마지막에 '그럼 사람은 왜 있어야 되나?'라는 질문은 우리가 사회적 으로 합의하여 서로 하지 않기로 한 거죠. (320쪽)

어찌보면 인간의 멸종은 당연할지도 모른다. (나는 개인적으로 우리세대가 호모사피엔스의 마지막세대가 아닐까라고 생각한다.) 잘 생각해보면 모든 종은 종족번식이 목적이다. 조금 더 자세히 말하면 기억과 유전자를 후손에게 넘기는 것인데, 우리는 인공지능을 만들었고, 인간의 모든 것이 인공지능으로 넘겨진다고 조금 더 받아들이기 쉬우려나.

한번 인간이 아닌 외부의 눈으로 인간-인공지능의 관계를 볼 필요도 있겠다. 그렇거나 어쨌거나 우리는 지금 하루 하루가 생존인 사회에서 살고 있다.

과거의 산 업혁명이 해피엔딩으로 끝날 수 있었던 것은 인류가 19세기 에 엄청난 노력을 했기 때문에 결국에 가능했다는 점입니다. 인류는 세 가지 혁신적 인 노력을 했습니다. 첫째로는 프랑 스에서 공교육이란 것을 시작했습니다. 왜 공교육을 도입했을까요? 국영수라는 학습과정을 만든 거잖아요. 왜 국영수를 만들었을까요? 1차 산업혁명 때 대부분의 유럽 사람들은 글을 못 읽었습니다.

대부분 농부였죠. 글을 못 읽는 농부의 자녀들을 데려다가 공장에서 일을 시키려니 적어도 글을 읽고 계산을 할 수 있어야 된다는 거죠. 이 당시에는 정말로 킬 러 애플리 케이션killer application이었습니다. 모든 국민에게 교육을 시킨다는 것은 어마어마하게 혁신적인 아이디어입니다. 글을 가르쳐주고, 계산하는 법을 가르쳐줬습니다. 그 덕분에 우리가 어쩌면 살아남은 거죠. 우리는 인지적인 활동을 할 수 있게 됐습니다. (291쪽)

둘째로 독일에서 사회보장제도를 만들었습니다. 보험제도지요. 셋째로 영국에서 세금제도가 생겼 습니다. 이전에는 나라의 모든 수입이 농업을 통한 것이었는데, 농업이 점점 사라지니까 기계에 대한 누진세 등을 만들어 산업활동을 하는 과정에서 국가가 돈을 벌 수 있는 제도를 만들었죠.

이 세 가지 제도로 19세기 1,2차 산업 혁명은 잘 극복할 수 있었습니다. 하지만 앞으로 닥칠 산업혁명은 지금도 벌어지고 있고, 향후 20~30년 후에도 벌어질 일이지만 인류는 아 직 아무 준비를 하고 있지 않다는 것이 핵심적인 문제가 아닐까요? (291-292쪽)