튜링의 생각하는 기계

튜링의 생각하는 기계 - 인공지능(AI)의 아버지에게 배우는 컴퓨터 과학의 기초
Abe Ayame.Kasai Takumi 지음, 이아름 옮김 / 위즈플래닛 / 2019년 5월

컴퓨터 과학은 수학을 기반으로 하는 학문이다. 따라서 컴퓨터 과학을 이해하기 위해 수학 지식은 필수라고 할 수 있다. 그러나 이 책은 수학과 무관한 사람들도 이해할 수 있는 언어로 쓰였다. 저자 역시도 수학과 인연이 없다는 점을 밝히면서 컴퓨터 과학의 기초 이론을 조금으로도 재미있게 학습할 수 있게 하는 목적으로 이 책을 썼다고 한다.

컴퓨터 과학의 최전선에 인공지능 기술이 있다. 이미 우리는 인공지능의 위력을 다양한 매체를 통해 접하고 있다. 궁극의 인공지능이란 인간과 자유롭게 소통할 수 있고, 어쩌면 인간의 고유 영역인 의미 창조의 단계까지 발전한 상태를 의미할 것이다. 비교적 최근의 학문과 기술일 것 같지만 이런 형태의 기계에 대한 생각은 이미 오래전부터 있어왔다고 한다. 인간이 살 수 있거나 인간과 비슷한 형태의 생명체가 살고 있는 다른 행성을 발견하는 것만큼이나 이 주제는 인류의 오래된 큰 꿈이기도 한 것이다.

생각하는 기계, 혹은 어떤 질문에도 대답해 주는 기계인 인공지능에 대해 알기 위해서는 먼저 기계란 무엇인가? 란 질문부터 해야 한다. 이 책에서는 생각하는/계산하는 기계를 말한다. 사람이 만들어낸 것이므로 ‘인공’의 개념이다. 그럼 지능은 무엇일까? 이 책에서는 ‘문제가 주어졌을 때 그 문제를 어떻게 해결하는지’의 질문 형태로 정리한다. 또 하나 알아야 할 것은 ‘알고리즘’이라는 개념이다. 이것은 ‘문제를 풀어가는 절차’, 혹은 ‘절차’의 개념이다. 앞선 정의들을 정의해보면 기계가 생각하고 문제를 풀고 대답하기 위해서는 그에 상응하는 절차를 배워야 한다는 말이 된다. 알고리즘에 대한 연구는 ‘계산 이론’이라고도 하는데, 바로 이것이 컴퓨터의 발전의 기반이 되는 것이다. 키 포인트는 문제를 푸는 순서, 즉 알고리즘에 대한 연구다.

기계가 문제를 풀 때 인간과 마찬가지로 사고하는 부분(소프트적인 면)과 이것을 실행하는 뇌에 해당하는 부분(하드적인 면)으로 나눌 수 있다. 이러한 알고리즘을 실행하는 기계를 최초로 생각한 사람은 영국의 수학자 앨런 튜링이다. 계산기조차 없던 시대에 이런 생각을 한 것이다. 최근 영국BBC에서 2000년대 가장 위대한 영국인을 가리는 이벤트를 한 적이 있는데, 여기서 1위를 차지한 인물이기도 하다. 현재의 컴퓨터는 모두 원칙적으로 이 ‘튜링 기계’라고 하는 계산 기계의 후손이 된다.

컴퓨터의 알고리즘의 개념 정의에 있어 획기적인 발전은 ‘불완전성 정리’로 알려진 쿠르드 괴델에 의해 이뤄졌다. ‘괴델 수’라고 해서 숫자가 아닌 것을 수치로 나타내는 것을 고안했는데, 이는 세상 모든 정보를 수학적으로 처리할 수 있음을 의미한다. 이것이 현재 컴퓨터의 발전으로 이어지는 데 핵심적인 사건이었다.

20세기 이후 컴퓨터 과학은 크게 발전하여 숫자가 아닌 다양한 개념들을 다룰 수 있게 되는데, 이때 빠질 수 없는 이론이 언어학자로 유명한 노엄 촘스키의 ‘성구구조문법’이다. 이는 엄격하게 정의된 수학적 모델인데, 그의 문법 이론은 프로그래밍 언어와 같이 인공 언어의 설계화 해석에 중요한 역할을 한다. 번역 프로그램이나 정보를 검색하는 시스템 등에 큰 영향을 미쳤다고 한다.

새로운 이론 분야를 공부할 때 먼저 여러 가지 세세한 개념을 기억해야 하는데, 이 책은 그런 기본 개념들을 차근차근 설명하고 있다. 당시 튜링이 시작한 것은 미개척 분야였으며, 형식적이지만 많은 기호가 범람하면서 난해한 부분이 많았다. 이후 많은 연구자들이 직관적이고 알기 쉽게 다듬어왔지만, 수학이라는 장벽이 아무래도 쉽게 접근하기 힘들게 만드는 측면이 있다. 이 책도 기본적인 수학 지식이 정리되어 있지 않으면 독자 입장에서는 읽기에 난해한 부분이 많다고 보인다.

이 책에서 소개되는 개념이 다양하다. 역설, 귀납법, 집합과 명제, 정의, 등가성, while 프로그램의 문법, 함수, 단진수, 문자열, 순서쌍과 유한열, 자연수 이론과 언어 이론, 오토마톤 이론, 대각선 논법 등등... 표현이 익숙한 개념도 있고, 처음 보는 듯 낯선 용어도 있다.튜링 기계의 수학적 모델에 대한 이해가 이 책의 핵심인데, 이해를 위해서는 차분한 인내심이 필요하다. 컴퓨터에 관심이 많고, 이론적인 부분까지 파헤쳐보고자 하는 독자들에게는 새롭고 즐거운 세계가 되겠고, 학창 시절 수학과 별로 친하지 않았던 독자들에게는 뭐랄까... 귀여운 책 디자인만큼 친밀한 느낌을 가지기는 어려울 것 같다.

인공지능은 우리 시대의 화두다. 그러나 그 기술의 발전으로 인한 혜택을 누리기만 해서는 곤란하다. 우리의 삶의 편리함 뿐만 아니라 실질적인 생존의 문제까지 영향을 주고 있기 때문이다. 그러나 이런 생각하는 기계를 만들어낸 것도 인간이기 때문에, 우리는 적어도 이 인공지능이 어떤 방식으로 세상에 등장하고 발전되어 왔는지 그 흐름 정도는 역사 공부하는 마음으로 한번 살펴봐야 되지 않을까 하는 생각이 들었다. 인간이 생명의 근원이나 존재 이유를 상상해보거나, 혹은 종교적으로 신에게 존재의 이유를 묻듯이, 훗날 인간만큼이나 자연스러워진 ‘튜링 기계’가 대답하기 곤란한 질문을 하게 될 지도 모르니, 후손들을 위해서라도 습관을 들여놓아야겠다는 생각이 들었다.