내가 잘 알고 있는 내용을 다룬 책이더라도 전혀 뇌가 움직이지 않는다는 느낌을 받을 때가 있고 반대로 거의 알지 못하는 내용이더라도 뇌가 자극된다는 느낌을 받을 때가 있다. 이 책은 후자이다. 이제는 이차방정식이나 삼각형(비슷하게 생긴 것)만 보아도 울렁증이 절로 생기는 ‘수학 무교양’ 상태이지만 그렇다고 해서 절대 읽을 수 없는 책은 아니다. 이 책은 고도의 수학적 지식을 설명하는 책도 아니고 수학의 역사를 다루되 그것만 나열하고 있는 책도 아니기 때문이다. 이 책은 오히려 “수학이란 무엇인가, 수학에서 신체란 무엇인가를 제로에서부터 다시 생각해보는 여행”(p.2)에 가까운 책이다. 이 책에서 다루고 있는 문제는 ‘학문을 한다는 것은 무엇인가’라는 물음을 진지하게 고민해본 사람이라면 공감할 수 있는 문제의식과도 상통하는 측면이 있다.
책의 전반부인 1장과 2장에서는 수학의 역사를 다루고 있다. 수학이 발달하는 과정은 신체의 한계를 넘어서 사고하기 위한 ‘도구’의 발달이 궁극적으로 신체와 분리되는 과정과 일치한다. 지금 ‘수학’이라고 하면 사람들은 대개 수식과 계산만을 떠올린다. 그리고 또한 ‘머리가 좋아야’ 잘할 수 있는, 뇌 안에서만 일어나는 고도의 ‘사고’라고만 생각한다. 그러나 애초에 수학은 머릿속에서만 일어나는 ‘사고’가 아니었다. 선사시대에는 손가락이나 발가락 등 신체의 부위를 이용하여 수를 셌고 고대 그리스에서는 종이도 연필도 없이 모래나 널빤지에 나뭇가지 등으로 그림을 그리고 서로 대화를 나누면서 ‘증명’을 했다. 이러한 ‘신체 행위’를 통해 발달한 수학은 이윽고 16세기에 ‘기호’(+ - ÷ × 등)라는 도구를 얻어 보다 추상적인 것으로 변모하기 시작하며 이윽고 17~19세기 서구 유럽에서는 수식과 계산을 중시하는 경향이 생겨난다. 이것이 우리가 현재 학교에서 배우고 있는 근대 서구 수학이다.
근대 서구 수학은 분명 존재하기는 하지만 물리적 영역에서는 실현할 수 없는 극대, 극소에 대해 사고할 수 있게 만들었고, 심지어는 물리세계의 법칙에 제약받지 않는 영역(허수 등)에까지 그 분야를 넓혀간다. 기호는 인간이 경험할 수 있는 유한한 세계를 넘어설 수 있는 표현력을 갖고 있었던 것이다. 수학의 형식화, 공리화는 수학과 신체를 분리했고 물리적 직관과 수학자의 감각 등 애매하고 믿을 수 없는 것들에서 자립하고자 하는 커다란 움직임으로 귀결되었다. 즉 ‘수학의 안’(뇌, 사고)과 ‘수학의 밖’(뇌를 제외한 신체, 환경, 사물 등과 관련된 행위)은 점점 분리되는 쪽으로 발달했으며 20세기 전반에는 이윽고 ‘신체를 완전히 잃어버린 계산하는 기계=컴퓨터’가 탄생한다. 그때까지 인간에 종속되어 있던 수가 인간을 벗어나 ‘수가 수를 계산하는’ 시대로 접어든 것이다.
그런데 이렇게 고도로 추상화하며 발달한 수학이 나아가는 다음 단계란 어떤 것일까. 저자는 이 책의 후반부에서 앨런 튜링과 오카 기요시라는 두 수학자를 통해 그 가능성을 탐구해보고 있다.
앨런 튜링이 추구한 수학의 근저에는 ‘마음’이라는 문제가 자리하고 있다. 인간 역시 자연 규칙에 따르는 하나의 기계에 지나지 않는다면 어떻게 거기에 자유로운 의지를 가진 혼이 머물 수 있으며, 의지와 혼 등의 개념을 어떻게 물리적 세계의 과학 기술과 조화시킬 수 있을 것인지, 마음의 세계와 사물의 세계의 접합은 어떻게 할 수 있을지를 고민했던 것이다. 이는 나중에 ‘스스로 생각할 수 있는’ 인공지능의 탐구로 나아가며 만약 그러한 기계가 존재한다 가정했을 때 지능을 발달시키기 위해서는 인간의 감각기관과 같은 ‘신체’를 주어야 한다고 주장한다. 만년의 그는 컴퓨터와는 다른 인간이라는 ‘기계’의 구조를 해명하기 위해 생물학 연구도 하게 된다.
오카 기요시는 저자가 수학을 공부하게 된 동기가 되는 일본의 수학자이다. 생전에 불과 열 편의 논문밖에 발표하지 않았지만 서양에서 업적을 인정받았고 일본 정부로부터는 문화훈장을 수여받았으며 뛰어난 수필을 써 베스트셀러가 되기도 했다. 그는 어느 대학이나 연구소에 소속된 수학자가 아니었다. 중일전쟁이 발발하자 그때까지 재직하고 있던 대학을 나와 아내와 아이들을 데리고 고향에 돌아가서 농사를 지으며 자연 속에서 혼자 수학 연구를 계속했고 태평양전쟁이 끝난 후에는 출가를 하여 종교적 생활을 하기도 한다. 바쇼에 대한 심취나 수학에서 중요한 것은 “오감으로 접촉할 수 없는 수학적 대상에 끊임없이 관심을 주고 그만두지 않는 것”이며, “수학의 중심에 존재하는 것은 정서”라는 이야기를 보고 있으면 수학자라기보다 진리를 찾아 수행하는 선사와도 같은 이미지를 받게 된다. 그러나 이는 고도로 추상화된 ‘서양식의’ 수학을 추구한 결과 그가 도달한 지점이다.
저자가 인지과학의 연구성과까지 동원하여 일관되게 주장하는 것은 인간의 인지란 신체 안에만 갖혀 있는 것도 아니고 뇌로만 하는 것도 아니며 ‘신체와 환경 사이를 오고가는 과정’이라는 사실이다. 직접적인 언급은 나오지 않지만 이런 ‘신체와 환경 사이를 오고가는 과정’으로서 가장 이상적인 수학을 한 사람이 바로 오카이다. 오카에게 수학이란 “머리로 이치를 생각하거나 눈앞의 계산에 휘둘리는 것이 아니라 생명을 쏟아 수학적 사고의 흐름이 되는 것에 무상의 기쁨을 느끼는”(p.117) 것이었다. 그리고 저자는 이러한 오카의 학문적 태도에서 서로 동떨어진 듯한 ‘수학’과 ‘신체’가 어딘가에서 깊은 연결관계를 갖고 있을 것 같다는 문제의식을 갖게 되었다.
오카는 ‘안다’는 것은 슬픔이나 기쁨을 예로 들자면 타인의 감정을 수치화하는 것이 아니라 자신이 그러한 감정이 되는 것이라고 생각했고, 하이쿠처럼 감각의 세계가 아니라 그 안쪽에 놓여 있으면서 피아를 넘나드는 정서의 세계를 중시했다. 그는 씨앗과 토양이 없는 농업이 있을 수 없듯이 수학에서 창조란 수학적 자연을 낳고 기르는 마음에 의해 지탱되며, 마음이 없는 수학은 존재할 수 없다, 하지만 그 마음의 움직임 자체를 인간의 의지로 탄생시키는 것은 불가능하며 인간에게 가능한 것은 그것을 낳고 기르는 것뿐이라 주장한다. 그 역시 만년에는 수학에서 벗어나 새로운 인간관과 우주관을 건설하려는 시도를 하고 있다.
튜링은 ‘마음’을 만들고자 했고, 오카는 ‘마음’을 지루한 육체와 뇌에서 해방했으며 궁극적으로는 그러한 마음이 되고자 했다. 이것이 저자가 본 수학의 가능성이다.
분량은 길지 않지만 여러 가지를 얻을 수 있는 책이다. 우선 이 책을 읽으면 수학사에서 큰 전환이 되는 지점들을 알 수 있다. 그 지점들을 하나씩 통과하듯 읽어나가면 수학이 잃어버리는 것이 ‘신체성’이라는 사실을 깨닫게 된다. 그 중간중간에 사고라는 것이 결코 신체적 행위와 동떨어진 것이 아니라는, 대체로 인지과학을 동원한 저자의 설명이 들어간다. 그리고 튜링과 오카 기요시라는 두 수학자의 행적을 좇으면서 잃어버린 신체성을 수학이 회복하고자 하는 시도와 거기에서 생겨나는 새로운 가능성에 대해 생각해보게 된다.
아무리 이성적이고 논리를 추구하는 학문이라 하더라도 그 끝에 가서는 그것으로는 해명하기 힘든 무언가를 만나게 된다. 예를 들면 어린아이가 '1은 왜 1이냐'라고 묻는 것과 같은 것. 그런데 '1이니까 1이다'라고밖에 대답할 수 없는 것에 대해 왜 그런지 해명하려고 애쓰는 것이 학문의 본질이 아닐까. 책을 읽으면서 내내 떠오르던 말이 바로 이 ‘본질’이라는 단어였다. 또한 모든 학문이 궁극에 가서는 서로 통하는 지점들이 있는 것 같다는 생각이 드는데 그런 측면도 상기하게 만드는 책이다. ‘수학한다는 것’ ‘수학하는 사고’의 근본을 탐구해보는 에세이집이면서도 이것을 수학이라는 한 학문분야에만 한정하지 않고 학문의 근본, 학문의 태도로까지 자신의 사고를 다른 지점으로 ‘누출’(p.32)하게 만드는 힘도 있는 것 같다. 가장 기초적인 인간의 생각에 변혁을 일으키는 것이 가장 진보적이며 혁명적인 것이라는 사실을 새삼 깨닫게 해준다. 물리, 생물, 등에도 이런 식의 에세이가 있다면 좋겠다는 생각이 들었다. 한 챕터씩 읽어나갈 때마다 뭔가 눈이 뜨이는 기분이랄까. 물론 설명만으로 이루어진 부분도 있고 저자 자신의 이야기나 오카 기요시의 이야기를 할 때에는 지나치게 감상적인 부분도 없지 않았다. 그러나 전체적으로 전문가보다는 ‘일반 독자’를 염두에 둔 책임은 틀림없는 것 같다.
다만 수학사에 무지한 사람의 입장으로서는 저자의 설명 자체는 이해가 가지만 ‘감각, 행위, 사고가 뇌 안에서만 일어나거나 또는 육체에서만 일어나는 것이 아니라 여러 모로 통합되어 있는 과정이고 따라서 수학하는 사고 자체를 거의 자연과의 합일에 비견할 수 있는 통합적 과정으로 재인식하게끔 하려는’ 저자의 사고가 얼마나 새로운 것인지 쉽게 가늠할 수 없었다. 또 오카 기요시의 경우 이 책만으로는 그가 어떤 사람이었는지 다 파악하기 힘들어 바쇼의 하이쿠가 보여주는 선적인 세계와 오카의 수학 사이의 관련성이 얼마나 밀접한 것인지, 혹시 비약이 있는 것은 아닌지(오카는 중일전쟁이 일어나자 프랑스에서 배척을 당하는데 이후 곧바로 바쇼의 세계에 심취하는 것으로 나온다. 이것은 이 장면만 보자면 곧바로 ‘서구에 대한 반동’으로서 ‘일본 고유의 무엇’을 찾는 것으로도 해석할 수 있는 부분이다. 더불어 저자가 오래 읽은 오카의 책 제목은 『일본의 마음』이다) 판단하기가 쉽지 않았다.
만약 이것이 수학이라는 학문의 새로운 가능성을 탐구하는 데 일종의 실마리가 될 만한, 정말로 새로운 책이라면 과학 교양서뿐만 아니라 늘 인문학의 최신 경향을 보여주는 ‘신상’을 읽고자 하는 사람들에게도 매력적인 책인 듯하다. 또 언제 나올지는 알 수 없으나 다음 작품도 주목해볼 만하다고 생각된다.
(* 쪽수는 원서 쪽수. 번역문, 표기법 등은 번역서와 다를 수 있습니다.)
