절대 왕좌를 꿈꾸는 본격 수학 무협소설

그가 미친 단 하나의 문제, 골드바흐의 추측 (양장) - 최고의 수학 난제가 남긴 최고의 수학소설
아포스톨로스 독시아디스 지음, 정회성 옮김 / 풀빛 / 2017년 1월

어느 집안에든 골칫덩어리가 한 명쯤은 있게 마련이다.
우리 집안에서는 페트로스 삼촌이 바로 그런 사람이었다.
P. 20

알고 보니 위대한 수학자였던 삼촌에게 속다
페트로스 삼촌은 그야말로 집안의 골칫덩어리일 뿐이다. 아버지와 아나기로스 삼촌은 할아버지의 재산을 물려 받아 착실히 가정을 꾸리면서 제대로 된 인생을 살고 있다. 페트로스 삼촌은 결혼도 하지 않고 일도 하지 않으면서 체스나 두면서 시간을 보내고 있다.  '나'의 아버지는 생산적인 일이라고는 아무것도 하지 않는 페트로스 삼촌을 탐탁치 않게 생각했다. '나'는 삼촌에게서 실패한 인생의 흔적을 찾아 보려고 했다. 하지만 페트로스 삼촌은 다른 형제들에 비교해 보면 훨씬 멋진 모습을 하고 있었고, 나는 그런 삼촌에게 친근감을 느꼈다.

어느날 집으로 걸려 온 전화 한 통은 삼촌이 쓸모없는 실패한 인생이 아닐 것이라는 나의 생각에 확신을 심어 주게 된다. 삼촌은 무려 수학자였다. 그것도 뮌헨대학의 '전' 해석학 교수였다. 게다가 어릴 때는 천재로 소문이 자자한 자랑스런 할아버지의 둘째 아들이었다고 한다. 갑작스레 치밀어 오르는 존경심. '나'는 삼촌에 대한 동경으로 수학과에 진학하기로 결심을 했지만 삼촌은 찬성하지 않는다. 결국 삼촌은 나에게 간단해 보이는 증명을 하나 성공하면 수학과에 진학하는 것을 찬성하고 밀어 주겠다고 약속했다.

2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다는 걸 보여봐라.

삼촌은 나에게 3개월이라는 충분한 시간을 줬다. 너무나도 간단해 보였다. 모르는 말은 하나도 없고, 겨우 딱 한 줄짜리 증명문제였다. 하지만 의기양양했던 나는 증명에 실패하고 말았다. 삼촌과의 약속에 따라 수학을 포기하고 경제학과에 진학을 했다. 삼촌의 마각은 대학 3학년 때 드러났다. 기숙사 룸메이트였던 새미는 수학의 천재였고, 삼촌이 내어 준 문제의 답을 알고 있을 것이 분명했다. 하지만 새미는 웃음을 터뜨렸고 나는 분노했다. 삼촌은 나에게 수백년 동안 그 어떤 수학자들도 풀지 못한 '골드바흐의 추측'을 증명하라고 했던 것이다.

아포스톨로스 독시아디스 Apostolos Doxiadis (1953 ~ ) 호주 브리즈번에서 태어나 그리스에서 활동하는 작가. 수학자. 영화감독.

수학사상 양대 악마.. 골드바흐와 페르마
<그가 미친 단 하나의 문제, 골드바흐의 추측>은 수학에 관한 소설이다. 제목에 나와 있듯이 수학사상 최악의 난제라고 할 수 있는 '골드바흐의 추측'을 증명하기 위해서 평생을 바친 수학자에 관한 소설이다. 수학의 난제는 한두가지가 아니다. 20세기의 시작점에는 '힐베르트의 23가지 문제'가 있었다. 21세기로 넘어오면서는 '밀레니엄 7대난제'가 있다. 그외에도 듣기만 해도 머리가 지끈지끈한 수많은 문제들이 버티고 있다. 하지만 나는 그 중에서도 최악의 문제를 '골드바흐의 추측'과 '페르마의 마지막 정리'라고 생각한다.

다른 문제들은 문제 자체를 이해할 수가 없다. 리만가설이라든지, 호지 추측이라든지 문제를 한참 쳐다보고 있어도 도대체 무슨 말인지를 알 수 없다. 하지만 '골드바흐의 추측'과 '페르마의 마지막 정리'는 다르다. 중학생만 되어도 문제가 무슨 뜻인지 알 수 있다. 문제를 이해하는 것이 쉽기 때문에 수학에 관심이 있는 사람이라면 누구든지 한 번쯤은 해답을 생각해 보게 된다. 하지만 바로 그때로부터 지옥문이 열린다. 책의 한 컨에 페르마가 끄적여 놓은 '페르마의 대정리'를 앤드류 와일즈가 풀 때까지는 무려 350여년이 걸렸다. 앤드류 와일즈는 페르마가 알지도 못했고 상상도 못할 정도로 복잡한 수식을 써가면서 겨우겨우 풀었다.

'골드바흐의 추측'도 마찬가지다. 이해하기 쉽다. 그렇기 때문에 누구든 손쉽게 달려들지만 '페르마의 마지막 정리'보다도 더 증명이 어렵다. 단 한 줄로 표현된 문제다. 하지만 저 속에는 악마가 도사리고 있는 것 같다. 수론에서 소수와 관련된 문제들은 모두 난제의 영역으로 들어가 버리는데, 아마도 그 이유는 소수의 규칙성을 찾지 못했기 때문일 것이라고 생각한다. 게다가 자연수의 무한한 성질까지 다루어야 하는 것 같다. 400경자리까지의 소수는 '골드바흐의 추측'이 사실임이 밝혀져 있다고 한다. 하지만 증명은 다른 문제다. 소수의 규칙성을 찾지 못한다면(또는 소수에 규칙성 따위가 원래 없다면), 아마도 '골드바흐의 추측'은 영원히 증명되지 못할 것 같다. 더불어 소수를 다룬 '리만 가설'도 마찬가지로 증명되지 않을 것 같다.

소수는 1과 자신으로만 나누어지는 자연수를 말한다. 아직까지 어떤 규칙성도 발견되지 않았다.

순진한 수학자. 사랑을 되찾기 위해 '골드바흐의 추측'에 도전하다
순진한 조카를 속인 페트로스는 항의하러 온 조카에게 자신의 삶을 들려 준다. 아들의 천재성을 알아차린 할아버지는 페트로스를 유명한 수학자였던 카라테오도리 교수에게 맡겼다. 어떤 사람은 때때로 뜬금없는 이유로 인생의 방향을 정하기도 한다. 이졸데는 카라테오도리 교수의 딸이었고 페트로스 삼촌에게 뜬금없는 이유는 첫사랑이자 마지막 사랑이었던 이졸데였다. 겨우 몇개월간의 밀회를 즐긴 후 페트로스에게 큰 흔적만을 남기고 이졸데는 근사한 중위와 결혼을 한다. 페트로스는 이졸데의 사랑을 되찾기를 원했고, 그러기 위해서는 위대한 수학자가 되어야 한다고 생각했다. 페트로스가 생각하는 위대한 수학자의 조건은 '골드바흐의 추측'을 증명하는 것이었다. 그리고 지옥이 시작되었다.

목표를 달성하기 위한 단계를 밟아 나가기 위해서 애써 노력하다 보면 원래의 목표는 잊고 중간단계에 매몰되기도 한다. 페트로스는 '골드바흐의 추측'을 연구하는 과정에서 이졸데는 잊고 문제 자체에 매몰되어 버린다. 물론 쉽게 풀릴 리가 없다. 자신이 '골드바흐의 추측'에 매달리고 있다는 사실이 알려지면 다른 연구자들이 협업을 제안할 수 있고, 중간 과정을 발표하면 다른 연구자들이 거기서 힌트를 얻어서 먼저 증명방법을 알아낼 수도 있다. 다른 수학자가 먼저 증명해 낼 지도 모른다는 우려 때문에 페트로스는 연구사실을 숨기고 고립된 상태에서 연구를 하기로 결심한다.

'골드바흐의 추측'은 1742년, 골드바흐가 오일러에게 보낸 한 통의 편지에 처음으로 언급되었다. 페르마의 마지막 정리와 함께 희대의 수학 낚시 문제.

스스로를 고립시켰던 수학자에게 닥친 두 번의 치명타
무려 10년, 혼자서 연구를 하던 페트로스는 결국 자신이 그동안 발견해 낸 정리를 모아 '분할 문제에 대한 몇 가지 고찰'이라는 제목으로 논문을 쓰고 발표를 준비한다. 혼자서 연구하는데 너무 지쳤고, 이 논문만으로도 충분히 명성을 얻을 수 있을 것이라는 판단이 섰기 때문이다. 하지만 고립된 상태에서 연구를 했던 것이 패착이었다. 페트로스가 생각해 낸 아이디어는 이미 2년 전에 다른 젊은 수학자가 발표해서 수학계에 센세이션을 일으킨 후였다. 페트로스가 받을 수 있었던 영광은 이미 사라지고 없었다. 2등은 아무도 기억하지 않기 때문이었다. 페트로스가 받은 첫번째 치명타였다.

페트로스가 받은 두 번째 치명타는 괴델의 '불완정성의 정리'였다. 평생을 '골드바흐의 추측'의 증명에 매달렸던 페트로스를 비웃기라도 하듯이 괴델은 '정수론에서 증명이 불가능한 참인 명제가 있으며, 그 명제가 참인지 거짓인지를 미리 알 수 없다'고 증명을 해 버린 것이다. 페트로스는 앨런 튜링으로부터 이 소식을 듣고 괴델을 찾아가 거칠게 다그치지만 이미 논리적으로 증명된 사실에 대해 따져 물어도 바뀌는 것은 없었다. 증명할 수 없을지도 모르는 것을 증명하려고 애써왔던 인생이 무너지는 순간이다.

짝수 n을 다른 두 소수의 합으로 표시하는 방법을 표시한 그래프. 뭔가 규칙성이 있어 보인다.

깨알같이 등장하는 수학사의 천재들
이 소설은 수학의 난제인 '골드바흐의 추측'을 풀기 위해 평생을 노력한 천재 무명 수학자에 대한 얘기이면서 수학사에 대한 얘기이기도 하다. 페트로스는 뛰어난 수학자였기 때문에 유명한 수학자들과 이런저런 교류를 하기도 하고 다른 수학자들의 연구성과에 대한 소식을 듣기도 한다. 당대 영국의 최고의 수학자였던 고드프리 하디의 강의를 듣는다. 하디와 많은 연구를 함께 했던 존 리틀우드와도 교류가 있었고, 요절한 인도 최고의 천재 수학자인 라마누잔과는 절친한 친구였다. 암호학의 대가이자 실질적으로 컴퓨터의 이론을 만들어낸 앨런 튜링은 독일어 논문 번역의 도움을 받고자 페트로스를 찾아 온다. '불완정성의 정리'를 발표한 괴델도 등장한다. 수학의 역사에 길이 남을 천재들이 곳곳에 등장하고 그들과 교류하고 논쟁을 벌이는 모습은 수학사에 관심이 있는 사람이라면 굉장히 흥미진진하게 느낄 것이다.

쿠르트 괴델 Kurt Gödel (1906 ~ 1978) 체코 출신의 수학자. '불완전성의 원리'를 증명함으로써 수학체계의 완전성을 증명하려고 했던 힐베르트의 걔획을 산산조각내 버렸다.

풀었다고 믿고 싶다
페트로스는 조카의 충동질에 낚여서 조카에게 자신이 증명하려 했던 방법을 조카에게 설명하기 시작한다. 그리고 어느 순간 '골드바흐의 추측'을 증명하는 힌트를 얻고 다시 한 번 증명에 열을 올린다. 어느날 갑자기 전화가 걸려 오고 페트로스는 수학자와 함께 빨리 자신의 집으로 방문해 달라는 요청을 한다. 급하게 의사와 함께 페트로스를 찾은 조카는 웃는 모습으로 영원히 잠든 삼촌의 시신을 맞이하게 된다. 역사가 스포일러라는 말이 있다. 역사에 의하면 페트로스는 '골드바흐의 추측'을 증명하지 못했다. 설사 증명을 했더라도 발표를 하지 못하고 영원히 역사의 강물을 따라 흘러가 버리고 말았다. 하지만 나는 왠지 페트로스가 증명했다고 믿고 싶다. 비록 세상에 알리지는 못했지만 그렇게 믿어 주는 것이 평생을 골드바흐와 싸워 온 수학자에 대한 경의의 표시일 것 같다.

수학에 관한 소설이라 수학사에 관심이 있는 사람이라면 굉장히 재미있게 읽을 수 있다. 꼭 수학사에 관심이 없더라도 내용이 흥미진진해서 부담스럽지 않게 읽을 수 있을 것 같다. 수학이라는 절대무림의 왕좌를 향해 나아가는 재야의 고수의 일생을 다루는 것 같은 긴박감이 넘친다. 가상의 인물을 수학사에 절묘하게 끼워넣은 점도 굉장히 재미있고, 책의 내용이 실제 인물의 생애를 다룬 것같은 현실감을 준다. 이 책을 읽고 비슷한 책을 읽고 싶다면 '사이먼 싱'이 쓴 <페르마의 마지막 정리>를 읽어 보는 것도 괜찮을 것 같다. '페르마의 마지막 정리'를 증명한 앤드류 와일드는 페트리스의 현실 버전이다.

추천.