미스터리 형식으로 풀어쓴 색다르고 매력적인 수학소설

살인을 부르는 수학 공식 - 소설로 읽는 20세기 수학 이야기 ㅣ 에듀 픽션 시리즈 7
테프크로스 미카엘리데스 지음, 전행선 옮김 / 살림 / 2010년 8월

수학(數學)을 손에서 놓은 지가 벌써 십 수 년이 넘었다. 전공이 경제학과인지라 다른 인문계 학과보다 수학을 대학 졸업 때까지 공부했었으니 그래도 꽤나 길게(?) 잡고 있었던 셈이다. 직장생활을 하면서부터는 수학은 이제 학창시절에나 공부했던 추억의 학문이 되어 버렸지만 책읽기를 하면서 수학을 소재로 한 소설이나 교양서들은 그래도 간간히 접해오고 있었다. 기억에 남는 책들을 꼽아보면 오가와 요코의 <박사가 사랑한 수식(이레)>, 이선영의 <천년의 침묵(김영사)>, 감태연의 <이것이다(시간여행)>, 리스 하스아우트의 <범죄수학(지브레인)> 등을 들 수 있다. 책 속에 등장하는 수학자들이나 수학 상식들은 영 낯설기만 하지만 독특하고 색다른 수학이라는 소재 덕분에 재밌게 읽었던 책들이며 수학을 다시 한번 공부해볼까 하는 의욕을 복돋우는 흥미로운 책들이었다. 최근에 또 하나의 수학소설을 읽게 되었다. 그리스의 수학자이자 저술가인 테프크로스 미카엘리데스의 <살인을 부르는 수학공식(살림Friends, 2010년 8월)>이 바로 그 책으로 역시나 이제는 생경하기까지한 난해한 수학이야기가 부담스럽긴 했지만, 미스테리 형식으로 풀어간 수학 이야기라는 색다른 소재가 매력적인 재밌는 책이었다.  

 1929년 아테네, 중학교 수학교사인 스테파노스 칸다르트지스가 자택에서 시체로 발견되고 그의 마지막 목격자인 친구인 “나”(미카엘 이게리노스)에게 경찰이 찾아온다. 경찰과 스테파노스의 동행하면서 나는 그를 처음 만났던 1900년 파리 만국박람회를 회상한다. 나는 제2회 국제 수학자 대회에서 그리스 동포이자 수학자인 스테파노스를 만나서 의기투합하게 된다. 그리고는 그와 함께 젊은 파리의 예술인들과도 술자리를 같이 하고, 수학에 대해 깊은 토론을 나누는 등 진한 우정을 나누고 독일에서 다시 만나기로 약속하지만 아버지의 갑작스런 죽음으로 가업을 잇게 된 나는 독일에서의 유학생활을 접고 그리스로 돌아와 결혼을 하고 사업을 맡게 된다. 그로부터 10년 후 그리스에서 나는 스테파노스와 감격스러운 해후를 하게 되고 수학 토론을 하는 목요모임을 갖고 체스를 두는 등 그와의 우정은 더욱 돈독해진다. 전처(前妻)의 남자친구로, 그리고 내가 거금을 들여 구해낸 정인(情人)의 애인으로 묘한 삼각관계에 빠지기도 하지만 사업을 시작하면서 접어야 했던 수학에 대한 열정을 공유할 수 있는 유일한 친구인 스테파노스는 누가 뭐래도 가장 소중한 친구로 물심양면으로 그를 돕는다. 그런 그가 시체로 발견된 것이다. 경찰은 가장 마지막 목격자인 나를 범인으로 지목하고, 나에게 불리한 증거들과 증인이 계속 나오면서 결국 나는 감옥에 갖히고 만다. 1심에서는 유죄를 선고받았지만 2심에서는 증거불충분으로 무죄 선고를 받은 나는 집으로 돌아와 그동안 밀렸던 최신호 수학 잡지를 보다가 충격적인 사실을 접하게 된다.  

  2,500년전 최초의 수학 살인 - 김선영의 <천년의 침묵>이 이 시대를 배경으로 하고 있다 - 을 모티브로 하여 19세기 말 20세기 초 수학 역사를 소재로 한 이 책은 미스터리 형식을 띠고 있지만 수학 교육을 위한 일종의 교양서로 보는 것이 맞을 듯 싶다. 20세기 초에 실재했던 수학자들과 공식들 사이에 허구의 인물인 “나”와 “스테파노스”를 교묘히 끼워넣어 전혀 이질감없이 그 시대의 수학사(數學史) 흐름을 풀어내는 이 책은 1900년 국제 수학자 대회에서 힐베르트가 20세기에 반드시 해결해야 한다고 발표했던 수학 문제 - 사실 이 책을 통해서 처음 알게 되었다. 인터넷을 검색해보니 그가 낸 총 23개의 문제 중에서 6개의 문제는 아직도 미해결로 남아있다고 한다 - 를 발표하던 당시를 마치 다큐멘터리나 TV로 중계하듯 생생하게 그려냈고, 그 당시 국제 회의장에 모여 있던 위대한 수학자들과 훗날 거장으로 성장하던 파리의 젊은 예술가들을 만날 수 있는 색다른 즐거움을 우리에게 준다. 사실 ‘쾨니히스베르크의 다리 건너기’라는 어떤 다리도 한번이상 건너지 않고 모든 다리를 건너는 놀이에 대한 이야기 등은 어린 시절 탐구생활이나 수학 상식 책 등에서 익히 들어본 지라 알고 있었지만 책에서 소개되는 수학자들이나 각종 수학 공식들은 이 책을 통해서 처음 접해본 것이 대부분이었다. 특히 결국 스테파노스의 죽음을 불러온 힐베르트의 두 번째 문제인 “새로 제안된 공리계가 무모순이며 완전한 것을 입증할 방법이 있는가”라는 질문이 어떻게 창조적 수학의 종말을 가져오게 되는가에 대한 설명은 아예 이해하기를 포기할 정도로 난해한 그런 이야기였다. 다만 2,500년 전 무리수의 발견이 히파소스를 죽음으로 이끈 것처럼 절대 가치로 신봉해왔던 진실이 무너져 내릴 때 자신의 삶과 가치마저 송두리째 사라지고 말 것이라는 그 절박함이 결국 살인을 저지르게 할 수 도 있다는, 최근 유행하고 있는 팩션 소설들이 바로 과학이나 종교에 대한 그릇된 맹신을 소재로 하고 있는 것처럼 그릇된 신념과 가치가 결국 비극을 불러온다는 지극히 상식적인 결론의 재현으로 이해하면 될 것 같다. 책 속에 담겨 있는 풍성한 수학적 상식들과 수학 역사에 대한 이해가 부족해 아쉬웠지만 생생하게 재현해낸 20세기 초의 풍경과 수학이라는 색다른 소재를 만날 수 있었던 즐거운 책읽기였다.  

 다 읽고 나서 학문으로서 수학을 공부하기에는 너무 늦었을 테고 또한 가진 능력도 턱없이 부족하겠지만 상식(常識)으로서 수학을 공부해보는 것도 꽤나 재밌고 즐거운 일일 것이라는 생각이 든다. 무엇부터 시작해야 할 지 난감하겠지만 말이다. 이 책도 수학 공부에 대한 의욕을 상기시켜주는 그런 책으로 기억될 것 같다.