푸앵카레가 묻고 페렐만이 답하다

푸앵카레가 묻고 페렐만이 답하다 - 푸앵카레상을 향한 100년의 도전과 기이한 천재 수학자 이야기
조지 G. 슈피로 지음, 전대호 옮김, 김인강 감수 / 도솔 / 2009년 11월

이 책은 1904년 푸앵카레가 발표한 논문에서 천재다운 직감으로 이해했던 추측을 질문으로 바꾼 그 유명한 ‘푸앵카레의 추측’을 향한 100년 간의 수학자의 노력을 담고 있다. 하지만 예전에 읽었던 사이먼 싱의 『페르마의 마지막 정리』보다는 훨씬 더 재미있는 것이 ‘푸앵카레의 추측’이 나오기까지의 푸앵카레의 업적과 그것을 향한 다양한 수학자들의 노력과 삶을 다채롭게 정리해주었기 때문이다. 그것은 아마도 저자가 수학자가 아닌 저널리스트였기에 강조할 것은 강조하고 군더더기는 빼버린 글솜씨가 깔끔해서 어려운 수학적인 증명이 많이 나오는데도 재미있게 읽을 수 있었던 게 아닌가 싶다. 정말로 많은 수학자들이 그 추측을 증명해내는데 도움을 주었고 생각을 보탰다. 결국 그 공로는 은둔하며 8년 동안 그 추측에만 매진한 페렐만에게 돌아갔지만 그의 증명이 있기까지 굵직하게 도움을 준 해밀턴의 프로그램이 없었다면 불가능한 일이었을 것이다. 이렇게 여러 사람의 도움을 받고 페렐만이 결국 ‘푸앵카레의 추측’을 증명하는 것을 보니 인간 역사는 여러 사람의 지식을 쌓아가는 과정으로 발전하는 것이 아닌가 하는 생각이 든다. 그런데 역시 수학자들 중에는 기이한 사람들이 정말 많은 게 서두 부분에 ‘푸앵카레의 추측’을 증명한 페렐만의 기행이 나타나있기 때문이다. 수학 분야에서의 노벨상이라고 불리는 필즈상을 ‘푸앵카레의 추측’을 증명한 공로를 인정받아 수상하게 되었지만 페렐만은 시상식에도 나오지 않았고 보내주겠다고 한 상패도 고사했다고 하고 그를 설득하러 러시아까지 날라 온 수학자들에게도 간곡히 자신의 입장을 설명했다고 하니까 말이다. 수학계에서 일어난 어떤 사건 때문에 외부와의 단절을 고수하는 페렐만은 자신이 수학계에서 격리되었다고 느끼기에 수학계의 지도자 중 한 사람으로 보이기 싫다고 말했단다. 무슨 일이 있었는지는 잘 모르지만, 정말 그렇게 명예와 돈을 거부하는 저명한 지성인을 만나는 게 그렇게 싫지는 않다. 아마도 그런 기이한 행적을 보이는 수학자가 있다는 것이 수학에 대한 매력을 더 높여주는 것이 아닌가 싶다.

 

그럼, 이제 가장 중요한 ‘푸앵카레의 추측’이 무엇인지 말해보자. 일단 그런 추측을 제시한 푸앵카레라는 인물은 수학계에 흔히 나타나는 천재였다. 뭐, 신동이라고 불릴 수도 있었을 텐데 어려서부터 수학을 좋아했던 것은 아니였다. 오히려 그가 두각을 나타냈던 분야는 문학적, 철학적인 분야였고 그가 좋아했던 분야는 역사와 지리였으니, 그렇게 생각할 법하다. 그러나 그는 전과목에 수석 자리를 놓치지 않을 정도의 지능과 탁월한 집중력으로 수다를 떨면서 몇 자 적는 식으로 숙제를 하곤 했고 그 버릇을 상급생이 되도록 고치지 못했다. 그가 수학에 관심을 가졌던 것은 14살 때로 그의 수학적 재능은 선생님 사이에서 회자되곤 했는데 그의 명성에 누를 끼칠 일이 일어났다. 문학 바칼로레아(프랑스의 고등학교 졸업시험)에서 라틴어와 프랑스어 에세이는 탁월했고 다른 과목도 뛰어났으나 그 뒤에 치러진 수학 바칼로레아에서 늦게 도착하는 바람에 엉뚱한 답을 적어내어 낙제점을 받았던 것이다. 그러나 그의 평소 실력을 알고 있던 선생님의 배려로 구슬시험을 다시 볼 수 있게 해 당당하게 합격할 수 있었다. 보통 특별한 수학적 재능을 가진 프랑스 남성들은 고등학교 졸업 후 그랑제콜 입학을 위한 혹독한 2년 수업을 받는데 그 첫 해가 끝날 무렵 푸앵카레는 1등을 한다. 그리고 2년 수업이 끝나고 나서도 전체 수석을 차지했고 이젠 그랑제콜이 속한 대학교 중에서 가장 뛰어난 곳이 파리공과대학을 가기 위한 시험이 남아있었다. 원래 구술 입학 시험을 치르는 장소는 휑하니 비어있는 것이 정석이지만, 그 때 이미 그의 명성이 자자했기에 그의 시험장에는 구경하려는 사람들도 부적였다고. 질문을 받으면 푸앵카레는 눈을 감거나 깊은 생각에 잠겨 천천히 대답했는데 그의 답변을 들은 시험관들은 경악했단다. 그를 위한 기학학 문제를 낼 때 교묘하게 다시 만들기 위해 45분이나 시험을 중단했을 정도라니 정말 대단한 천재가 아닌가 싶다. 학교에 다닐 때도 거의 필기를 하지 않아도 머릿속에 다 입력이 되는 특별한 그의 집중력은 너무 부러울 정도고, 그의 빠른 두뇌 회전을 따라가지 못해서 그의 표현력이 엄정성이 떨어진다니, 나도 그런 경험을 해보고 싶다.

 

파리공과대학을 졸업하고 광산대학에 들어가 최고 성적(18에서 20등급은 이 세상 사람이 결코 받을 수 없으며 16에서 18등급은 교수 정도나 되어야 받을 수 있는 등급이며 14이상의 등급은 탁월한 수준에서, 그는 17.17등급을 받음)으로 졸업한 그는 훌륭하고 인정 넘치는 기술자가 되었다. 광산에서 폭발 사건이 일어나면 2차 폭발을 각오하고 들어가 폭발 원인을 조사해 보고서를 작성해야 하는데 그는 그런 일을 아주 훌륭히 수행해냈다. 하지만 그의 운명은 수학에 연결되어 있었다. 광산대학을 다니던 중에도 혼자서 고급수학문제에 매달렸고 파리공과대학 1학년 때도 이미 편미분방정식(여러 개의 독립 변수로 구성된 함수와 그 함수의 편미분으로 연관된 방정식)에 대한 논문을 완성한 상태였던 것!! 하지만 탁월한 수학적 재능에도 불구하고 항상 문제가 되었던 표현력이 걸리기는 했다. 후에도 그런 표현력 때문에, 혹은 엄정성이 떨어지는 것 때문에 문제를 일으키기도 하지만 그는 번뜩이는 직관에 의존하여 문제를 풀어가는 편이다. 그러니까 어떤 문제를 마주쳤을 때 왜 인지는 모르지만 그것이 맞는지, 틀렸는지 감이 온다. 그래서 약간의 단계를 건너뛰고 증명을 하는 바람에 오스카상을 받고도 논문 출간에 앞서 국제적인 망신을 당할 뻔했던 것!! 그의 아이디어가 엄청나게 독창적이기 때문에 그의 논문을 심사하는 수학자들도 그의 오류를 눈치채지 못했던 것도 문제였고, 그가 논문을 썼을 때 너무 직관에만 의존했던 것도 문제였다. 하지만 논문을 출판하기 위해 원고를 정리하는 임무가 주어진 에드바르 프라그멘 덕분에 미리 오류를 알 수 있었고, 푸앵카레는 다시 논문을 써야 했다. 새 논문은 어마어마하게 독창적이여야 했는데, 성공할지 확실하지 않은 상태에서 그는 해냈다. 1세기 후에는 엄청 유명해질 카오스 이론의 기초를 놓았던 데다가 그 유명한 ‘재귀정리’도 들어가 있었던 것!!! 전화위복이란 말을 여기에 써야 할까. 사소한 오류하고 생각했던 것이 어마어마하게 불거져 나오는 것을 완전 역전 홈런을 쳐서 날려버렸으니까 말이다.

 

그랬던 그는 논문을 쓸 때 이제 앞서 한 실수를 교훈삼아 좀 더 여유롭게 질문을 한다. 갑작스럽게 떠오른 중요한 화두 하나, 구면은 자명한 기본군을 가졌으므로 기본군이 보편적인 분류 체계로서는 불충분할지라도, 최소한 자명한 기본군을 가진 모든 물체는 위상수학적으로 구면과 동치가 아닐까 하는 질문!! 하지만 이것을 증명도 안한 상태에서 갑작스럽게 정리로 제시하지는 않았다. 페르마의 독단적인 성격과는 극명한 대조를 이루는 모습이다. 크~ 그의 독단적이고 약올리는 듯한 어투가 얼마나 많은 수학자들을 괴롭게 했던가. 난 천재들은 다 오만하고 독단적인 줄만 알았더니 푸앵카레는 그의 생각의 속도를 글의 속도가 따라가지 못했던 뿐이지, 사람 자세는 거들먹거리지도 나대지도 않고 수학적인 지식이 낮은 사람에게도 친절하게 대하는 사람이었다는 것을 처음 알았다. 마음 속이 편해졌다. 자신이 천재라 범인을 이해하지 못해 오만한 행동을 하는 사람을 이해는 할 수 있지만, 어딘가 모르게 불편한 마음이 들었던 것은 어쩔 수 없었었는데 말이다. 어쨌거나 푸앵카레는 4년 전의 실수를 거울 삼아 다섯 번째 보충 논문에서 조심스럽게 질문을 한다. 「다루어야 할 질문이 하나 남았다. 어떤 다양체의 기본군이 자명함에도 불구하고 그 다양체가 구면과 위상동형이 아닐 수 있을까?」 이것이 그 유명하다는 ‘푸앵카레의 추측’이다. 사실 유명하다는 ‘페르마의 마지막 정리’는 들어봤지만, ‘푸앵카레의 추측’은 사실상 처음 들어본다. 하긴 300년이 넘도록 수학자들의 애만 태운 정리와 어디 비교할 수 있겠냐마는, ‘푸앵카레의 추측’은 사실 내가 이해하기란 거의 불가능한 수학의 분야였던 것도 한 몫을 했을 것이다. 위상수학이라니, 4차원의 세계에서 사는 것도 힘든 나에게 더 이상 고차원적인 생각은 거의 허용이 되지 않는다. 그런 차원을 넘나드는 문제가 우리가 살고 있는 우주의 모습을 밝히는데 큰 도움이 된다지만 차라리 나는 지구 위에서 사는 것만으로도 충분히 버거운 사람이니 역시 내 길은 아닌 게 확실하다.

 

어쨌거나 그의 그 추측은 다양체에 난방을 한다면 열의 흐름이 이동하는 경로를 연상시키는 해밀턴의 ‘리치 흐름’을 도입해 풀어냈다. 페렐만이 해밀턴의 ‘리치 흐름’을 접하고 나서 ‘푸앵카레의 추측’에 매달렸던 것은 해밀턴의 도구를 이용해 푸앵카레의 것을 풀 수 있다는 착안을 했기 때문이다. 아마 이것도 수학자의 예리한 직감이 아니였을까. 정말 신기했던 것은 페렐만은 다 풀어놓고서 논문을 출판할 생각보다는 누구나 볼 수 있게 아카이브에 올렸던 것이다. 아카이브는 학술지에 아직 출판되지 않았거나 제출되지도 않은 논문들의 저장소이다. 그것도 ‘푸앵카레의 추측’이란 제목을 달지도 않고서 말이다. 그는 ‘푸앵카레의 추측’을 해결하고서 영예를 안을 생각이 없었고, 그저 자신의 생각을 남들과 공유하고 싶었을 뿐이었다. 논문은 총 세 개였는데, 처음 논문에서 발견된 오류를 두 번째 논문에서 수정하는 방식을 쓰긴 했지만 전반적으로 ‘푸앵카레의 추측’이 해결되지 않을 만한 오류가 있지는 않았다. 그의 논문들이 인터넷 상에 공개되고 나서 몇몇 수학자들이 주목했다. 그래서 그에게 강의를 부탁했고 그것을 흔쾌히 수락한 페렐만은 미국에 가서 겸손한 태도로 강연을 하고 질문을 받고 열심히 자신의 아이디어를 퍼트려나갔다. 그가 평정심을 잃었던 것은 딱 한 번, 수준 이하의 질문을 받았을 때(그것을 받아들었으면 강연해야 하는 일주일 내내 그것만 설명해야 하기 때문에)말고는 시종일관 겸손했고 유쾌했다. 하지만 기자에게는 화를 냈고 사진을 찍히는 것도 용납하지 않았던 것은 정말 신기한 일이다. 그 후 많은 미국 학교에서 그를 잡았지만 그를 미국에 붙들어두진 못했다. 그의 은둔처인 러시아로 돌아가서 그의 아이디어를 더 알고자 하는 사람들이 질문한 메일에 자세하고도 친절하게 답장만 해주었다.

 

논문으로 출판할 생각도, 그의 논문을 좀 더 쉽게 정리할 생각도 안 하는 그를 위해, 아니 수학의 발전을 위해 다른 세 팀이 등장한다. 존 모건과 치안강은 전문가용이 아니라 대학생들이 알게 쉽도록 그의 아이디어를 연구해서 책으로 냈고, 브루스 클라이너와 존 로트은 그들 나름의 해설서를 썼는데, 차오화이둥과 주시핑은 페렐만의 논문을 연구했으면서 페렐만과는 다른 방법으로 ‘푸앵카레의 추측’을 풀어냈다는 오만함을 드러내는 만행을 저질렀다. 나중에 클라이너와 로트의 주석서 앞 장과 똑같은 문구가 발견되지 않았다면 끝까지 우겨댔을지도 모른다는 생각이 들었지만, 어쨌거나 ‘푸앵카레의 추측’을 해결한 공이 페렐만에게 정당하게 돌아가서 다행이었다. 이 부분을 읽으면서 정말 뻔뻔한 중국인이라는 생각을 안했다고 한다면 거짓말일 것이다. 남의 나라 역사를 가져다가 제 역사라고 우기는 그들이니 수학적인 정리 하나 가로채는 사소한 일쯤이야 쉬웠을 것이란 생각도 해보지만, 어디까지나 이 책 자체가 서구인들의 눈에 비춰진 시각으로 보는 것이라 그것도 편견에 휩싸인 것은 아닌가 하는 우려를 감출 수 없다. 푸앵카레가 살았던 당시만 해도 수학자들은 모두 독일어를 배웠어야 한다니, 오스트리아 빈에서 태어난 저자에게 얼마 만큼의 우월감이 있을 게 알게 뭐냐. 물론 페렐만은 러시아인이었기에 그다지 설득력이 있어 보이지는 않지만 말이다. 그 문제는 덮어두고 페렐만은 ‘푸앵카레의 추측’을 해결함에 따라서 필즈상을 받았고(물론 그는 거부했으나) 앞으로 밀레니엄상으로 100만 달러를 손에 넣을 수도 있게 된다(물론 이 상도 거부할 거라 의심치는 않지만). 하지만 수학에 매진하는 것이 어디 상 때문이겠나. 자신이 좋아하는 분야에서 신나게 맘껏 노는 것이 흥미로울 뿐이지. 물론 자신의 분야에서 인정받는다는 의미로 상을 주시는 거야 고맙고 감사한 일이겠지만 상이나 명예에 눈이 멀어 다른 사람의 아이디어를 가로채고도 제대로 된 인정 하나 하지 않는 지식인들을 보면 좀 씁쓸할 뿐이다. DNA 이중 나선 구조의 발견으로 1962년 노벨생리·의학상을 공동으로 받은 제임스 왓슨, 모리스 윌킨스, 프랜시스 크릭도 사실은 X선으로 찍어가며 연구를 했던 로잘린드 프랭클린에게 빚을 진 것인데 말이다. 하여튼 여러 사건에도 불구하고 흥미진진한 이야기를 지루하지 않게 이끌어주신 저자에게 감사하다.