백년의 난제에 도전한 수학자들

푸앵카레가 묻고 페렐만이 답하다 - 푸앵카레상을 향한 100년의 도전과 기이한 천재 수학자 이야기
조지 G. 슈피로 지음, 전대호 옮김, 김인강 감수 / 도솔 / 2009년 11월

# 장소, 미국 보스턴의 MIT 공대. - 청소를 하던 청년이 복도 칠판에 적힌 문제를 유심히 들여다보더니 분필을 들고 풀기 시작한다.

# 다음날 - 담당교수, 자신이 학생들에게 한 학기 동안 풀어보라고 제출한 문제를 해결한 학생이 누구인지 수소문하지만 아무도 대답하지 않는다. 이에 교수는 또 다른 문제를 칠판에 적어놓는다. 그 후 칠판 앞으로 다가온 청년, 역시나 쉽게 문제를 풀어내는데, 그 광경을 지켜본 교수, 다급하게 청년을 부르지만 그는 달아나고 마는데...

영화 <굿 윌 헌팅>의 한 장면이다. 노벨상을 수상한 교수들도 어려워서 쩔쩔매는 문제를 쉽게 풀어내는 윌 헌팅. 그는 명석한 두뇌의 소유자로 수학에 탁월한 재능을 가졌지만 불우한 가정환경과 마음의 상처를 안고 노동자로 하루하루 살아간다. 그러다 램보 교수를 만나 수학문제를 풀고 심리학 교수인 숀 맥과이어 교수를 만나 마을을 열게 된다.

<푸앵카레가 묻고 페렐만이 답하다>란 책을 읽으면서 불현듯 이 영화가 생각났다. 영화 속 램보 교수가 바로 수학분야의 노벨상이라는 필즈상을 수상자로 나왔다는 것과 그의 눈을 번쩍 뜨이게 한 괴팍한 천재 윌 헌팅은 한사코 자신을 감추려했다는 점. 그것이 백년의 난제, 푸앵카레의 추측을 풀어낸 공로를 인정하여 필즈상을 수상하게 됐지만 이를 거부하고 몸을 숨긴 페렐만을 떠올리게 했다. ‘푸앵카레 추측’이란 무엇이며 페렐만은 그 난제를 어떻게 해결할 수 있었을까. 조지 G. 슈피로는 이 점에 대해 풀어내고 있다.

페렐만의 필즈상 수상거부로 시작한 책은 앙리 푸앵카레에 대해 얘기한다. 푸앵카레는 어릴 때 몸이 약했고 말투도 다소 어눌했지만 뛰어난 아이였다고 한다. 수업시간엔 메모는 물론 기록도 제대로 하지 않았지만 집중력과 기억력이 뛰어나서 어떤 어려운 문제도 척척 풀어낼 정도였다고 한다. 푸앵카레는 그 후 광산대학에 다니면서 본격적으로 수학문제에 몰두하게 되는데 오스카상을 받아 과학계의 총아로 떠오른 자신의 논문에 오류가 있다는 걸 발견하게 된다. 논문을 다시 쓰기 시작한 그는 결국 작은 원인이 엄청나게 큰 결과를 불러온다는 나비효과의 토대가 되는 카오스 이론의 기초를 발표한다. 그리고 이전의 실수를 발판삼아 더욱 깊은 의문을 품게 된다. “어떤 다양체의 기본군이 자명함에도 불구하고 그 다양체가 구면과 위상동형이 아닐 수 있을까?”(141쪽)  이것이 바로 그 유명한 ‘푸앵카레의 추측’이다.

‘푸엥카레 추측’. 암만해도 역시 어렵다. 초반에 언급된 대로 쉽게 설명하자면 둥근 공 위를 기어가는 개미가 있다고 하자. 그에게 공의 표면은 완전히 평평하게 느껴진다. 해서 그 표면이 둥근지, 평평한지 알려면 개미는 거기서 좀 떨어져서 바라봐야 하는데 이것이 파리에겐 가능할지 몰라도 개미에겐 불가능하다는 것이다. 그래서 물체에서 떨어지지 않고도 3차원 물체의 표면이 둥글다는 걸 증명할 수 있을까 하는 것이다. 지구 밖을 벗어나지 않고 지구가 둥글다는 것을 증명할 수 있느냐는 가설이므로 그 범위를 좀 더 넓게 확장하면 우주 밖으로 나가지 않고도 우주가 둥근지 아닌지 알 수 있다는 것이다.

수학분야뿐 아니라 물리학과 천문학에도 큰 업적을 남긴 앙리 푸앵카레. 그가 1904년 발표한 논문에서 자신의 직감을 정리가 아닌 질문으로 제시한 것에 답을 찾아내고 증명하기 위해 이후 100년간 전 세계의 동료 수학자들이 매달리게 된다. 화이트헤드를 시작으로 크리스토스 파파키리아코풀로스, 엘비라 슈트라서라파포트, 제임스 매쿨...등 수많은 수학자들이 모두 푸앵카레병에 걸리는 것도 마다않고 세계 7대 수학난제 가운데 하나인 푸앵카레의 추측에 도전했지만 어느 누구도 완전하게 해결하지 못했다. 2006년 그레고리 페렐만에 의해 푸앵카레의 추측이 정리되기 전까지. 그러나 100만 달러의 상금이 걸린 난제를 해결한 그는 필즈상 수상까지 거절한 채 세상과 단절한 채 은둔해버렸다.

때론 책장 한 장에도 무게가 느껴질만큼 어려운 독서가 필요하다고 생각했다. 학창시절 수학을 어느 정도 했다고 자부했다. 그런데 나의 교만이요, 자만이었다는 걸 깨달았다. 위상수학이니 위상기하학, 3차원, 4차원, 클라인 병, 베티 수...처럼 도무지 이해할 수 없는 말들이 툭툭 튀어나와 앞을 가로막을 때마다 생각했다. 판단착오였어. 수학이 이토록 어려운 학문일 줄이야. 수학을 전공하지 않은 게 천만다행이지...백년의 난제 푸앵카레의 추측을 풀기 위해 수많은 수학자들이 고심한 것처럼 나의 책읽기 역시 고난의 연속이었다.

페렐만에게도 그랬을까. 100년이란 세월의 묵직함. 문제 하나를 풀기 위해 자신의 인생을 송두리째 바친 수학자들의 삶, 생애를 그는 가벼이 여길 수 없었던 건 아니었을까. 40대 중반의 페렐만. 학자로서 아직 한창의 나이인 그가 은둔의 날을 접고 다시 수학자로 나타나길. 그에 의해 밝혀질 심오한 학문의 세계, 손꼽아 기다려본다.