페르마의 마지막 정리

• 페르마의 마지막 정리
• 사이먼 싱
• 2014-07-01

'페르마의 마지막 정리' 제목이 심상치 않다. 표지의 색깔도 강렬하지만 제목만으로 호기심이 자극된다. "페르마의 마지막 정리가 무엇일까?" 생각하게 된다. 책의 제목이 지닐 수 있는 미덕이 독자를 끌어들이는 것이라면 이 책은 꽤나 성공적이다. 그냥 지나치지 못하고 책을 펼칠 수 밖에 없게 만든다. '마지막'이라는 단어가 주는 느낌은 언제나 강렬하다.

책을 펼치면 앤드류 와일즈 교수가 페르마의 마지막 정리를 뉴턴 아이작 연구소에서 증명하는 장면이 등장한다. 마치 드라마의 절정부가 시작과 동시에 나오는 것만 같다. 페르마의 마지막 정리 증명이 시작되면서 오랜 수학의 역사가 함께 펼쳐진다. 앤드류 와일즈가 증명의 순간에 이르기까지 수학은 어떻게 발전되어 왔으며 천재들이 어떻게 삶을 바쳐 노력했는지 하나 하나 보여준다. 앤드류 와일즈의 증명은 결국 지난 세월을 살았던 수 많은 천재 수학자들의 노력의 바탕 위에 만들어 지는 것임을 알게 된다. 페르마의 마지막 정리 증명이 완결되는 장면을 만나기 위해 독자는 갈증을 품은 채 매력적인 수학자들과 마주하게 된다.



수학에 관한 책이지만 매우 재미있다. 수학이론이 이야기의 중심이 아니기 때문이다. 하나의 이론을 만들어내고 증명해내는 수학자들의 열정과 삶에 관한 이야기이다. 앤드류 와일즈의 증명이 시작되는 장면을 읽기 시작했다면 쉽사리 책을 덮을 수 없다. 수학 이론과 그 증명과정을 이해하지 못하더라도 아무런 상관이 없다. 등장하는 수학이론은 그것을 증명해내는 한 사람의 노력이 얼마나 고단하고 아름다운 것인가를 설명하는 도구일 뿐이다.

X^n + Y^n = Z^n (n 승)
n이 3이상일 때 X, Y, Z를 만족하는 정수해는 존재하지 않는다. - 페르마의 마지막 정리

책의 제목인 페르마의 마지막 정리는 매우 간단하다. 결국 페르마의 마지막 정리를 증명하게 되는 앤드류 와일즈는 10살 때 처음으로 집근처 도서관에서 페르마의 마지막 정리를 접하고 일생의 목표를 세우게 된다. 페르마의 마지막 정리는 누구나 잘 아는 피타고라스의 정리에서 유래했다. 페르마는 정식으로 수학을 전공하지 않았다. 취미로 공부한 수학이 그의 뛰어난 천재성으로 빛나게 되었다. 페르마는 고대 수학책인 디오판토스의 '아리스메티카'를 보면서 공부를 했다. 그리고 그 책의 여백에 자신의 생각이나 증명을 그적여 놓았다. 그 가운데 페르마의 마지막 정리가 있다.

"경이로운 방법으로 증명하였으나 여백이 부족하여 여기에 적지 않는다. "

페르마의 한 줄의 노트가 350년간 많은 수학자들을 흥분시키고 좌절하게 만들었다. 페르마는 증명했다고 선언했으나 증명 방법을 남기지 않았다. '나는 알아냈으니 너도 한번 해보라.'고 말하는 페르마의 이야기를 알게된 뛰어난 수학자들은 가만히 있을 수 없었다. 엄청난 시간과 노력에도 불구하고 350년 동안이나 페르마의 마지막 정리는 증명되지 않고 있었다. 이제 앤드류 와일즈가 완벽한 증명을 시작한 것이었다.

"수학적 증명을 통해 내려진 결론은 이 세상의 어떤 결론보다도 신뢰도가 매우 높은데, 그것은 단계별로 진행되는 완벽한 논리의 산물이기 때문이다."

수학적 증명은 과학적 해결 방법과 다르다. 과학은 실험을 통해 알려진 사실을 바탕으로 결론을 유추한다. 따라서 과학적 결론은 시간이 지남에 따라 얼마든지 바뀔 수 있다. 그러나 수학은 논리적 결함이 전혀 없는 완벽한 진리를 추구한다. 증명은 어떤 사실이 어떠한 환경, 어떠한 시대에도 변함없는 '진리'임을 밝히는 과정이다. 수학자들의 증명은 이미 증명되어진 내용을 바탕으로 전개된다. 마치 견고한 벽돌로 쌓아 올린 성과 같다. 아래를 바치고 있는 어떤 벽돌이 흔드리면 그 위에 쌓인 성은 무너지고 만다. 그래서 '엄밀한 증명'의 과정을 요구한다. 하나의 증명이 발표되면 까다로운 검증 과정을 거쳐서 결함이 발견되지 않아야 비로소 증명은 완성된다.

앤드류 와일즈의 증명에 이르기 까지 소개되는 많은 수학자들의 이야기가 자칫 단조롭고 지루할 수 있는 책을 매우 흥미롭게 만들어 주었다. 레온하르트 오일러는 20대에 한쪽 눈의 시력을 잃고, 60대에 남은 한쪽 눈마저 보이지 않게 되었다. 실명에 대비하여 눈을 감고 글씨 쓰는 연습을 할 정도로 수학에 대한 열정을 불태웠던 오일러는 시력을 완전히 잃은 후에도 7년간 수학연구를 계속했으며 이 기간에 가장 많은 업적을 남겼다. 오로지 생각만으로 수학 문제를 해결했다. 앤드류 와일즈가 페르마의 마지막 정리를 증명하는 과정에는 '다니야마 시무라의 추론'이 하나의 기둥 역할을 하게 된다. 이 추론의 창시자인 다니야마 유타카는 시무라 고로와 함께 놀라운 이론을 만들어 냈지만, 미래에 대한 자신감을 상실했다는 유서를 남긴 채 결혼을 앞두고 자살로 생을 마감했다. 다니야마 유타카의 자살은 그의 약혼녀였던 스즈키 미사코가 다니야마의 뒤를 따름으로 더욱 비극적인 결말을 맺는다. 이 책에 소개되고 있는 다양한 수학자들의 이야기는 앤드류 와일즈의 증명이 결코 그 혼자만의 힘으로 이루어 진 것이 아님을 설명함과 동시에 흥미로운 수학의 역사를 독자에게 소개하는 역할을 하고 있다.

뉴턴 아이작 연구소에서의 발표 후, 앤드류 와일즈의 증명은 본격적으로 수학자들의 검증을 받게 된다. 엄밀한 증명에서는 한치의 논리점 허점도 허용될 수 없었다. 7년간 외부와 단절한 채 오롯이 페르마의 마지막 정리 증명에 혼신의 노력을 기울인 앤드류 와일즈에게 이러한 검증의 시간은 피를 말리는 시간이 될 수 밖에 없었다. 검증 과정 중에 한 가지 문제점이 지적되고 앤드류 와일즈는 그 문제를 해결하기 위해 거의 1년의 시간을 다시 보내게 된다. 자신의 오랜 노력이 물거품이 될 수 있다는 압박을 견디며 결국 마지막 퍼즐을 맞추고 만다. 그 1년의 시간을 묘사하는 부분을 읽으면서 어느새 독자도 함께 고통스러워 하고 마음을 졸이게 된다.

'페르마의 마지막 정리'를 읽으면 많은 수학자를 알게되고 그들이 무엇을 위해 평생을 바쳤는지 알게된다. 그리고 왜 그들이 한 줄의 수식을 위해 그토록 고통스러운 시간을 견디어 냈는지 이해하게 된다. 앤드류 와일즈는 의심의 여지 없이 놀라운 성과를 이뤄냈다. 하지만 그의 업적이 앞서 간 뛰어난 수학자들의 삶을 통해 가능했음을 이해할 때 이 책은 바로 읽힌다. 수학은 어렵고, 지루하다고 많은 사람들은 생각한다. '페르마의 마지막 정리'는 흥미롭고 감동적이기까지 하다. 나의 아이들이 좀 더 자라면 읽기를 권할 작정이다.