철학 수학

철학 수학
야무챠 지음, 김은진 옮김 / Gbrain(지브레인) / 2010년 11월

  '페르마의 마지막 정리'라는 수학의 난제가 있었다. 아마 이 문제처럼 수 많은 수학자들의 일생을 망친 난제도 없었을 것이다. 결국 1993년 영국의 수학자 앤드류 와일즈에 의해 증명되기까지 걸린 시간이 무려 350년이 걸렸다. 그런데 이 난제의 장본인인 페르마는 수학자가 아니다. 1600년경 프랑스에서 태어나 법률가로 살아가는 평범한 공무원이었다. 수학은 다만 취미로 소일거리 정도로 공부했다면 믿을 수가 있을까? 근데 사실이다. 그런데도 불구하고 그가 현대 수학에 미친 공로는 엄청나다. 

  먼저 확률론을 창설하는데 일조했다는 사실이다. 확률론이 도박에서 유래했다는 것을 아는 사람은 많지 않으리라. 도박하던 도중 중단하고 상금을 나눠야 할 경우가 생긴데서 시작한 것이 확률론이다. 이를 체계화한 것은 파스칼이다. 하지만 위 상금 문제를 파스칼과 페르마가 서로 서신으로 의견 교환하는 과정에서 확률론의 체계가 만들어졌다고 한다. 그리고 미분법의 발견이다. 오늘날 고등학교 교과과정에서 배우는 극대, 극소의 개념은 페르마가 먼저 사용하였으며, 뒤에 뉴턴이 자신의 논문을 통해 페르마에게서 착상을 얻어 미분법을 완성했다고 밝혔지만, 이러한 사실은 잘 알려지지 않고 있다. 

  『철학 수학』은  『철학적이거나 혹은 수학적이거나 』라는 원제로 출간된 책으로 이 보다 앞서 출간한『철학적이거나 혹은 과학적이거나』라는 책이 호평을 받아서 다시 집필한 책이란다. 이 책은 수많은 수학 천재들에게 절망의 늪 속에 빠뜨리고, 쓸모없는 일에 많은 사람들의 정력을 낭비하게 한 '페르마의 마지막 정리'라는 악마에 홀린 수학자들의 이야기를 재미있게 정리한 책이다. '페르마의 마지막 정리'가 뭔지 모르는 사람들을 위해 이 글 말미에 참고할 수 있는 웹사이트를 소개한다. 

 수학 때문에 실명까지 하게 된 1700년대 최대의 수학천재 오일러, 불운의 여성 수학자이자 물리학자인 소피 제르맹, 소인수분해를 통해 증명하려고 했던 라메와 코시, 그리고 이의 결함을 지적한 쿠머까지가 이 책에서는 1장에서 소개된다. 그리고 이로부터 50년이 지난 뒤 탄생된 볼프스켈상이 2장의 주인공이다. 이후 일본의 두 수학천재에 의해 '타니야마-시무라 예상'이 등장하고 프라이의 타원방정식을 통해 '타니야마-시무라 예상'을 증명하는 것이 '페르마의 마지막 정리'를 증명하는 것과 같다는 사실을 알게 되는 과정까지가 4장이다. 그리고 결국 앤드루 와일즈에 의해 증명에 성공하는 것을 마지막 장에서 다룬다. 그리고 페르마와 동시대에 살았던 천재수학자 가우스와 보여이 부자, 힐베르트 프로그램, 괴델의 불완전성정리를 3장에서 다룬다. 

  이 책의 또 다른 매력이 있다. 방정식의 해의 공식에 관한 역사다. 매 장 뒤에 나누어 배치한 내용인데 2차 방정식의 설명을 시작으로, 3차 방정식의 공식에 관련된 수학자들의 이야기가 등장한다. 3차 방정식의 해를 구하는 공식을 발견한 타르탈리아와 그에게 그 공식을 받아서 먼저 발표해 버리는 카르다노의 이야기, 그리고 4차 방정식의 해를 발견한 카르다노의 제자 페라리. 책에는 불운한 두 수학자의 이야기도 나온다. 5차 이상의 고차 방정식에는 해를 구하는 일반 공식이 없음을 증명한 아벨과, 해가 있는지 없는지 판별하는 법과 해를 갖는 것에 대해 해를 구하는 방법을 정식화한 갈루아의 이야기다. 물론 이 둘은 살아 있을 때 자신들의 업적을 인정받지 못하고 사후에 인정받았기 때문에 불운한 수학자로 불린다. 

  20세기 이후 급격하게 발전하는 수학은 너무도 많은 분야로 나누어지고 전문화되어 각자의 영역이 따로 제각각이었다. 그래서 이를 통합하려는 시도가 있었다. 1960년대 경의 일인데 수학자 랑그랑즈가 제안한 '랑그랑즈 프로그램'이 바로 그것이다. '수학이라는 세계는 반드시 통일적으로 표현할 수 있는 아름다운 구조를 갖고 있다는 점'을 호소해 '타니야마-시무라 예상'을 증명할 것을 권했다. 이에 따라 이 추론이 참이라는 가정 하에 수백 편의 논문이 쏟아지게 된다. 물론 와일즈가 증명한 것은 '타니야마-시무라의 예상'중 프라이의 타원방정식에 국한되지만 이것만으로도 수학의 큰 발전을 이루고도 남았다고 한다. 

  저자는 이 책을 읽는 독자에게 어렵게만 느껴졌던 수학이 지금까지 얼마나 많은 수학자들의 정열과 인생을 요구했는지에 대해 알아달라고 요구한다. 특히 학생들이라면 이 책을 통해 기존 가지고 있던 수학에 대한 이미지를 버려줄 것을 요구한다. 그래서 책을 읽는 내내 학생층을 배려한 저자의 집필의도가 돋보인다.(‘타니야마-시무라의 예상’은 솔직히 나도 잘 모르겠다) 

  최근 수학 관련 서적을 연달아 읽게 되는 것도 무슨 인연이 아닐까 생각된다. <필즈상 이야기>, <이것이다>, <범죄 수학>, 그리고 일전에 읽었던 <푸엥카레가 묻고, 페델만이 답하다>까지 말이다. 이중에 소설 <이것이다>에 나오는 우리나라 재야 천재수학자 김광국의 이야기가 갑자기 생각난다. 고차원 세상으로 사라졌지만 현 3차원의 세상에 사는 그를 아는 사람들과 교신하는 것. 어쩌면 이것이 랑그랑즈 프로그램이 아닐까? 

  그러고 보니 정작 중요한 충고가 빠졌다. 악마의 달콤한 유혹에 빠지지 말라는 충고다. 수학의 난제는 그냥 보면 누구나 할 수 있는 것처럼 보인단다. 그래서 천재 수학자조차도 그 유혹에 빠지는 경우가 허다하다는 것이다. ‘페르마의 마지막 정리’를 증명한 천재수학자 와일즈도 무려 7년이 걸렸고, 오류를 수정하는데 1년 이상 더 걸린 것을 보면 우리와 같은 일반인은 얼마나 걸릴까? 대신 악마의 달콤한 유혹에 빠진 수학자들을 외면하지는 말아야 한다는 것. 이들이 있기에 발전이 있는 것이라고 말이다.

<페르마의 마지막 정리 관련 사이트>

 - http://www.math.snu.ac.kr/~mhkim/a-fermat3.html

 - http://www.mathlove.org/pds/materials/episodes/fermat.htm