현대수학의 발전사를 둘러 보며

소수의 음악 - 수학 최고의 신비를 찾아
마르쿠스 듀 소토이 지음, 고중숙 옮김 / 승산 / 2007년 3월

     소수란 “1과 자기 자신만으로 나누어지는 1보다 큰 양의 정수”라고 정의되어 있다. 이런 소수에 대한 신비는 여러 수학자들에 의해 발견되고 신비가 밝혀지고 있다. 그 대표적인 수학자로 오일러, 가우스, 리만 등의 이름은 익히 들어 왔었다. 이런 이야기는 들어 왔었고, 리만 가설—리만 제타 함수 ζ(s)의 자명하지 않은 근 s의 실수부가 모두 1/2이라는 가설—이라는 난해한 수학문제가 탄생하였고, 이 문제는 아직까지 해결되지 않은 난제이다. 리만이 1859년에 처음으로 형식화 했다고 하니 150년 이상 풀리지 않는 문제라고 한다.

     리만 가설이 해결되고 증명이 된다면 또 다른 문제가 있다고 한다. 즉, 현대 인터넷의 암호화 체계를 소수의 난독성에 두고 있는데 리만 가설이 증명되면 암호화 체계가 쉽게 풀려 또 다른 재앙을 만들 수 있다는 것이다. 이런 내용은 책의 후반에 나오는데 역시 난해하다. 소수는 (정)수론이라는 학문의 내용 중에 하나인데 여기에서 파생되는 수학이론은 다양하게 발전되어 왔고, 현대 수학이론의 근간을 이루고 있다. 이는 마치 현대물리학을 설명하는 수학이론의 바탕을 이룬다고 하겠다.

     소수에 다한 생각과 이론은 현대 수학의 얘기가 아닌 기원전의 이야기로 거슬러 올라가지만 18세기 들어 수학사의 손꼽히는 수학자들을 통해 그 정체를 보이고 있지만 아직까지 베일에 쌓여 있다. 어찌 보면 우주의 신비를 보는 듯한 느낌이 든다. 무한의 우주 너머에 무엇이 있을까와 같은 수수께끼의 문제와도 같은 느낌이다. 소수가 발견되는 내용을 봐도 머리 속으로 계산할 수 없는 그런 수들을 컴퓨터—그냥 컴퓨터가 아닌 슈퍼컴퓨터—를 이용하여 계산하여 발견할 수 있는 수들이다.

     이렇게 발견된 소수가 과연 어떤 형태, 어떤 규칙에 의해 분포되어 있을까 하는 의문을 천재 수학자 가우스에 의해 발전되었고, 소수정리 등을 통해 증명되고 있지만 리만가설은 아직 해결되지 않고 있다. 이런 각종 수학적 증명의 내용은 난해한 수학 공식을 통해 정리되고 증명되었다는 내용만 책을 통해 알려주고 있다. 책에서 일부 최종적인 수식만을 보여지는 것만 봐도 무슨 의미가 있는지 전문적인 공부를 하지 않는 이상 알 수 없는 내용이다.

     책에 나오는 수학자만 세어 봐도 근 현대의 모든 수학자가 거론되는 듯하다. 각종 정리와 증명으로 이어지는 과정들을 따라 가기만 해도 전문적인 수학 공부를 해야지 이해 할 수 있으리라 생각된다. 이런 이야기에 등장하는 수학자들이 대부분 40세 이전에 이민 내용을 섭렵하고 새로운 발견과 이론을 정리 했다고 하니 대단할 뿐이다.

     소수은 마치 물리학의 이야기와 같은 내용이 아닐까 하는 생각을 해본다. 현대핵물리학의 책을 보면 18세기만 해도 더 이상 쪼개지지 않는 물질을 핵이라고 있는데 이 구성물질에 대한 연구가 거듭될수록 현실에 보여지는 내용이 아닌 이성적이고 논리적인 상상을 통해 계산되어진 결과를 다루고 있다. 이는 소수가 점점 그 크기를 더해감에 따라 발견되는 소수의 희소성과 그에 엮어져 있는 소수의 특성—이를 저자는 음악이라고 표현하였다—을 파악하는 내용과 같다고 생각된다.

     인간이 생각할 수 없는 미지의 세계에 펼쳐지는 소수의 이야기는 아직까지는 미재로 남아 있고, 그 신비를 밝히는 날 우리가 상상 못하는 다른 세계의 모습이 아닐까 생각해 본다. 그리고 이런 과정에서 등장하는 수학자들의 이야기와 그들이 다루었던 수학과제와 증명에 대한 내용은 공부해서 알고자 싶다는 생각이 든다.