수학은 상상

수학은 상상 - 고등과학원 수학부 김상현 교수의
김상현 지음 / EBS BOOKS / 2021년 9월

수학을 공부하다보면 어떻게 수학자들이 이렇게 번뜩이는 창의적인 생각을 했을까 궁금한 적이 많았다. 대학원 학위 논문의 주제를 수학자의 사고 과정으로 할까 고민했을 정도로 나는 수학자들이 어떻게 이런 생각을 하게 되었는지 많이 궁금했다. 억지로 수학을 공부하는 학생들의 입장에서는 수학은 머리 지끈거리고 아무나 못할 것 같은 과목으로 여겨질 수 있지만 실제로 수학은 그렇게 딱딱하고 재미없는 과목이 아니다. 그 어떤 학문보다 역동적이고 살아숨쉬는 과목이라고 나는 확신한다. 이 책은 그런 역동적인 수학의 모습이 잘 나타나 있는 책이다.

수와 상상(대수, 확률과 통계) + 모양과 상상(기하) 크게 두 파트로 나뉘어져 있는 이 책은 수의 가장 기본 골격이라 할 수 있는 소수(Prime number)에서 부터 무한, 무리수, 명제, 괴델의 불완전성 정리로 살펴보는 수학 자체의 토대까지 살펴보면서 수많은 수학 이야기를 나뭇가지 뻗어나가듯 살펴나간다.

​

소수는 에라토스테네스의 체로 중학교 1학년 학생들에게도 익숙하다. 이 책에서는 그런 소수를 '자연수의 조립 부품'이라는 이름으로 소개하고 있는데 그 말은 모든 자연수는 소수의 곱으로 "유일하게" 표현된다는 의미다. 이 소인수분해의 유일성은 수학적으로도 증명이 가능하며 그런 의미에서 1이 왜 소수의 정의에서 제외되는지도 이해 가능하다. 1이 소수에 포함된다면 소인수분해가 유일하지 않을테니까 말이다. 이 소수라는 이름에서 뻗어나갈 수 있는 상상의 나래는 끝이 없다. 1보다 큰 임의의 자연수 N과 2N 사이에는 반드시 소수가 있다는 베르트랑의 추측은 체비쇼프의 부등식으로 유명한 체비쇼프가 이를 증명했다. 그리고 소수문제에서 빠질 수 없는 바젤 문제가 삼각함수의 성질로 증명되었으며 이를 확장한 제타함수는 소수의 분포와 밀접한 관련이 있다. 1과 x 사이의 소수 개수(p(x))와 1/lnx 아래의 넓이(q(x))가 근사적으로 같다는 가설을 논문에 담은 리만은 리만가설로 유명하며, 이 리만가설의 일부인 아다마르-발레푸생의 소수정리는 p(x)와 q(x)의 차이가 x보다 작다는 것까지 증명된 상태며 x의 제곱근까지 그 차이를 떨어뜨리는 것이 현재 수학자들의 목표다.

그 외에도 울람은 1부터 차례대로 소용돌이 나선으로 자연수를 표시했을 때 소수들만 색칠하면 대각선패턴을 보임을 발견했고 이 현상이 n제곱+1 형태의 소수가 무한히 많다는 란다우의 추측으로 귀결되며 그 외에도 쌍둥이 소수 추측, 부동 나눗셈 IV 버그, 수학자 이탕 장 등 수많은 수학 상상의 나래로 독자들을 초대한다.

​

힐베르트 무한 호텔이 소인수분해의 유일성과 어떤 관련이 있는지에 대해서 설명하면서 자연스럽게 무한의 세계로 초대된다. 무한 하면 빼놓을 수 없는 학자가 칸토어이며 칸토어의 대각 논법으로 실수의 개수와 유리수의 개수가 같지 않음을 증명하는 것은 집합론의 기초가 된다. 학부 시절에는 이 증명이 참 어려웠는데 이 책에서는 그 과정을 정말 글로 쉽게 표현하고 있다. 칸토어의 대각 논법은 러셀의 역설, 리처드 역설, 괴델의 불완전성 정리 등을 증명하는 데 쓰이며 힐베르트의 연속체 가설로 이야기가 확장된다.

​

파이에 관한 이야기에서 <네모 채우기 놀이>에 관한 내용은 상당히 신선하고 재미있었다. 다른 수학교양도서에서 많이 접해보지 못했던 내용이다. 황금비 그리고 이로부터 피보나치 나선도 소개된다. 또 다른 재미 있었던 내용은 <원 채우기 놀이>다. 수학의 미적 아름다움까지 함께 느낄 수 있는 부분이다. 그리고 "네 원의 반지름의 역수들의 합의 제곱은 그 역수의 제곱들의 합의 두 배"라는 데카르트의 정리와 이에서 파생된 민코프스키의 물음표함수는 결국 리만 가설로 다시 귀결된다.

​

그러나 이 아름다운 수학도 과연 모순은 없는지, 항상 참인지 사람들은 의구심을 가졌고 이 상상이 명제 이론을 이끌었다. 괴델의 제1 불완정성 정리인 "모순이 없고 강력하고 효율적인 수학 체계에는 반드시 증명도 반증도 불가능한 명제가 있다"는 것과 괴델의 제2 불완정성 정리인 " 모순이 없고 강력하고 효율적인 수학 체계에서 그 체계에 모순이 없다는 명제는 증명 불가능하다"는 것은 수학에서 중요한 것이 기계적 정확함이라기보다는 생각의 아름다움과 그 강력함임을 보여준다. 그럼에도 불구하고 좀 더 확실한 결과를 얻기 위해 조금이라도 더 나은 방향을 생각해보자는 인간의 본능이 확률과 통계의 발전을 이끌었다.

​

모양과 상상(2장)에서는 대칭과 벽지무늬, 마법의 정리에 대해 소개하고 있다. 이 장은 특별히 기하 파트인 만큼 아름다운 무늬가 많이 실려 있으며 인류 문명을 함께해 온 벽지무늬가 수학과 연결될 때 그 아름다움과 인간의 상상의 극치를 느낄 수 있다. 펜로즈 타일링, 푸앵카레 쌍대성 등 다소 어려운 용어들이 나와 있지만 깊게 들어가지는 않기 때문에 편안한 마음으로 수학을 즐기고자 한다면 어렵지 않게 소화할 수 있다.

​

기하학의 극치는 비유클리드 기하학이 아닐까. 우주의 미스터리와도 연결되는 궁극의 기하학. 예전에도 기하학 학점이 제일 낮았고 결국 재수강을 하면서도 기하학을 정복하지는 못했지만 이 책을 공부하면서 다시 공부해보고 싶은 마음이 들었다. 3차원 구, 3차원 토러스, 그리고 우주의 차원. 이 모든 것들은 결국 인간의 상상과 지성이 아니면 알기 힘든 부분이다. 이 책은 우리의 상상을 마구 자극한다. 궁금해서 찾아보니 ebs클래스e 사이트에 김상현 교수의 강의가 나와 있다. 이 책과 강의를 함께 듣는다면 수학의 바다에 더욱 풍덩 빠질 수 있을 것이다.