수학은 상상 - 김상현

수학은 상상 - 고등과학원 수학부 김상현 교수의
김상현 지음 / EBS BOOKS / 2021년 9월

"수학은 인간 영혼의 가장 아름답고 강력한 창조물이다." 

숫자로 이야기하는 세상, 수학

우리가 아주 쉽게 접하는 수많은 숫자들은 어떻게 분류되고 어떻게 활용되고 있을까!

그 기원까지 건너가 보는 것은 요원하고 불분명한 과업이 되겠지만, 숫자가 정의되고 숫자가 분류되고 공식이 되어 의미를 띠고 그것이 또 다음 세대의 발전에 이바지하는 과정을 알아보는 것은 무척 흥미로운 일임에 분명하다. 

나는 중년의 아저씨로, 수험생으로서의 수학은 졸업한 지 한참이 지났지만 여전히 수학에 대한 동경을 품고 있다. 철학이 인간의 사고를 촉진시켰다면 수학은 인간의 문명을 이끌었다고 여기기에, 수학이 지닌 매력에 끌림을 느끼는 것은 당연하다고 생각한다. 이제는 (중고등 수학의 범주 내에서) 공식을 이해하고 공식을 증명하고자 노력하고 공식을 대입해서 새로운 문제에 도전하는 모습의 수학은 내게 버거운 일이 되었다. 차라리 수학이 가진 멋짐을 감상하고 수학이 가진 신비와 재미를 글로써 이해하고자 노력할 따름이다. 그런 점에서 <수학은 상상>이라는 책은 잔잔한 클래식을 연주하듯 수학, 그 안에 담긴 숫자가 가진 신비로운 세상을 찬찬히 설명하고 있어 눈으로 따라가기만 해도 즐거움을 선사하는 책이라 할 수 있다. 

<수학은 상상>은 숫자가 무엇인지에 대한 질문으로 시작한다. 당연히 안다고 생각하는 '숫자'지만 막상 '숫자란 무엇일까'를 정의하는 것은 녹녹지 않은 일이다. 숫자를 단순히 세어 나가는 것으로 정의할 있을까? 숫자를 범위로 구분할 수 있을까? 자연수는, 정수는, 유리수는, 무리수는, 그리고 실수는 숫자라는 틀에서 어떤 범위에 존재하는 것인지, 실수와 자연수 모두 무한대로 존재하는데 어떤 무한대가 다른 무한대보다 크다고 정의할 수 있는가 하는 물음 등을 끌어낸다. 그리고 그에 대한 수학자들의 답을 제시하는데 어떤 항목에서는 '저런 것까지 증명으로 밝혀내야 하나' 싶은 직관적인 부분조차도 수학자들은 증명의 대상이 된다는 것에 놀라움을 느끼기도 한다. 

예를 들어 우리는 2 + 2 = 5 라는 등식이 틀렸음을 안다. 적어도 틀렸다고 생각한다. 그러나 수학자들은 위 명제가 공리로부터 출발해 논리적 증명을 거쳐 틀렸음이 검증된 후에야 비로소 그것이 틀렸다고 여긴다. 그렇다면 완벽한 논리를 추구하는 '수학은 모순이 없는 학문인 것인가'를 물을 수 있을 것이다. 이에 대해 수학자 괴델에 따르면 '수학이 모순이 없음을 증명하는 것은 불가능하다'고 증명했다. 수학이 모순이 없음을 증명하기 위해 귀류법(어떤 명제가 거짓이라고 가정한 후 모순을 이끌어 냄으로써 그 가정이 거짓임을 증명하는 것)을 사용하면 '수학은 모순이 없다'는 가정이 필수적이기 때문에 이것을 증명할 수 없는 것이다. 이것은 기원전 6세기 크레타의 철학자였던 '에피메니데스의 역설'과 상통하는데, 에피메니데스가 "모든 크레타 사람은 거짓말쟁이다."라고 말했다면 이 명제의 참과 거짓을 밝힐 수가 없게 된다. 

수학이 다루는 확률은 우리의 삶에 지대한 영향을 끼친다. 그것이 빈도(동전던지기 처럼 수많은 시행을 거쳤을 때 사건이 일어날 확률)에 의한 확률이든, 베이지언 확률(시간과 정보에 따라 바뀌는 어떤 사건이 발생할 것이라는 믿음의 정도)이든 누구나 선택의 기로에 서게 되고 최종적인 선택은 그 개인이 가지고 있는 근거와 믿음에 의존하게 된다. 즉, 확률이 높다고 여겨지는 쪽으로 치우치게 된다. 사고의 위험이 있음에도 비행기를 타거나, 손실의 위험이 있음에도 주식에 투자하거나 하는 등의 행위는 위험 요소가 발생할 확률이 매우 낮거나 손실에 대한 위험보다 이득을 볼 확률이 높다고 판단될 때 이루어지게 된다. 얼마 전 방영된 'DP'라는 드라마에서도 언급된 '몬티홀 문제'는 확률에 근거한 판단이 우리에게 줄 수 있는 이득을 보여주는 동시에 우리가 얼마나 확률에 무지한지도 드러내 보인다(확률의 대가를 포함해 많은 사람이 이 문제를 틀렸다고 한다). 

기하학도 수학에서 파생되는 분야이다. 기원전 3세기의 유클리드로부터 시작됐다고 평가되는 기하학은 데카르트의 좌표와 뉴턴/라이프니츠의 미적분학, 펠릭스 클라인의 대칭성, 가우스와 리만의 공간의 휨, 그리고 카르탕과 휘트니의 부드러운 공간의 성질에 대한 연구를 거치며 현대에 이르고 있다. 수학에서 기하학은 '도형과 다면체의 대칭성'을 중요한 문제로 삼아 연구하고 있다. 점, 선, 면의 대칭성이 일반 도형의 범주로부터 확장되어 전자기장을 설명하는 도구가 되기도 하고 차원을 설명하는데 쓰이기도 한다.

수학은 현재도 발전 중이지만 연구범위가 광대한 만큼 앞으로 밝혀져야 할 것이 태산처럼 쌓인 분야이기도 하다. 역사적으로 이름을 떨친 위대한 수학자들은 산업개발자(industry builder, 오랫동안 많은 사람들이 연구할 분야를 개척한 수학자)와 문제풀이자(problem solver, 유명하고 영향력 있는 문제를 풀어낸 수학자)로 분류되기도 하는데, 지식의 영역을 우주와 공간의 질서까지 확장하고 있는 인간의 연구에 수학이라는 중심 학문은 앞으로도 핵심적 역활을 수행할 것이다. 

<수학은 상상>은 수학이 다루는 영역과 수학의 발전사 및 핵심 수학자를 소개하고 있다. 수학에서 중요시하는 공식보다는 사건과 인물 위주로 전개하기 때문에 역사서를 읽듯 찬찬히 읽어나갈 수 있다. 최근 2-3천 년 동안 인간이 이룬 놀라운 문명의 성취는 분명 수학의 발전과 그 궤를 같이 한다고 말할 수 있다. 수학을 업으로 삼는 전문가가 아닐지라도 <수학은 상상>이란 책에 담긴 수학이 걸어온 발자취를 훑어보는 것은 좋은 시간이 되리라 생각한다. 

<출판사로부터 책을 제공받아 읽고 주관적으로 작성한 리뷰입니다.>