이야기를 활용한 교양 수학과 수학사의 조합

수학의 몽상
이진경 / 푸른숲 / 2000년 3월

교양 수준의 수학지식을 얻고자, 혹은 수학을 쉽게 이해하고자 구입한 책이었지만 내가 생각했던 것보다 더 큰 목적을 가진 책이었다.

  저자는 수학의 공식을 이해하기 쉽게 설명하기위해 노력하지 않는다.

(물론 미적분의 개념에 대해서는 다른 책들보다 이해하기 쉽게 설명해준다.)

그 대신 다른 곳에 있는 책의 목적에 집중한다.

"따라서 수학자들이 좋아하는 '엄밀한'의미에서 정합적인 진리란 수학에는 없다. 다시 말해 수학은 진리가 아니다. 또 그것은 진리를 다루는 것도 아니다. ....(중략)... 그렇다면 수학이란 무엇인가? 그것은 공리 내지 공준과 같은 몇 가지 규칙을 정해두고, 그것을 이용해 어떤 명제를 끌어내거나 반박하며, 필요한 계산을 하기도 하고, 계산하는 데 필요한 어떤 모델을 만들기도 하는 게임이다. 상대방의 부적절한 추론에 대해 철저하게 비판할 권리가 주어져 있고, (중략) 방어하지 못하면 패하고 마는 게임" (22~24쪽)

 ‘수학’이 학교에서 공부한 것처럼 절대적인 어떤 것이 아니라 비판과 질문, 의문이 허용되는 영역이기에, “수학의 본질은 자유다.”는 칸토어의 말을 강조한다. 다양한 사유를 통해 새로운 창한과 극한적 사유의 기회를 하용하기 위해, 그래서 독자들이 수학을 ‘실생활에 직접 이용할 수 있는 개념’으로 고정시키거나 ‘비판할 수 없는 절대적 진리’라고 생각하는 등, 수학을 ‘신성시(?!)’하려는 태도에서 벗어나게 하고, 자유에서 나오는 다양한 사유의 흐름으로 수학에게 더욱더 새로운 창안과 극한적 사유의 기회를 주기 위해 이 책이 나왔다.

  그래서인지 절대적이라던 수학의 개념들에 얼마나 많은 약점들이 보여주기 위해서 기학학과 대수라는 수학의 기초부터 현대수학까지 넓게 살피고 있다. 구체적으로 공식을 설명하는 4장 ‘미적분학’을 통해 모호했던 미적분의 개념에 대해 분명하게 알 수 있다. 그러나 고등학교 수학 정도의 내용으로, 특히 문과 학생들이 수식과 내용을 포함한 모든 내용들을 이해할 수 있는 단원도 여기까지라 생각한다.  이 단원만 이야기 하자면, ‘무한소’라는 미적분의 약점에서 비롯된 후대의 논쟁이 수학의 불안정한 토대를 보여주기 때문인지, 여기 나온 내용만으로도 공식 자체에 대해 어느 정도 이해할 수 있을 정도로 설명해준다.

무한소로 비롯된 미적분의 논쟁점을 설명한 저자는

삼각형 내각의 합이 180도라는 당연해 보이는 개념(유클리드 기하학)이 리만 등의 새로운 기하학에서는 거짓임을 들어, 칸트의 생각과 달리 기하학 영역 역시 절대적이지 않음을 밝히고, 극단적으로 무리수를 거부한 크로네커와 칸토어의 마찰을 통해 수학 개념간의 차이를 밝히고, 그 칸토어의 집합론 역시 ‘칸토어의 역설’이라는 치명적인 약점이 있었다고 말한다. 여기서는 수의 농도를 말하는 알레프(א)라는 생소한 개념이 등장하고, 괴델의 불확정성의 정리가 나오는 등 교양 수준의 배경지식 으로는 온전하게 이해하기 어려운 내용들이 자주 나온다.

그러나 내용을 제거한 수학인 '형식체계와 해석'이든,' 직관주의'든 혹은 이전의 질서를 파괴한 괴델의 '불확정성의 정리'든, 수학이 가진 모든 공리계는 그들의 약점과 모순이 발견된 후에도 각자의 가치를 가지며, 이 약점을 극복해보려는 자유로운 시도들은 다양한 사유를 가능하게 한다는 저자의 핵심을 기억한다면, 비록 알레프 같은 대학 수준의 수학 지식을 이해할 순 없더라도, 독자들은 이 책을 통해 수학을 고정된 존재가 아니라 자유로운 실체로 보고, 진정한 수학적 사유에 좀 더 다가갈 수 있을 것이다.

  수학사라고 보기에는 소설 같은 이야기가 많고, 수학 내용을 담은 이야기라고 하기에는(이야기로 아주 쉽게 배우는 시리즈 등)을 생각하기에는 공식이나 개념 설명이 부족하다. 그러나 ‘자유로운 수학의 실체와 자유로운 사고’하는 저자의 논지를 말하기에 적절하다.

교양으로서의 수학,

자유로운 수학을 찾아서,

수학을 통한 자유를 찾아서.