철학으로 수학 초대하기

무한론 교실 - 세상에서 가장 인기없는 강의
노야 시게키 지음, 김석희 옮김 / 뿌리와이파리 / 2003년 9월

고등학교 수학책의 맨 앞을 장식하는 것은 집합론, 명제, 그리고 수론이다. 대개의 학생들이 그렇듯이 여기는 중요한 부분이 아니다. 필요조건과 충분조건의 정의 정도는 확실히 외워두고, 자연수, 정수, 유리수, 무리수, 실수의 포함관계를 확인해두면 그것으로 족하다.

애석하게도, 이러한 과정이 반복되면서 수학과 철학의 만남은 불가능한 것이 되고 만다. 3년 동안(아니 6년, 12년이라고 봐야 하나?) 집중적인 훈육을 거치고 나면, 그 이후 아무리 둘의 내밀한 연관을 강조해봐야 소용없는 일이다. 물론, 그 훈육에서 멀어진 경우는 말할 필요도 없다. 수가 나오면 언제나 공책과 연필을 잡고 풀어야 직성이 풀리는 ‘문제풀이’의 인간 아니면 수에 진저리를 내는 ‘수 혐오’의 인간 둘 중 하나다. 그렇다고, 대학 교육이 면죄부를 받을 수 있는 것은 아니다. 너무 늦은 일은 없는 법인 데 말이다.

우연히, 서점에 들렸다가 노야 시게키의 {무한론 교실}을 접했다. 책을 들어 몇 페이지를 보다가, 이내 심한 정신적 타격을 입었다. 익히 잘 알고 있다고 믿었던 유명한 ‘제논의 역설’이 등장했다. 거북이가 토끼보다 앞서 출발했다면 토끼는 거북이를 따라잡지 못한다. 거북이가 있던 곳까지 토끼가 도달하는 동안 거리야 어쨌든 거북이는 앞서가게 되기 때문이다. 나는 속으로 ‘그거야 극한, 그리고 무한급수의 개념을 몰라서…’라고 답했다. 그런데, 바로 아래 줄에서 책 속의 유쾌한 교수가 이렇게 받아 친다.

“천박해”

어? 즉시 그 장을 다 읽어버리고, 내친 김에 책을 샀다. 생각해보니, 내가 제논의 역설에 대한 ‘해답’으로 알고 있었던 건 대한민국 공인 참고서의 무한급수 부분에 나왔던 얄팍한 언급이었다. 유쾌한 교수는 문제가 그리 단순하지 않다고 꼬집었다. 무한급수법을 살짝 비틀면 자연수를 모두 셀 수 있다는 결론을 끌어낼 수 있다. 즉, 토끼가 거북이를 따라잡는다는 ‘상식’이 자연수를 모두 셀 수 있다는 ‘비상식’과 맞물리게 되는 것이다. 제논의 역설은 바로 이것이었다.

유쾌한 교수의 수론 강의는 이렇게 교과서적인 상식을 하나씩 뒤집어놓으면서 수학사를 탐험해간다. 책은 무한을 둘러싼 두가지 철학, 즉 실무한파(무한이란 실재로서 존재한다)와 가무한파(무한은 가능성일 뿐이다)을 바탕으로 수론의 주요한 논쟁들을 12개의 강의로 나누어 솜씨있게 펼치고 있다.

강의는 칸토르의 실수 존재 증명법과 여기서 발생하는 실수집합론의 역설, 프레게의 언어철학을 한순간에 붕괴시켜버린 러셀의 역설, 브로우베르의 직관주의와 힐베르트의 형식주의를 거쳐, 마침내 (개인적으로 매우 이해하기 힘들었던) 괴델의 불확실성의 원리까지 흘러든다. 이렇듯 제목만 나열하고 보면 무척 어렵고 따분해보이지만, 책 속의 유쾌한 교수의 설명은 경이로울 정도로 쉽고 흥미롭다. 증명에서 활용되는 ‘대각선 논법’을 친절히 설명해주는 모습이나 판에 박힌 답변을 하는 학생에게 “천박하다”, “최저다”라고 면박을 주는 모습도 보통의 강의에서는 기대하기 힘든 애교다.

노야 시게끼는 화자를 교수가 아닌 심퉁한 남학생으로 둠으로써 묘한 극적인 효과까지 연출한다. 열심히 떠들고 있는 교수를 앞에 두고 속으로 딴지를 걸어보거나 때때로 강의보다는 옆에 앉은 세미에게 더 관심을 기울이는 모습을 보노라면, 마치 강의를 직접 듣고 있는 기분이 든다.

역자의 명성 답게 번역은 매우 깔끔하다. 다만, 수학 용어에 대한 역주가 너무 딱딱해서 책의 정신과 어울리지 않는다는 것은 단점으로 지적해두고 싶다.

수학이 작게는 점수의 지름길이요 크게는 과학의 기초인 것처럼 회자되면서, 이 책과 같은 ‘알기 쉬운’ 시리즈들이 제법 많이 쏟아져 나왔다. 그 중 국내의 저자들이 쓴 책도 많은데, 이 책처럼 수학에 대한 철학적인 깊이를 음미하는 대중서는 매우 드물 듯 싶다. 무엇 때문일까? 상업성을 충족시키려면 실용성을 앞세워야 되기 때문일까, 아니면 철학이 중요하지 않다고 믿기 때문일까?