수학자의 논리 오류

무한의 신비 - 수학, 철학, 종교의 만남
애머 액젤 지음, 승영조 외 옮김 / 승산 / 2002년 6월

p. 247~248: “수는 단지 실제의 물리적 양을 셈하고 비교하기 위해 사람들이 만들어낸 추상적 개념에 지나지 않는 것처럼 보일 수도 있다. 그래서 수는 실세계의 문제를 나타내기 위한 일종의 언어, 즉 인간의 발명품이라고(A) 말하는 사람이 있다. 그러나 그게 사실이라면 우리는 수에 대한 모든 것을 알아야 하며, 수들의 상호 관계도 모두 알아야 한다. 우리 인간이 만든 거니까(B). 나는 그것이 사실이라고 믿지 않는다. 수학에서 우리는 고된 연구를 통해 끊임없이 수의 속성(그리고 수의 추상적 개념과 함수와 공간의 속성)을 발견한다(C) - 흔히 우리의 직관과 배치되는 진실을 발견하기도 한다. 따라서 수는 우리 인간이 만든 것일 수가 없다(D).”

 ‘무한’에 대한 인간의 호기심과 탐구 과정을, 수학 역사를 중심으로 다룬 내용이 흥미롭다. 특히 ‘실무한’에 관한 연구 결과들과 ‘불완전성 정리’ 등은, 인간의 사유 능력이 결코 무한과 일자(신)를 인식할 수 없다는 의미이기에, 인간이 ‘절대지’를 지닐 수 없다는 기존의 다양한 인문학적 담론들과 유사한 결과를 수학적으로 명증한다는 면에서, 신기하고 무언가 선명한 느낌도 든다.

 저자가 책 속에서 자주 주장하듯, 수학은 그 자체로 실생활에 거의 도움이 안 되고 수학자들이 연구하는 건 연구 자체에 의미를 두기 때문이라고 하지만, 그런데도 전 세계 교과 과정에 수학이 있는 주된 이유 중의 하나는, 수학 공부를 통해 창의적 사유에 필수적인 논리와 추론 능력을 계발할 수 있다고 여겨지기 때문이다. 그런데 마지막 결론부에 있는 수에 관한 저자의 위와 같은 주장은, 책의 앞부분이 주는 감동을 일소에 제거해버릴 정도로 허망하고도 코믹하다! 왜냐하면, 자타 공인한다는 수학자라는 저자의 논리가 너무나도 빈약하기 때문이다.

 인용문에 의하면 저자는 명제 B를 참이라 전제하고, 명제 C를 근거로 명제 A를 부정하며, 대신에 정반대인 최종명제 D를 주장한다. 그런데 저자가 참이라 전제하는 기본 명제 B는, ‘인간은 인간이 만든 모든 것에 관하여 완벽한 앎을 지닌다(E)’는 새로운 명제를 전제해야만 참이다. 그러나 불행히도 현실적으로 명제 E는 전연 참이 될 수가 없다는 증거가 세상에 넘쳐난다.

언어만 하더라도 분명 인간의 발명품이지만 언어의 속성도 끊임없이 발견되고 있다(명제 C를 충족시키며!). 일상에서 자연스레 사용하는 언어를 인간이 완벽하게 알지 못한다는 뜻이다. 언어는 실체가 아니고, 단지 임의성을 지닌 불완전한 자의적 도구에 지나지 않는다는 사실조차 저자는 모르는 걸까? 언어뿐만이 아니다. ‘진’ ‘선’ ‘미’ ‘정의’ ‘도덕’ 등등 인간의 발명품에 대한 인간의 이해는 완벽하기는커녕 완전 뒤죽박죽이다. 스스로 가장 엄밀한 학문을 한다고 주장하는 철학자들이 수천 년에 걸쳐 논쟁을 계속하고 있는 게 바로 그 생생한 증거다.

 그런데 이럴 수밖에 없는 이유가 바로 저자가 언급하는 ‘불완전성 정리’ 때문이 아닐까? 인간의 앎은 결코 완벽할 수 없다는 게 바로 ‘불완전성 정리’의 함의이기에.

 저자의 논법대로라면, 전쟁 무기마저도 우리 인간이 만든 것일 수가 없다. 전쟁에서 우리는 고된 연구를 통해 끊임없이 무기의 속성을 발견하니까(C).

결국, 애초의 기본 명제 B가 오류이기에 저자가 주장하는 최종명제 D는 유감스럽게도 ‘헛소리’에 불과하다. 수학은 엄밀할지라도 수학자가 엄밀한 건 아닌가 보다. 혹시 저자는 ‘수’뿐만 아니라 ‘언어’와 ‘진선미’ 등도 모두 인간이 발명하지 않은 실체라 여기고 있을까? ‘궁극의 리얼리티’라고?

 저자가 철학보다 훨씬 더 엄밀한 논리적 사유를 기본으로 하는 수학자이면서도 이런 황당한 주장을 하는 이유가, 혹시 명제 D를 원위신념으로 지니고 있기 때문은 아닐까? 논리와 상식을 무시하면서까지 자신의 정체성을 제공하는 원위신념을 지키려는 종교적 심리상태! 실무한을 규명하려는 카발리스트들과 일부 수학자들의 의지는 혹시 순수한 탐구욕이 아닌 지적 허영심이 아닐까? 수학을 통해 ‘절대지’라는 신성을 접하고 그를 통해 영생을 얻고자 하는 지적 허영! 하지만 진리는 하늘에 있지 않고 우리 발밑에 있다고 하지 않는가!

 저자를 보면 수많은 수포자를 양산하면서까지 굳이 수학이 교과목으로 존속해야 할 이유도 약한듯하고, 역자가 영어 전공자가 아닌 수학 교수임에도 불구하고 이런 문장이 8쇄를 거치는 20년 동안 수정되지 않고 있다는 점도 놀랍다.

 칸토어와 괴델 모두, 신의 영역이라는 실무한을 엿 보려 한 죄로 신의 저주를 받은 게 아니고(누군가에게는 믿음일 테지만), ‘실무한’이라는 허공을 헤매느라 두 발을 굳건히 지탱해 주는 대지로부터 분리되었기에 심신이 쇠약해진 건 아닐까?

 저자를 포함한 수학자들은 ‘무한’이 신비롭다 하나, 내게 ‘무한’은 신기할 뿐 신비롭지는 않다. ‘무한’ 개념을 발명한 ‘인간’ 자체가 신비로울 뿐!