괴델 불완전성 정리: ‘이성의 한계‘의 발견

괴델 불완전성 정리 - “이성의 한계”의 발견
요시나가 요시마사 지음 / 전파과학사 / 1993년 10월

1. 매끄럽고 압축적이게 구성되어 있기에 숙련자에게만 추천될 법한 교양서이다. 19세기 말과 20세기 초부터 괴델에 이르기까지 진행된 수학기초론 소사를 다루고 있다 하겠는데, 방대하고 전문적인 이야기에서 중요한 사안들만을 저자 나름대로 취사선택하여 깔끔하게 요약 및 정리해냈다. 칸토어의 집합론 및 그와 연관된 역설의 발견에서부터. 힐베르트의 "기하학의 기초"에 의해 대두된 공리주의, 수학기초론 삼파의 논쟁, 괴델의 정리와 그 이후까지의 수학철학적 이야기들을, 저자 나름의 시각으로 정연하게 이어맟줘 재구해냈다. 

 그런데 (내용 측면에서) 학술적인 스타일이나 나름의 엄밀함을 좀체 벗어나지 않기에, 선지식이 전혀 없는 사람이 평이하게 읽어갈 수 있을 정도로 친숙하게 서술되어있는 편은 아니다. (일본어식 문어체를 그대로 직역한 것도 매끄러운 독서를 방해하는 사소한 요인 중 하나이다.) 글의 진행에서 핵심적인 개념이나 이론들을 이미 잘 알고 있지 않은 독자라면 논의를 피상적으로만 따라가게 될 뿐 철학적, 수학적인 핵심과 그 의의를 파악하고 깊게 음미하며 읽어내지는 못할 것 같다. 특히 간간히 제시되는 수학적, 準-형식적 증명들 및 책의 중심주제인 불완전성 정리의 증명 자체가, 이런 내용에 이미 익숙지 않은 사람이라면 이해하기 거의 불가능한 형태로 제시되어 있다. 불완전성 정리의 증명을 설명하는 부분에서는, 먼저 증명가능성 술어와 자기-지시성 구조를 도입하기 위해 괴델이 칸토어의 대각선 논법과 리샤르의 역설을 활용한 방식이 형식적으로 제시되고, 이후 괴델수 부여를 통한 구체적인 증명 절차 자체는 그 핵심 착상과 개요만이 자연언어로 짧게 기술된다. 보통 전자보다 후자를 상세하게 기술하는 여타 책들에 비하자면 분명 어렵게 느껴지는 부분이다. 

 반면, 초두에 말했듯 학술적으로 잘 마물러진 교양서이기에, 이러한 어려움들에 개의치 않을 만큼 수학기초론과 그 역사 및 형식적 논의에 충분히 숙달된 독자라면 일독해 볼 가치가 충분하다. 취향에 따라 구매소장하여 생각날 적마다 거듭 읽다보면, 미진하거나 파편적으로 알던 사항들을을 이 책을 통해 빠른 호흡으로 정리해볼 수 있을 듯하다. 

2. 보통 불완전성 정리의 의의를 '인간 이성의 한계를 엄밀하게 밝혀냈다'는 식으로 부정적, 소극적으로만 해석하는데, 이와 대조되는바 책 말미에 짧게 언급된 저자의 긍정적, 적극적 해석이 인상깊었다:

 "괴델의 불완전성 정리는 그러한 전능하고 절대적인 이론이 결코 존재할 수 없음을 알려준다. 역으로 말해 이 정리는, 현재 아무리 완전하게 보이는 이론일지라도 언젠가는 앞지름을 당하는 것이고, 인간에게는 항상 기성의 이론을 앞질러갈 수 있는 무한한 가능성이 남겨져 있음을 보증한다고도 해석할 수 있다. 인간 이성의 '강함'에 대한 선언으로서도 이해할 수 있는 것이다. 이것이 이 정리의 적극적인 파악방법이고 이 정리가 갖는 궁극적 일면이다." (226쪽)

읽자마자 U. 에코, "장미의 이름"의 두 등장인물 호르헤 노수도사와 윌리엄 수도사가 떠올랐다:

 "「우리 교단의 사명이자 우리 수도원 수도사들의 의무인 이 근행 가운데에는, 공부하고 지식을 보존하는 의무가 들어 있음을 잊어선 안 됩니다. 공부하고 그 지식을 보존하는 것이야말로 우리 의무의 노른자위 같은 것이지요. 나는 〈탐구〉라고 하지 않고 분명 〈보존〉이라고 했습니다. 무슨 까닭인가요? 하느님께 속하는, 지식이라는 재산은 완전한 것이고, 태초부터 완전한 것으로 정제된 것이고, 말씀의 완전함 안에서 스스로를 드러내는 것입니다. 나는 〈탐구〉라고 하지 않고 〈보존〉이라고 했습니다. 부슨 까닭에서일까요? 선지자들의 설교로부터 초대 교부들의 해석에 이르기까지 수세기에 걸쳐 정제되고 완성된 이 지식이야말로 인간에게 할당된 몫으로는 최상의 보고이기 때문입니다. 지식의 역사에는 발전이나 진보가 있을 리 없습니다. 애오라지 연속적이고 더할 나위 없이 고귀한 요점 약설이 있을 뿐입니다. (…) 나는 성서의 마지막 권에서, 마지막 천사가 한 말을 상기시키고 싶습니다. 〈누구든 여기에 무엇을 덧붙일진대 하느님께서 그를 벌하실 적에 이 책에 기록된 재난도 덧붙여 주시리라. 또 누구든 이 책에 기록된 예언의 말씀에서 무엇을 때어 버릴진대, 이 책에 기록된 생명나무와 그 거룩한 도성에 대한 그의 몫을 하느님께서 떼어 버리시리라.〉」" (이윤기 譯, 열린책들, 2006(보급판), 526-8쪽)

 "「이 영감아, 악마는 바로 당신이야! 악마라고 하는 것은 물질로 되어 있는 권능이 아니야. 악마라고 하는 것은 영혼의 교만, 미소를 모르는 신앙, 의혹의 여지가 없다고 믿는 진리 …… 이런 게 바로 악마야! (…) 저잣거리로 나가 이렇게 외치고 싶군.〈이 영감이 여러분에게 진리를 말한다. 진리란 것이 죽을 맛이라 하고 있으니 여러분은 영감의 말을 믿은 게 아니라 이이의 엄격함을 믿은 것이다!〉」(…)

 「너는 나를 악마라고 한다만, 그것은 사실과 다르니라. 나는 하느님의 손이었느니라.」

 「하느님의 손은 창조하지, 감추지는 않는다.」" (621-3쪽)

힐베르트를 완고하고 비뚤어진 광기에 사로잡힌 인물에 빗대는 게 불경한 일이겠지만, 이 빗댐에 기대 저자의 해석을 재해석해보자면, 비뚤어지거나 광기에 사로잡히지 않은 건강한 형태의〈엄격함〉이나 〈완전함〉이라도, 체계 외부의 시각에서는 모종의 또다른 광기나 비뚤어짐일 수 있음을 보여준 게, 괴델 정리의 적극적인 의의일 수 있다는 것이다. 우리가 신에게서 찾아내야 할 것은 그의 〈완전함〉이 아니라 무한한 〈창조력〉인바, 후자를 볼 수 있을 때에야 그가 우리게 부여한 〈이성의 강함〉 역시도 제대로 직시할 수 있다는 것이다.