괴델의 아이디어는 사실상 "S는 증명 불가능하다"는 문장 S를 만드는 것이었다. 잠깐 생각해보면 그런 문장은 참인 동시에 증명 불가능하다. 이런 문장을 수론의 언어 내에 짜 넣을 수 있었다는 것이 괴델의 놀라운 성취이다... 괴델의 두 번째 불완전성 정리는 "이론은 자신의 무모순성을 증명할 수 없다."는 것이다. 무모순인 공리계 T가 존재한다고 하자. 이것이 무모순임을 증명할 수 있을까? 괴델은 T가 무모순이면, "T가 무모순이다"라는 문장은 (수론의 문장으로 부호화했을 때) T로부터 증명할 수 없다는 것을 보였다. 따라서 "T가 무모순이다"라는 문장은 참이면서도 증명불가능한 문장이다.(p259) <Mathematics 2> 中
<괴델의 증명>은 괴델(Kurt Godel, 1906 ~ 1978)의 불완정성 정리(Godel's incompleteness theorems)을 일반인들에게 소개한 책이다. 얇은 분량의 책이지만, 불완정성 정리의 전체적인 내용을 가늠할 수 있는 유용한 책이라 여겨진다. 책의 내용을 잠시 살펴보자.
괴델은 정리를 도출하기 위해 초수학(meta-mathematics 수학을 설명하는 언어)을 수학의 질서로 끌어들인다. 각각의 언어에 정수를 부여함으로써, 초수학적 개념을 수리적으로 증명하는 방식을 사용하여 괴델은 '임의의 산술공식 G는 증명될 수 없다는 것을 산술 공식 스스로 주장'하는 결론을 얻게 되었다.
사상(寫像 mapping)의 기본적인 특징은 다음과 같이 요약된다. 즉, '대상 object'의 한 영역에서 구체화된 관계의 추상적 구조가 다른 영역의 '대상' 사이에서도 유효하다는 것을 보여줄 수 있다는 점이다. 괴델이 그의 증명을 구축하는 데 바탕으로 삼았던 것도 바로 이런 특징이었다.(p83)... 괴델은 참값으로 진술된 어떤 초수학적 명제에 대응하는 산술 공식이나 그 명제의 부정 否定에 대응하는 산술 공식은 어떤 것도 산술 계산식 내에서 증명될 수 없다는 것을 보여주는 표현법을 고안했다.(p85) <괴델의 증명> 中
괴델이 입증한 것은 무엇일까? 그가 얻은 주된 결론은 두 가지였다. 첫째로, 괴델은 산술 전체가 포함되는 포괄적 체계의 무모순성을 초수학적으로 증명하기란 불가능하다는 결론을 증명했다. 그런 증명을 가능하게 하기 위해서는, 산술 체계의 정리를 유도하는 데 사용되는 변형 규칙과 근본적으로 다른 추론 규칙을 사용해야 한다는 자체 모순이 있다.(p76) <괴델의 증명> 中
괴델의 두 번째 결론은 더욱 놀랍고, 가히 혁명적이다. 공리적 방법에 근본적인 한계가 있는 사실을 증명해보였기 때문이다. 괴델은 <수학원리>를 비롯해서 산술학이 전개될 수 있는 다른 어떤 체계도 근본에서 불완전하다는 것을 증명했다. 달리 말하면, 모순되지 않는 산술 공리로 이루어진 임의의 집합이 주어질 때, 그 집합에서 유도될 수 없는 참값의 산술적 명제가 있다는 것이다.(p77) <괴델의 증명> 中
'어떤 체계를 설명하는 명제의 무모순성을 그 체계 내에서 증명하는 것이 불가능하다'는 것으로 정리되는 '괴델의 증명' 를 바탕으로 서양 철학의 오랜 과제인 신 존재 증명(Proof for the Existence of God) 과제를 다시 살펴보자. 괴델의 신 존재 증명 식은 다음과 같다.
공리1. (이분법) 속성은 그 부정이 부정적일 경우에만 긍정이다.
공리2. (닫힘) 속성은 긍정적인 속성을 가진 경우에만 긍정이다.
정리1. 긍정적 속성은 논리적으로 일관된다. (다시 말해 실례를 가질 수도 있다.)
정의. 모든 긍정적인 속성을 가지는 것만이 신적이다.
공리3. 신적이라는 것은 긍정적인 속성이다.
공리4. 긍정적인 속성이 되는 것은 (논리적으로) 필요하다.
정의. x가 P를 최소한으로 가지고 있을 경우에만 속성P는 x의 핵심이 된다.
정리2. x가 P를 최소한으로 가지고 있을 경우에만 속성 P는 x의 핵심이 된다.
정의. NE(x) : 핵심 속성을 가지고 있다면 x는 반드시 존재해야 한다.
공리5. 반드시 존재한다는 것은 신적이다.
정리3. 신적인 x는 반드시 몇몇 개가 존재한다. (p382) <신의 베틀> 中
괴델의 신 존재 증명은 이처럼 '신적인 것은 몇몇 개가 존재한다'는 것으로 결론지어지지만, 이것이 신 존재를 증명하는 것이 아니다. 그것은 증명식 이전에 이미 '신(神)적인 것'에 대한 전제가 증명에는 포함되기 때문이다. 이러한 이유에서 위의 증명에서 일관성, 긍정성, 존재성 등을 신의 속성으로 받아들였을 때에만, 다음 공리와 정의로 넘어갈 수 있는 이 증명은 객관성과 타당성을 담보하기 어렵다는 생각을 하게 된다. 이와 관련하여 중세 철학의 신 존재 증명을 살펴보자.
켄터베리의 안셀무스(Anselmus Cantuariensis, AD 1033 ~ 1109)가 <모놀로기온 & 프로슬로기온 Monologion & Proslogion>에서 '존재하는 것들 중의 가장 좋은 것, 가장 큰 것, 가장 높은 것'을 신(神)이라 부르는 것에서 증명을 시작하고, 이러한 존재가 존재할 수 없다면 '완전'하지 않기 때문에 '존재한다.'는 내용으로 신 존재를 증명한다.
이 큰 선(善)은 모든 선이 그것을 통해 존재하기 때문에 그 자체를 통해 per se 선하다. 따라서 그 밖의 모든 것은 자기 자신과는 다른 어떤 것을 통해 선하고, 오직 이 큰 선만이 자기 자신을 통해서 선하다. 오직 그 자체를 통해 선한 것만이 바로 최고선(God)이다. 그러므로 최고선은 또한 가장 큰 것이기도 하며, 존재하는 모든 것들의 최고 summum omnium quae sunt 이기도 하다. (p19)...그리고 확실히 <그것보다 더 큰 것이 생각될 수 없는 어떤 것>은 단순히 지성 속에만 존재할 수 없습니다. 왜냐하면 만일 그것이 지성 속에만 존재한다면, 실제로도 존재하는 것이 생각될 수 있고, 이것이 [지성 속에만 존재하는 것보다] 더 큰 것이기 때문입니다.(p187) <모놀로기온 & 프로슬로기온> 中
돌아가서, 괴델의 신 증명은 여기에서 크게 벗어나지 못했다는 생각을 하게 된다. 이보다는 '괴델의 불완전성 정리'에 의해 '신의 창조물인 인간은 인간과 자연을 설명하는 법칙을 포함하는 신 존재를 수학 공리 체계 내에서 모순성을 포함한 존재성을 증명하지 못한다'는 것이 더 어울리는 결론이 않을까 생각하게 된다.
'괴델의 불완전성 정리'는 쉬운 내용이 아니기 때문에, 일반인이 그 내용을 온전히 아는 것은 불가능하다. 그렇지만, 개략적인 내용을 아는 것마저 불가능 한 것은 아니다. <괴델의 증명>은 이를 잘 보여주고 있다.

[사진] 가솔린 엔진( 출처 : https://www.britannica.com/technology/gasoline-engine)
우리는 자동차 엔진의 부품과 기능에 대해 잘 모르지만, 별 불편함없이 운전을 한다. 알면 좋겠지만, 몰라도 목적지까지 가는 것에 큰 불편함은 없다. 마찬가지로, 우리가 수학에서 통찰력을 얻기 위해서 굳이 연습장과 연필을 꺼낼 필요는 없다고 생각된다. (수험생은 제외) 만화책을 읽듯이 편하게 수학책을 접했을 때, 우리는 더 넓은 세상을 만나는 것이 아닐까 생각해보며 이번 페이퍼를 마친다.
PS. 나는 만화책을 편하게 읽지는 못하는 편이다.
PS 2. 어떤 체계를 설명할 때 그 체계 내에서 해결하기 어렵다면, 한 걸음 떨어져서 바라보자. 이것은 '괴델의 불완전성 증명'이 우리에게 주는 다른 의미가 아닐까.
옛날 중동지방의 어느 부유한 아버지가 세상을 떠나기 전 세 아들들에게 다음과 같은 유언을 남겼다. "내가 17마리의 낙타를 물려 줄 터이니 맏이는 절반을 갖고 둘째는 1/3을 갖고 막내는 1/9을 갖거라.단, 반드시 산 채로 나누어 주어야 한다."... 고민하던 삼형제는 때마침 지나가던 상인으로부터 낙타 1마리를 빌려 유산을 나눌 수 있었다...
공부가 안 되거나, 일이 잘 안 풀릴 때 그때는 잠시 바람을 쐬거나, 커피를 마셔보는 것이 어떨까. 잠시 주위를 환기 시킨 후 다시 일을 시작한다면 분명 다음과 같은 깨달음을 얻게 될 것이다. '아까 할 걸 ...'