괴델, 그 신비를 한번 벗겨 이해해보자

괴델
존 L. 캐스티 & 베르너 드파울리 지음, 박정일 옮김 / 몸과마음 / 2002년 5월

괴델의 전기적 내용과 사상적 내용을 다룬다. 단, 괴델의 불완전성 정리를 중심적으로 소개하며, 튜링의 계산이론과 Chaitin의 주장 등과 연결해서 설명하는 부분이 특히 흥미롭다. 어떤 논리적 형식 체계의 무모순성과 완비성이 동시에 만족될 수 없다는 이야기에서 흔히 인용되고는 하는 괴델의 불완전성 정리에 4년전부터인가 호기심을 갖게 되었다.
일단 내용 자체가 파격적이지 않은가! 무모순인 어떤 논리적 형식 체계도 그 체계를 통해 연역적으로 증명하고자 하는 모든 진리들을 다 포함할 수는 없다니, 그것도 이러한 내용을 수학적으로 증명했다 이 얼마나 놀랍도록 자극적인가.

그리고 그러한 내용을 증명한 사람이 바로 서구 수학계에서 20세기에 가장 뛰어날만한 사람이었다고 한다면 논리적 연역을 통해 체계의 확실성을 추구하고자 했던 서구 수학적 토대주의자들의 근엄한 목소리들을 일거에 전복시켜버리는 그야말로 '혁명적'인 지적 거사처럼 들리지 않는가. 그렇게 나의 지적 호기심을 자극하며 내 코밑을 간질거리기만 할 뿐 결코 내 손에 잡히지 않아 한 편으로 늘 마음을 불편하게 했던 괴델. 바로 그 괴델의 불완전성 정리를 저자인 Casti가 '인공지능이야기'에서 잠깐씩 언급하는 것을 듣고는 정말 흥미가 '땡겼다'. 그래서 나는 이 책을 읽었다.

괴델의 불완전성 정리는 가장 간단한 형식적 체계인 산술의 체계에서조차 힐베르트가 제안했던 방식인 무모순인 유한개의 공리들로부터 출발해서 유한번의 단계를 거쳐 그 체계에 대해 알려진 모든 수학적 진리들을 증명한다는 방식으로는 산술 체계의 진리들을 모두 '완전하게'는 증명하지 못한다는 것을 산술적으로 증명한다. 즉, '진리'임이 분명한 자기지시적 문장이 하나 있는데, 그 문장은 '증명될 수 없음'이 자명하다. 그런데 모든 명제적 문장은 숫자로 변형될 수 있다는 점에서 그 문장도 산술 체계의 진리 집합에 속하는 원소이다. 따라서, 무모순인 산술 체계는 참이지만 '증명될' 수는 없는 그러한 진리가 적어도 하나는 있다.

그러한 문장을 새로운 공리로 추가하는 방식으로 문제를 해결하려고 해도 또다시 비슷한 방식으로 증명할 수 없는 문장이 적어도 또 하나 생겨난다고 한다. 이를 확장시킬 수 있는데, 모든 무모순인 형식적 체계에는 산술 체계의 '증명할 수 없는' 자기지시적 문장과 비슷한 문장이 적어도 하나는 있다고 한다. 따라서, 모든 무모순인 형식적 체계는 참이지만 증명할 수는 없는 문장을 적어도 하나 갖게 된다. 바로 이것이 힐베르트가 원했던 '완전성' 희망이 깨어졌다는 의미.

'증명할 수 없는' 자기지시적 문장은 체계에 대해 '말해주는' 것이 아니라 체계 자체를 보여주는' 문장의 성격이 강하다는 면에서 비트겐슈타인과 연결될 수도 있지 않을까. 즉, 체계의 공리들로부터 계산적 과정인 증명에 의해 산출되는 진리들은 체계에 대해 '말해주는' 문장들인 반면, 체계의 공리들로부터의 계산에 의해서는 산출되지 않지만 그래도 여전히 체계를 '보여주는' 어떤 특징을 진술하는 참인 진리가 있다.

그러나, 주의할 것이 있다. <지적사기>에 일부 인용되는 것처럼, 괴델의 불완전성 정리를 논거로 끌어들여, 비합리적 논증과 근거 없는 논리적으로 비약적인 글쓰기를 정당화해서는 안 된다. 무엇보다 그러한 글들은 무모순이지 않거나, 자기지시적으로 체계에 대한 문장도 아니면서 근거는 제시하지 않는 주장인 경우가 많은데, 그러한 것들은 괴델의 불완전성 정리와는 아무런 관련도 없기 때문이다.