수학 불완전성 증명한 천재의 불완전했던 삶 - 쿠르트 괴델

원래 전기 같은 책을 그리 좋아하지 않았는데, 이상하게 최근에 많이 접하게 된다. 대충 생각나는 것들만 해도 <이탁오 평전>, <괴벨스 대중 선동의 심리학>, <빌헬름 라이히>, <밥 말리>, <존리드 평전>, <노신 평전> 등이다.

괴델의 전기니까 아마도 읽어봐야 할 것 같은데, 그간의 괴델에 관한 경험으로 봐서는 쉽게 읽힐 것 같지는 않다. 글쎄, 전기니까 좀 다를 수도 있겠지만 목차를 봐서는 만만치 않을 것 같다. <괴델 에셔 바흐>의 그 끔찍했던 번역 같지만 않았으면 좋겠다.

------------------------------------------------------------------------------------------

수학 불완전성 증명한 천재의 불완전했던 삶
〈불완전성-쿠르트 괴델의 증명과 역설〉

고명섭 기자
출처 : <한겨레> 2007년 12월 21일

	» 〈불완전성〉

레베카 골드스타인 지음·고중숙 옮김/승산·1만5000원

20대에 20세기 지성사 흔든 증명 했으나
‘수학 부정한다’는 오해에 스스로를 유폐한
괴델의 이론과 우울했던 삶으로 안내

“이 논리학자는 자신의 생전에는 물론이고 지금까지도 아주 적은 수의 사람들에게만 알려져 있다. 하지만 그의 업적은 내재적 가치가 아인슈타인의 업적과 맞먹을 정도로 혁명적이며, 우리의 뿌리 깊은 선입관에까지 침투해오는 지난 세기의 가장 근본적이고도 엄밀한 소수의 성과들 가운데 하나로 꼽힌다.”

이 문장의 주인공이 오스트리아 빈 출신의 수리논리학자 쿠르트 괴델(1906~1978)이다. 괴델의 이름이 아인슈타인과 나란히 놓인 것이 의아하게 여겨질 수도 있지만, 최소한 수리논리학계에서는 당연하게 받아들여지는 일이다. 괴델이라는 이름에 거의 항상 동반되는 ‘불완전성 정리’라는 놀라운 수학적 업적 때문이다. ‘불완전성 정리’는 아인슈타인의 ‘상대성 이론’, 하이젠베르크의 ‘불확정성 원리’와 함께 인간 지성의 토대를 흔든 20세기의 발견으로 꼽힌다. ‘불완전성 정리’로 하여 괴델은 ‘아리스토텔레스 이후 가장 위대한 논리학자’, ‘20세기 최고의 수학자’라는 영예로운 칭호를 얻었다. 그러나 그의 삶은 ‘불완전성 정리’만큼이나 난해하고 기이했다. 끝없는 침묵 속에 스스로 유폐당했던 그는 논리적 명제로 이루어진 짧은 증명으로 자신의 생각을 겨우 알렸다. 그 증명조차도 너무 상식 밖이어서 무수한 오해를 낳았고, 참뜻이 이해되는 데 많은 시간이 걸렸다.

소설가이자 철학자인 레베카 골드스타인이 쓴 〈불완전성-쿠르트 괴델의 증명과 역설〉은 ‘불완전성 정리’라는 기괴한 증명과 이 증명을 낳은 기괴한 인간에 관한 전기적 해설서다. 지은이는 소설가의 재능을 발휘해 괴델의 삶을 드라마틱하게 보여줌과 동시에, 학자의 꼼꼼함으로 ‘불완전성 정리’의 논리적 구조를 설명한다. 괴델의 삶을 따라가다 보면, ‘앨리스의 이상한 나라’와도 같은 ‘불완전성의 세계’ 안으로 깊숙이 들어서게 된다.

	» 나치를 피해 미국 프린스턴대학 고등과학원에 정착한 괴델(왼쪽)과 아인슈타인. 극도록 소심했던 괴델은 27살 연상의 아인슈타인과 유일하게 우정을 나눴다.

괴델이 ‘불완전성 정리’를 발표한 것은 24살 때인 1930년 10월이었다. 수학자·철학자·논리학자들의 모임인 쾨니히스베르크 학회가 발표 장소였다. 이제 막 박사학위를 받은 이 분야의 신출내기 괴델은 학회의 마지막날에 자신의 연구 결론을 아주 짧게 이야기했다. 이 책의 지은이는 그 순간을 두고 ‘가장 조용한 폭발’이라고 묘사한다. 그도 그럴 것이 그 폭발은 너무나 조용해서 그것이 얼마나 엄청난 폭발인지 아무도 즉각 눈치채지 못했다.

20쪽 남짓한 분량에 극히 압축적인 논리로 이루어진 ‘불완전성 정리’는 ‘제1정리’와 여기서 딸려 나오는 ‘제2정리’로 이루어져 있다. 제1정리의 결론을 요약하면 이렇게 된다. ‘모순 없는 수학적 형식체계가 있다고 할 때, 그 체계 안에는 참이면서 동시에 증명이 불가능한 명제가 존재한다.’ 이 결론에서 따라 나오는 제2정리는 이렇다. ‘체계의 무모순성은 그 체계 안에서는 증명할 수 없다.’

이 정리가 폭탄이 된 것은 먼저 수학계 안의 사정과 관련이 있다. 당시 수학계 안의 최대 관심사 가운데 하나는 다비트 힐베르트가 주창한 ‘형식주의 수학’을 완성하는 것이었다. 수학의 영역에서 ‘논리적으로 모순 없는 형식 체계’를 만들어낼 수 있다는 것이 힐베르트의 가정이었다. 괴델의 제2정리는 바로 그 가정을 직접 타격하는 것이었다. ‘어떤 체계가 무모순인지를 증명할 수 없다’는 그 결론이 오직 순수형식으로만 이루어진 수학체계를 만들어보려던 열망을 날려 버린 것이다.

더 중요한 것은 괴델의 정리가 다만 수학의 영역을 넘어 논리적 체계 일반으로 확장될 가능성을 보여주었다는 사실이다. 이런 점이 수많은 오해의 단서가 됐다. 언뜻 보면 괴델의 정리는 수학이라는 가장 이성적인 논리체계의 붕괴를 입증하는 듯하다. 그리하여 속류 포스트모더니즘과 같은 반이성주의적 운동에 이 ‘오해된 괴델’이 이용되었다. “괴델은 수학에 대한 악마다. 괴델 이후에는 수학이 신의 언어일 뿐 아니라 우리가 우주와 만물을 이해하기 위해 해독해야 할 언어라는 생각은 더는 할 수 없게 되었다.” 이런 식의 주장이야말로 전형적인 오해라고 이 책은 말한다. 괴델이 이야기하려 했던 것은 인간의 머리로 짜낸 어떤 수리체계도 ‘불완전한’ 지점을 안고 있다는 것이었을 뿐, 수학이 근원적으로 쓸모없다는 주장은 아니었다. 그는 증명 불가능하다 해도 ‘참’인 명제가 있음을 밝혔고, 우리의 이성적 직관으로 그 참(진리)을 알 수 있다고 했다.

괴델의 정리는 오해에 오해를 낳았고, 그것은 불안신경증을 앓고 있던 이 고립된 수학자를 더욱 궁지로 몰아넣었다고 이 책은 말한다. 1940년 미국으로 망명해 프린스턴대학의 고등과학원에 정착한 괴델은 한동안 같은 처지의 아인슈타인과 유일한 우정을 나눴지만, 1955년 아인슈타인이 죽고난 뒤 철저한 자폐 상태에 빠졌다. 말년의 괴델은 세상이 자신을 없애려고 음모를 꾸미고 있다는 강박관념에 시달렸고, 누군가 음식에 독을 탄다는 의심 때문에 식사를 거부하다 굶주림으로 죽었다. 사진 승산 제공