10월, 당신의 추천 영화는?
지금까지 괴델을 브라우어와 같은 직관주의자로 알고 있었다.
그런데
위의 책을 보고 그것이 그에 대한 오해라는 것을 알았다.
사실 그는 플라톤과 같은 "관념론적 실재론"자라는 것이다. 후기의 후설처럼..
플라톤적인 이데아를 수학에서 처음부터 끝까지 관철한 학자라는 것.
이제는 잘 알지도 못하는 수리철학책도 들춰봐야 하는건가?
러셀의 <수학의 원리>같은 수리철학책은 왠만하면 가까이 하지 않으려고 했는데..ㅜ.ㅜ
봐도 얼마나 이해할수 있을런지는 미지수지만 말이다.
이쯤에서 수리철학계의 계보를 정리해 보자.
먼저 논리주의
논리주의는 러셀에 의해서 칸토어의 집합론 속에 역리가 있다는 것을 발견하고 그를 통해서 수학을 전통적 철학에서의 논리학의 한 분과로 인식하려는 관점이다. 이에 따라 수학의 기초를 기호논리의 형식으로 재구성하려는 것을 목표로 한다.
원래 논리주의는 19세기의 심리주의와 형식주의에 대한비판으로 고틀롭 프레게가 <개념서술>,<산술의 기초>등과 같은 저서를 통해서 발전시킨 분야이다. 객관적이고 보편타당한 학문의 기초로서 수학의 기초를 확립하기 위해 그는 경험이나 직관에 의존하지 않는 순수논리의 용어만으로 수들을 정의하려 하였다. "산술명제가 순수 논리법칙만으로 증명가능한 논리체계"라는 것을 제시하려고 시도한 것이다. 그런데 이러한 프레게의 작업은 처음에는 잘 알려지지 않았다. 그런데 러셀에 의해서 그의 공리체계에 모순이 있음이 알려지게 됨으로써 비로소 되늦게 조명받게 된다. 그 모순이 바로 오늘날 우리가 이른바 "러셀의 역설"로 알고 있는 것이다.
러셀의 역설에 대해서 잠시 살펴 보자.
다음 2종류의 집합이 있다고 가정해 보자.
1종집합: 자기 자신을 원소로 포함하는 집합
2종집합: 자기 자신을 원소로 포함하지 않는 집합
이 때 "2종집합 전체"로된 집합을 R이라 할때, R은 1종인가? 2종인가?
가정1: 만일 R이 1종이면 R은 스스로가 원소인 집합이다. 그런데 R은 2종인 집합이다. 따라서 R을 1종이라고 가정하면 2종집합이라는 전제에 모순이 발생한다.
가정2: R이 2종이면 R은 스스로 원소는 아니다. 그런데 앞에서 R은 "2종집합 전체"라고 했기 때문에 R은 전체 집합 R의 원소가 되어야 한다. 따라서 이것도 모순.
결론: R은 1종도 2종도 아니다.
집합론에서 발견된 이러한 러셀의 역설은 당시 수학계에 큰 파장을 미치게 되는데 그것을 어떻게 다루는지에 따라 후에 논리주의와 형식주의 그리고 직관주의로 나뉘게 되는 계기가 된다.
한편, 힐베르트에 의해서 최초로 체계화된 형식주의는 러셀의 논리주의와는 달리 논리법칙을 절대화하지 않는다. 대신 수학적 공리계를 “형식화”한다. 다시 말해 수학적 공리나 정리를 수학적 기호만으로 표현하려고 한 것이다. 이러한 형식적 체계를 “힐베르트의 프로그램”이라고 부르는데 이 체계 안에서는 형식적 체계에 의해 표현된 수학적 대상은 일단 무의미한 것으로 간주된다. 반면 이러한 형식적 체계와는 달리 그 체계의 ‘증명’은 하나의 ‘기호열’이 됨으로써 그자체 수학적 대상으로 전화하고 그것에는 의미가 있는 것으로 취급된다. 이 때의 수학을 일명 “초수학” 혹은 “메타수학”이라고 부른다. 그것의 주요한 목표가 바로 형식적 체계의 “무모순성의 증명”이었던 것이다.
이를 다시 정리하면 다음과 같다. 형식화되지 않은 비형식적 수학이 있고 그 다음에 이를 체계화/형식화한 형식적 수학, 그리고 다시 그것을 증명하는 초수학 이렇게 3단계의 수학이 존재한다는 것. 형식적 수학은 비형식적 수학을 체계화함으로써 얻어지고 또 이 형식적 수학의 기초는 초수학이라는 메타적 방법으로 그 무모순성이 증명되는 구조를 이루게 된다.
다만 이때 주의해야 할 것은 이와같은 체계의 증명라는 것은 무한번의 과정을 반복함에 의해 주어지는 것이 아니라 유한한 횟수의 조작을 통해서 가능해야 한다는 것이다. 형식적 체계의 조작과정을 무한번 반복하게 되면 결국에 가서는 영원히 그 체계의 정당성은 증명될수없는 모순에 빠지기 때문이다. 이러한 입장을 소위 “유한의 입장”이라고 하는데 이는 직관주의의 형식주의비판에 대한 대응으로 형식주의진영 내에서 마련된 것으로 보인다.
그런데 흔히 수학의 토대를 무너뜨린 것으로 평가되는 괴델의 불완전성 정리도 사실은 이러한 힐베르트의 형식주의를 철저하게 실행시킨 결과 탄생한 것이다. ‘산술의 무모순성’을 증명하기 위한 수학의 형식화가 거꾸로 자신의 불완전성을 ‘증명’하게 되는 역설적 상황을 맞게 된 것. 이처럼 형식주의는 어떻게 보면 자체 내에 모순을 가지고 태어난 유토피아적 기획이긴 하였으나 괴델의 불완전성 정리를 통해 스스로의 한계를 보여줄 수 있었다는 점에서 거꾸로 이 공리계의 형식화라는 야심찬 목표는 어떻게 보면 자신의 이루려는 목표를 충분히 달성한 셈은 아닐까? 더불어 형식주의는 이러한 공리계의 형식적 조작을 통해 아직도 유의미한 수학의 발전을 이룰 수 있다는 것을 보여주고 있다. 흔히 공리적 집합론으로 불리우는 ZF집합론이 그 한 예이다.
이러한 형식주의에 대한 비판의 대표적인 케이스가 바로 브라우어(L.E.J. Brouwer)에 의해 직관주의라고 명명된 입장이다. 직관주의는 수학적 대상이 실체적으로 인간의 정신과 독립적으로 존재하는 것이 아니라 인간의 정신 혹은 의식에 의해 구성되어지는 지식으로 간주한다. 이는 상대적으로 수학적 대상의 실체성과 진리의 가능성을 전제로하는 힐베르트의 형식주의에 대한 당대의 가장 강력한 비판이었다.
직관주의가 형식주의를 비판할 때 사용하는 논거중에서 가장 대표적인 것이 바로 배중률이다. 배중률(the law of excluded middle; LEM)이란 가령 명제 A가 성립한다면 그것은 A이거나 아니면 A가 아니거나 둘 중 하나는 반드시 성립해야 한다는 원리이다. (논리기호로 표현하면 A v ~A)이는 아리스토텔레스 이래로 동일률과 모순율과 더불어 고전적 형식논리학의 3대 원리 중 하나이다. 수학에서는 이 배중률이 유한집합 내에서만 사용된다면 모순이 발생하지 않는다. 그런데 문제는 이것을 무한에 적용시켰을 때 발생한다.
가령 원주율인 π를 예를 들어서 생각해 보자. 알다시피 π는 소수점 이하자리의 수가 반복되지 않는 무한대의 십진수로 주어지는 무리수, 더욱 정확히는 초월수이다. 동경대에서는 이 π를 컴퓨터를 이용하여 32억 2천만 자리까지 구한 적이 있다고 한다. 이 독특한 성질, 즉 소수점이하자리의 수가 무한대로 반복되지 않고 계속 이어진다는 성질로부터 우리는 배중률을 두고 발생한 형식주의와 직관주의간의 입장차를 분명히 확인해 볼 수 있다.
π는 흔히 3.14로 소수점 둘째자리까지만 사용한다. 그런데 사실 그 소수점이하의 수는...
3.14159265358979323846264338327.........................
이런식으로 무한히 계속될 수 있다. 그런데 소수점 이하 762자리에서 767자리에 처음으로 9가 연속적으로 6번 등장한다. 「.........134999999837........」이렇게 말이다. (요시나가 요시마사. 괴델 :불완전성 정리. 전파과학사 ,126쪽 참조) 그런데 문제는 이처럼 9가 연속적으로 나올수 있는 가능성은 소수점이하 자리의 수가 무한일 때 그 가능성이 완전히 열려있다는 점이다. 가령 9가 연속적으로 100번이 나올수도 1000번이 나올 수도 있는 것이다. 그런데 지금까지 알려진 바에 의하면 예컨대 동경대 컴퓨터로 계산한 소수점 32억 2천만 자리에는 그런 9의 연속이 아직까지는 발견되지 못했다는 것이 문제다. 또 그리고 그것이 몇번째 자리에서 출현할지 아무도 모른다는 것.
바로 이 때 배중률이 적용될 수 없다는 문제점이 노출된다. 이 경우 배중률에 의하면 소수점 아래 몇번째 자리수에서 9가 100번 연속될지 알수없기 때문에 우리는 그것을 A이거나 혹은 A가 아니거나 하는 식으로 확정할 수 없다는 한계에 놓이게 되는 것이다.
이와 관련된 일화를 하나 소개하면, 브라우어가 힐베르트의 괴팅겐수학클럽에서 원주율과 관련된 난점을 이야기 했을 때 한 청강자가 다음과 같이 반문했다고 한다.
"당신은 원주율 π를 10진법으로 표현했을 때 9가 10회 연속해서 나타나는지 아닌지가 우리들로서 아는 것이 불가능하다고 말씀하시는 겁니까? 아마 그것은 알수 없겠지요....그러나 신은 알고 계실겁니다!"
이에 대한 브라우어의 대답은 다음과 같다.
"공교롭게도 나는 신과 연락하는 방법을 마침 갖고 있지 않습니다."
(요시나가 요시마사. 괴델 :불완전성 정리. 전파과학사 , 128쪽)
이 일화를 통해서 우리는 많은 것을 유추해 볼 수 있다. 브라우어는 수학을 무한의 영역으로 확장했을 때 발생하는 이러한 문제점 그리고 배리법에 의한 증명이 not A는 증명하여도 not not A는 증명할수 없다와 같은 이유 등을 내세워 배중률의 사용을 부정하거나 혹은 그것에 제한이 주어진다는 점을 강조한다. 반면 형식주의는 배중률이 비록 무한집합에 적용되었을 때에는 역설이 발생한다고 하여도 유한집합 내에서는 여전히 배중률이 유효하고 또 그것의 사용으로 인해 수많은 수학적 성과물을 성취할 수 있다는 점을 강조하였던 것이다.
그리고 직관주의는 수학적 지식이나 그 대상을 인간의 인식으로부터 독립적인 객관적인(objective) 것으로 보지 않고 인간정신의 구성적(constructive) 결과물로 간주한다는 점이다. 따라서 원주율에서 소수점이하 몇 번째자리에 9가 100번 연속되는지를 인간의 정신으로 구성적으로는 인식할 수 없기 때문에 그것이 몇 번째 자리수에 있는지 알려고 하는 시도는 수학적 연구의 대상으로는 무의미하다고 생각하는 것이고 위의 일화가 그 입장을 분명하게 보여준 것이다. 다시말하면 신만이 알 수 있는 것을 우리가 뭐하러 궁금해 해야 하는가라는 입장인 셈.
이런 입장은 사실 논리실증주의(Logical Positivism)의 입장과 유사하다. 논리실증주의도 참, 거짓을 증명할 수 없는 명제는 무의미하다는 것을 기조로 삼는다. 증명할 수 없는 가설이나 명제 예컨데 철학의 전통적인 형이상학적 담론이나 윤리학등이 그래서 무의미한 논의로 논리실증주의의 입장에서는 간주된다. 논리실증주의는 논리경험주의로도 불리우는데 이 때의 경험은 검증원리를 통해 참과 거짓을 증명할 수 있어야만 그 대상의 유의미성을 논할 수 있는 경험이다. 따라서 논리실증주의에서의 경험은 검증이전의 날것으로서의 가공되지 않은 경험이 아니라 "검증원리" 혹은 포퍼식의 "반증가능성"같은 논리적 잣대를 통해 참, 거짓이 확증될 수 있는 것이고 또 그럴 때에만 (가능한) 경험으로 인정될 수 있다는 입장을 취한다. 칼 포퍼(Karl Popper)가 그의 저서 <열린사회와 그 적들>에서 플라톤의 철학을 "반증불가능하다"는 이유로 비판하는 것도 결국 이런 맥락에서 이해할 수 있게 된다. (논리실증주의자/논리경험주의자들과 포퍼는 검증원리/귀납원리와 반증원리 간의 논쟁으로 그리고 포퍼와 쿤(Thomas Khun)은 반증원리와 공약불가능성(incommensurability), "혁명" 등으로 또 쿤과 이언 해킹(Ian Hacking)은 공약불가능성과 "실험과학"으로 대립한다. 이러한 논쟁은 여기서 정리해 보고자 하는 수리/수학철학의 범위를 벋어나는 '과학철학'의 영역이다. 이는 다른 기회에 한번 정리해 보도록 하겠다.)
이와같이 논리실증주의는 수학에서의 직관주의와 많은 부분을 공유한다. 특히 그 인식의 구성적 관점만을 승인하고 인식주관 밖에 있는 객관적인 (수학적) 실재를 부정한다는 점에서 말이다. 그런데 브라우어가 자신의 이러한 입장을 직관주의(intuitionism)이라고 명명한 것은 칸트의 철학을 참조한 것인데 이것은 칸트철학에 대한 오독에서 비롯된다. (이에 대한 자세한 이야기는 다음번 페이퍼에서 다룰 것이다. )
반면 괴델은 직관주의가 비판하는 이러한 수학적 실재를 암묵적으로 가정하는 플라톤주의에 가깝다. 비록 형식적으로는 형식주의자이지만 내용적으로는 구성적 인식이 불가능한 영역이 실재한다고 보는 플라톤주의의 입장을 받아들임으로써 그는 형식주의에 대립하는 것이다. 이는 수학기초론내에서도 독특한 입장인 것으로 보인다. 비록 그가 불완전성 정리를 발표하기 위해 형식주의자의 수학적 방법을 동원하기는 했지만 결과적으로 "산술의 무모순성"이 불가능하다는 것을 형식적으로 "증명"함으로써 오히려 내용적으로는 그것에 대립하는 입장에 서게 된 점에서 말이다. 이는 다분히 이율배반적인 태도로 보인다. 어떻게 보면 그것은 의식으로부터 독립적인 실재를 가정하는 소박한 플라톤주의라고 하기보다는 "물자체"의 독립적 성격을 인정하면서도 그것의 경계에서 물자체를 간접적으로 인지하는 선험적이면서 초월적인 직관을 논하는 칸트철학과 맥락을 같이 하기 때문이다. 이러한 괴델의 입장을 플라톤주의라고 하기보다는 칸트주의라고 하면 지나친 표현일까?
