7장, 과도기의 논리학

7

과도기의 논리학

오랫동안 나는 치역(値域)range of values 및 그에 따라 集合(部類)class이라는 개념에 저항해왔다. 하지만 결국 그것들 외에는 산술학의 논리적 기초logical foundation for arithmetic를 제공해줄 다른 가능성을 찾아내지 못했다. 핵심 물음은 이것이다: 우리는 논리적 대상logical object을 무엇이라 생각해야 하는가? 이에 대해 나는 다음과 같은 대답을 제시할 수밖에 없었다: 우리는 그것을 개념의 외연extension of concept으로, 혹은 더 일반화하자면 함수의 치역range of values of function으로 생각한다. … 이것 외에 다른 무슨 방도가 있겠는가?

1902년 1월 28, Frege가 Russell에게 보낸 서한.

(순수)수학의 기초에 대한 논의에서 급선무인 과제는 수학과 여타 학문들을 명확하게 구분하는 것으로서, 이는 놀랍게도 『수학원리Principia Mathematica』에서는 도외시되었던 작업이다.

Frank P. Ramsey, 날짜미상원고

(ASP[20세기 과학주의철학 보관소Archives of Scientific Philosophy in the Twentieth Century,

피츠버그대학교 도서관 특별보존서고])

논리주의와 토대위기

1900년에 Russell은 자신의 지적 여정에서 스스로 기꺼이 “혁명”이라 칭했던 한 사건을 겪는다: Peano를 만나고는 그의 작업이 수학의 철학적 본성을 해명해줄 잠재력을 지녔다는 점에 크게 고무되었던 것이다. Russell이 가장 풍부한 결실을 맺은 작업이었던 논리주의 기획logicist project을 구상하게 된 시점도 바로 그 무렵이었다.

Peano는 막강한 표현력을 지닌 표기체계 내지 개념군을 발견해내었다. 이 표기법이 수학의 모든 것을 표현하는 데에 활용될 수 있으리라는 전망에서, Peano 학파는 수년에 걸쳐 수학 내의 여러 분야들을 그들의 특이한 표기법에 따라 再표기하는 작업에 몰두했다. Russell이 제안한 것은, 비록 “논리적” 개념이 무엇인지가 당시로서는 아직 명확히 밝혀지지는 않았지만, 여하간 Peano가 사용한 기본 개념들이 순수 “논리적인” 개념들로 환원(還元)될reduced 수 있으리라는 생각, 그리고 그렇게 환원하는 데에 필요한 모든 가정들도, 논리적 가정이란 게 무엇이 되었든 어쨌든 논리적인 것들이라는 생각이었다.

논리주의logicism는 수학이 논리학으로 환원가능하다reducible는 논제로 정의되곤 한다. 이는 논리주의 초기단계에서 수학이 엄연한 현실이었던 반면 논리학은 하나의 기획에 지나지 않았다는 사실을 이해하는 한에서만 올바른 정의라 할 수 있다. Russell의 실제 작업과정에서 논리주의의 모토는 명확히 정립된 원칙doctrine이었다기보다는, 수학을 명료화하는 것으로서의 논리학을 특성화하는 데에 지침을 주기 위한 규제적 규칙regulative maxim에 가까웠다. 논리학과 수학 간의 이러한 연결은 곧 막대한 결과들을 야기하게 된다. 그 중 철학과 연관되는 것으로서 가장 중요한 것은 논리학에서 집합(부류)class이 담당하던 역할에 초래된 변화였다.

Aristoteles 시대 이후로 집합은 논리학의 일부로 여겨져 왔다. 전통적으로 논리학은 우리가 말하는 것what we say 및 그것들 간의 내적 관계에 관한 학문이었다. 집합은 말의 내용content에 관한 언술들을 그보다 좀 더 다루기 용이한 외연적(外延的)extensional 용어들로 번역하는 데에 유용한 수단이었다. 따라서 모든 개념에는 하나의 외연, 사물들의 집합, 즉 그 개념의 실제(혹은 가능한) 사례들로 이뤄진 집합이 대응되는바, 모든 집합은 어떤 개념의 외연이라는 생각이 폭넓게 받아들여져 왔다.

이렇듯 19세기까지 집합은 대체로 논리학자들만이 관심을 갖는 주제였으며, 앞선 가정들에 심각한 의문을 제기하게끔 만드는 요인도 논리학자들이 제기하는 문제들이었다. 하지만 19세기 중반에 이르면 집합은 점차 독자적인 노선을 걷기 시작한다. 이러한 경향은 Cantor와 Frege가 數 개념을 특성화하는 작업에서 집합을 산술학arithmetic과 접목시키면서 본격적으로 시작되었다. 그 결과는 그것이 발원하였던 본래의 철학적 그림을 약화시키기에 이른다. 철학자들이 집합에 대해 지녔던 구상에 가해진 첫 번째 타격은 Russell의 역설Russell’s paradox(처음으로 논의된 것은 1902년 Frege에게 보낸 서한에서였다. 이번 章의 註4 참조)에 기인한다. Russell의 역설은 개념이나 내포(內包)intension의 존재가 그에 대응하는 집합의 존재를 보증하지는 않는다는 생각을 확고하게 인식시키는 계기가 되었다. 이보다 더 강력한 두 번째 타격이 가해진 건 1904년 Ernst Zermelo가 선택공리axiom of choice의 역할에 관심을 집중시켰을 때였다. 이 공리가 가정하고 있는 바는 집합의 존재를 보증하는 데에 내포가 반드시 필수적인지 여부를 암암리에 의문시하게끔 만들었다. 그리하여 1910년 무렵에 이르면 집합론은 개념, 내포, 의미 등과 같은 전통적으로 그에 대응했던 논리적 개념들과 여하한 명시적 접점도 갖지 않는 분야가 되었다. 뿐만 아니라 집합론은 선험적 가정 내지 전적으로 참인 가정들을 찾아내고자 하는 일이 아니라, 수학적 현상들을 만족스럽게 설명해내는 일을 주된 목표로 삼는 가설-연역적hypothetico-deductive 분야가 되었다.

이런 변화를 겪은 이후의 결과물도 여전히 논리학이라는 생각을 고수하고자 한다면, 논리학이란 무엇인가 하는 문제에 관한 생각을 과감히 수정할 필요가 있었다. Frege는 논리주의 기획을 종내 포기한 뒤로는 다른 대안을 내놓지 않았다. Wittgenstein은 일련의 사건들에서 촉발된 새로운 전환을 부적절한 혼동의 산물로 치부하며 비난할 뿐이었다. Russell은 망설임 속에서, 혹은 상충하는 결정들 사이에서 애매한 중도적인 노선을 취했다: 즉 집합이라는 주제에 관해서는 내포주의intensionalist 진영에 합류했지만, 종국에는 수학자들 내부에서 부지불식간에 촉진되고 있던 경향으로서 논리학에 대한 새로운 상정(想定)주의conjecturalist 진영에 굴복하게 된다.

집합논쟁

1900년에 Russell은 이미 관념론에 반발하고 있었다. 당시의 Russell에게 집합이란 어떤 분류절차의 결과로만 나타나는 게 아니라 자립적인 사물, 즉 마음-독립적으로 존재하면서 직접대면될acquainted 수 있는 사물이었다. Cantor는 이러한 토대 위에 그 유명한 낙원paradise을 세웠으며, 그의 집합론은 Russell이 보기에 인류 정신이 달성한 위업 중 가장 위대한 이설이었다. 그 낙원 안에서는 모든 게 완벽해 보였지만, 단 한 가지 예외적인 결함이 있었다: 모든 집합에 대해 그보다 높은 기수(基數)(농도(濃度))cardinality를 갖는 또 다른 집합이 존재한다는 Cantor의 定理Cantor's theorem였다.

Cantor의 증명은 매우 단순하다: 집합 S와 그 冪집합power set PS 간에 일대일 대응one-to-one correspondence f가 존재한다고 가정해보자. 이제 S의 부분집합subset으로서, 그 부분집합의 원소에 대한 f-값f-value의 원소가 아닌 x들(즉 x∉f(x)인 x들1))만을 원소로 갖는 부분집합 C를 생각해보자. 물론 C는 반드시 PS의 원소여야만 하며 따라서 S 내의 원소 중 하나에 대한 f-값이어야 한다. 원집합 S 내의 그 원소를 c라 칭하자. 다르게 말해 f(c)=C이다. 이 지점에서 Cantor는 다음 질문을 던진다: c는 f(c)에(즉 C에) 속하는가, 아닌가? 만약 속한다면, (c는 그에 대한 f-값에 속하므로, C의 정의에 의해) 속하지 않는다. 만약 속하지 않는다면, (c는 C의 정의조건(즉 x∉f(x))을 만족하는 x들 중 하나이므로) 속한다. 결국 c는 f(c)에 속하는 경우 그리고 오직 그 경우에 속하지 않는다. 이는 모순이다. 이에 Cantor는 그가 추정했던 식의 대응관계 f가 존재할 수 없다고 결론짓는다. 그리고 Russell이 받아들였던 약간의 추가적인 장치를 도입하여2), Cantor는 임의의 집합 S의 멱집합 기수는 S의 기수보다 크다는 정리를 추론해낸다.

1) (譯註) 원문에는 ‘∈’로 표기되어있으나 오식인 듯하다. 

2) 이 추가적인 장치는 Cantor의 기수이론theory of cardinality과 관련되는 것으로서, Russell은 (Frege와 유사한 방식을 따르되 Cantor의 의도와 일관되게끔) 이를 보완하면서, 한 집합의 멱집합 기수가 원래의 그 주어진 집합의 기수보다 더 작을 수 없다는 정리를 추가한다.

Russell은 깜짝 놀랐다. 처음에 그는 Cantor의 정리가 참일 수 없으리라 생각했다. 1910년에 발표된 小論에서 Russell은 Cantor의 탁월한 발견이 몇 세기에 걸친 해묵은 형이상학적 문제들을 어떻게 해결하는지 설명하는 한편, 대가master조차도 거짓된 정리를 이끌어내는 실수를 저지를 수 있다는 점을 지적한다. 그가 생각하기에 모든 수에 대해 그것보다 큰 수가 존재한다는 것은 분명 있을 수 없는 일이었다.

모든 무한수infinite number 중에는 가장 큰 것이 존재하는바, 이 수는 모든 종류에 속하는 모든 사물들의 수이다. 이보다 더 큰 수란 분명 존재할 수 없다. 그 수를 세는 데에 이미 모든 것들이 취해졌으니, 그 이상으로 더해질 아무것도 남아있지 않기 때문이다. … 하지만 이 지점에서 대가는 아주 미묘한 오류를 범하는 실수를 저질렀으며, 이에 대해서는 차후 다른 글에서 설명하고자 한다. (『신비주의와 논리Mysticism and Logic』, 69쪽,)

Russell의 견지에서 Cantor 증명의 핵심은 그가 상정한 함수 f가 전단사(全單射)bijective라는 특성과 무관하며, 그 함수의 치역이 정의역 집합의 멱집합이라는 사실과도 무관하다. Russell이 Frege에게 설명했듯이 오히려 핵심은, 임의의 집합 A와 그것의 멱집합에 속하는 임의의 부분집합 B가 주어지고, A로부터 B를 사상시키는 임의의 함수 f가 주어질 경우, A의 원소들 중 그에 대한 f-값에 속하지 않는 모든 것들로 이뤄진 집합은 f의 값이 될 수 없다는 것이다. Russell이 Cantor의 증명에서 무엇이 문제인가 하는 물음을 진지하게 제기한 것은 1900년 후반이었다. 당시 그는 모든 사물들의 집합과 모든 집합들의 집합(아마 그는 이것을 그 집합의 멱집합으로 간주했을 것이다)이 동일한 기수를 갖는다는 입장을 확고하게 고수하였다.3) Russell은 이 사례에 Cantor의 논증을 적용하여 차근차근 따라가 본다. 우선 그는 우주와 그 멱집합 간의 多對一 함수many-one function f를 다음과 같이 정의한다: x가 집합인 경우 f(x)=x이고, 그렇지 않은 경우 f(x)={x}이다(『수학의 원리들The Principles of Mathematics』, 349節, 367쪽). 이 지점에서 Cantor는 우주 내 모든 사물들 중 그에 대한 f-값의 원소가 아닌 것들로 이뤄진 집합에 주목한다. 이 집합을 R이라 하면 R은 자신을 원소로 갖지 않는 모든 집합들의 집합이다. 이런 식으로 Russell에 의해 일반화된 Cantor의 결론이 말하는 바는 R이 f의 값이 될 수 없다는 것, 즉 그 어떤 대상 t에 대해서도 f(t)=R일 수 없다는 것이다. 하지만 이는 거짓이다. 왜냐하면 f에 대한 우리의 최초 정의상 f(R)=R이기 때문이다! 그러니 그러한 t가 존재할 수 없다는 Cantor의 논증에는 무언가 실수가 있었음에 틀림없다. 그 추론의 나머지 단계를 좀 더 세심하게 따라가 보자.

3) 이러한 주장은 Russell이 1902년 6월 24일에 Frege에게 보낸 서한(Frege, 『학문적 서한Wissenschaftlicher Briefwechsel』, 216쪽.)에 나타난다. 이 주장에 대한 한 가지 가능한 추론은 다음과 같다: 우주의 모든 사물들에 대해 각 사물들의 單원소집합singleton이 대응하며, 따라서 집합들보다 많은 수의 사물은 존재하지 않는다. 또한 사물들보다 많은 수의 집합들은 분명 존재할 수 없는데, 왜냐하면 각 집합은 우주에 존재하는 하나의 사물이기 때문이다. 이제 Cantor-Bernstein✻ 정리에 의거, 이로부터 두 집합(모든 사물의 집합과 모든 집합들의 집합)은 동수이다equinumerous[대등하다equipotent]라는 것이 “따라나온다”.

[* 기수 간의 순서관계relation ≼는 反대칭적antisymetric이다. 즉 |S|가 집합 S의 기수라 하고 A, B가 집합일 때

|A|≼|B| ∧ |A|≽|B| → |A|≈|B|

가 성립한다.]

Cantor는 그러한 대상 t(우리는 이것이 R임을 안다)가 존재한다고 가정한 뒤 그것이 f(t)(우리 사례의 경우, f의 정의상 이는 또 다시 R 자신이다)에 속하는지 여부를 조사하였다. 이제 Cantor는 이로부터 모순을 이끌어낼 수 있다고 말한다: t가 f(t)에 속한다(즉 R이 R에 속한다)는 가정으로부터 그 부정을 도출할 수 있다는 것이다. Russell은 Cantor가 옳았다고 생각한다. 이제 반대 방향을 생각해보라. t가 f(t)에 속하지 않는다(즉 R이 R에 속하지 않는다)는 가정으로부터 그 부정을 도출할 수 있다고 Cantor는 말한다. 이제 Russell은 우리에게 익숙한 Russell의 역설을 손에 얻게 된 것이다.4)

4) 이 역설은 몇 달 혹은 아마도 그 이상의 기간 동안 명확히 인식되지 않고 있었다. Russell은 1902년 6월 16일 Frege에게 보낸 서한에서 이 모순에 대해 최초로 대화를 나누었다(van Heijenoort, 『Frege에서 Gödel까지: 수리논리 원전 자료집From Frege to Gödel: A Source Book in Mathematical Logic』, 124-5쪽). 그 글에 제시된 설명은 Lakatos적인 의미에서 약간의 결함[즉 수학적 추측 초기 단계에서의 불완전함과 오류]을 지니고 있었다. 이에 관해 있는 그대로의 이야기는 졸고 「Russell 역설의 순전한 기원The Humble Origins of Russell’s Paradox」에 나와 있다.

이런 상황에서 Russell은 처음에는 Cantor의 추론 어딘가에 결함이 있다고만 생각했다. 그러나 머지않아 그가 이끌어낸 모순은 그 자신도 무리 없이 당연시해온 가정들에만 의존하고 있다는 사실을 명확히 인식하게 되었다. 무엇보다 충격적인 것은 그 모순을 도출하는 데에 필요한 가정들이, 대부분의 수학자들에게 암묵적으로 받아들여졌던 동시에 수학이라는 집을 말끔하게 정돈하고자 분투했던 유일한 논리학자 Frege가 명시적으로 받아들였던 전제들이라는 사실이다. Frege가 『산술의 근본법칙The Basic Laws of Arithmetic/Grundgesetze der Arithmetik』에서 가정하였듯이, x는 자신에게 속하지 않는 집합들의 집합이다라는 개념이 하나의 집합을 그 외연으로 갖는다고 가정한다면, 위와 같은 모순은 불가피하다.

Russell의 집합 R은 표면적으로 볼 때 다른 대상들보다 유난히 더 수상스럽다거나 가능성이 희박해 보이지 않는다. 하지만 Russell의 논증은 그런 집합의 존재가 받아들여질 수 없다는 점을 명확히 확립해버렸다. 이렇게 첫 번째 도미노가 쓰러지자 다른 조각들도 흔들리기 시작했다. Russell은 이와 유사한 역설들로 이끌며 따라서 존재하지 않는 또 다른 집합들과 외연 내 관계들이 얼마든지 손쉽게 만들어질 수 있음을 알아차렸다.5)

5) 이에 대해서는 1902년 9월 29일 Frege에게 보낸 서한(Frege, 『학문적 서한』, 230-쪽); Russell, 『원리들』, 500節, 527쪽; Russel, 「초한수론 및 순서형 이론의 몇몇 문제들에 관하여On Some Difficulties in the Theory of Transfinite Numbers and Order Types」, 『분석적 小論들Essays in Analysis』, 142쪽 참조.

이런 사건들의 귀결은 충격적이지만 불가피했다. 집합이란 게 무엇인지는 하나도 명확하지 않았다. 1902년 『원리들』에서 Russell은 정의불가능한 것들indefinables에 대해 논의하는 이유가, “그와 연관될 실체들을 명확히 식별하고 또 남들로 하여금 식별케 하기 위함인바, 그럼으로써 정신은 마치 빨간색이나 파인애플 맛을 직접대면하는 것과 마찬가지로 그러한 정의불가능한 실체들을 직접대면하게 될 것이다”(xv쪽)라고 썼다. 모순과의 싸움은 그가 다음과 같이 덧붙일 때 마음에 떠올랐을 것이다: “고백하건대 집합의 경우 나는 집합이라는 개념에 필수적인 조건을 만족하는 그 어떤 개념도 생각해내지 못하였다. 그리고 10장에서 논의된 모순〔Russell의 역설〕은 무언가가 잘못되었음을 밝혀주지만, 그 문제점이 정확히 무엇인지를 나는 아직까지 발견해내지 못하였다.”(xv-xvi쪽)

『원리들』이 완성된 직후 추가된 부록 A에서 Russell은 “Frege가 말하는 치역range〔Wertverlauf〕”, 즉 Frege식의 “집합”과 “같은 실체를 찾아내기란 매우 어렵다”(514쪽)고 말한다. 하지만 “외연을 나타낼 만한 그 어떤 단일 대상도 없다면 수학 자체가 허물어지기 때문에”(515쪽), Russell은 마지못해 “치역 같은 게 실제로 존재하는지 밝혀지기까지 기다리기보단, 그저 믿음에 의해 치역을 받아들이는 것이 … 불가피해 보인다”(151쪽)고 결론짓는다.6) 집합론은 Cantor주의자들이 간주했던 바와 같은 건강한 조직체는 아니었다. 문제는 그 조직에서 암덩어리가 도대체 어디까지 얼마나 퍼져 있는가 하는 것이었다.

6) 1902년 7월 Russell은 Fege에게 다음과 같이 썼다: “매일매일 시간이 지나도 나는 ‘개념의 범위Umfang eines Begriffes’〔‘집합’에 대한 Frege의 용어〕라는 것의 진정한 의미를 더욱 이해하질 못하겠다.”(Frege, 『학문적 서한』, 221쪽). 그리고 8월에 주장하길 “하지만 나는 당신이 값의 범위(치역)Wertverlauf라 칭하는 것에 대한”, 즉 개념 및 관계의 외연에 대해 Frege가 사용하는 용어“에 대한 직접적 직관〔Anschauung〕 혹은 직접적 통찰력〔Einsicht〕을 아직도 완전히 결여하고 있다”(226쪽)고 말한다.

분명 그 조직체 전부는 아니다. 혹은 Russell은 초반에 그렇게 생각하였다. Cantor의 낙원뿐만 아니라 대규모의 고전수학 전체가 집합에 의존하고 있는 것처럼 보였기 때문이다. Russell이 바라건대 당시 필요한 것은, 여태까지 무시되어왔던 구분선, 즉 집합의 영역에서 실재와 허상의 경계를 판가름하게 해 줄 구분선을 명확히 밝혀냄으로써 예방차원의 수술을 감행하는 것이었다.

Zermelo의 공리

Zermelo의 공리의 등장은 수리논리학 초기 역사에서 가장 흥미로운 사건들 중 하나였다. Zermelo가 명시적으로 이용하기 시작하자마자 그 공리는 철학적 분쟁의 초점이 되었다.

Borel, Poincaré, Peano, 後期 Brouwer, Weyl, Wittgenstein은 그 공리를 거부하거나 혹은 그에 대한 심각한 우려를 표하였다. 그들 모두가 공통적으로 우려하였던 바는 외연과 내포 간의 연결이 끊어진다는 점과 연관되었다. 이러한 내포주의자 관점에 대해 유일하게 가망 있어 보이는 대안은 논리학(과 수학)의 그림을 추상적 대상에 대한 물리학으로as a physics of abstract object 간주하는 관점이었다. 내포주의의 반대자들은 실로 집합을 지시하는 것이 당연시될 수 있으며, 집합에 대한 주장이 원자나 탁자를 상정(想定)conjecture하는 것과 마찬가지라고 생각하는 듯했다. 즉 논리학(과 수학)의 주장들에 대해서는 [허구적이거나 겉보기 식이 아닌] 적절한 지시proper reference가 의문시되지 않고 그저 상정되며presumed, 따라서 진리치는 우리에게 알려져 있지 않은 것들마저도 이미 결정되어있다. 그것이 믿을 만한지 여부는 물리학적 대상의 존재를 받아들이게끔 하는 바와 비슷한 방식의 귀납적 고려를 통해 판가름된다. 이런 관점에서 Russell이 제기한바 집합이라는 영역에서 실재와 허상을 가르는 문제에 응답하는 방식은 1908년에 Zermelo가 취했던 방식, 즉 집합에 대한 “이론”으로서의 공리체계axion system를 기술한 뒤, 그것이 바람직한 귀결만을 함축하고 바람직하지 않은 결과는 배제하는지 여부를 검토함으로써 그 공리계를 시험test하는 것이다.

Zermelo는 「정렬가능성에 대한 새로운 증명A New Proof of the Possibility of a Well-Ordering」(1908, van Heijenoort, 『Frege에서 Gödel까지』)에서 자신에게 가해진 비판에 응수하면서 인식론적인 쟁점을 명확히 부각시킨다. Peano는 Zermelo의 공리가 Peano 자신의 저서 『수학 공식집Formulaire de mathématiques』에 제시된 원리들로부터 도출가능하지 않음을 언급하면서 그 공리의 진리성에 회의적 태도를 내비친 바 있다. 이에 대한 Zermelo의 합당한 응수는 “Peano는 자신의 기초원리들을 어떻게 알아냈으며 그것들을 『공식집』에 포함시키는 것을 어떻게 정당화하는가?”(van Heijenoort, 『Frege에서 Gödel까지』, 187쪽)라고 묻는 것이었다. 의심할 바 없이 이는 논리학 분야에서 당시 제기될 수 있었던 가장 어려운 질문이었으며, 다음 節에서 보겠지만 이에 대해 그 누구도 제대로 된 답을 내놓지 못했다. Zermelo 고유의 추측적인 답변은 “역사의 과정에서 타당한 것으로 식별되어 온 추론의 양식들”을 분석함으로써 그러한 원리들을 발견하고[발견의 맥락], “그것들이 과학에 대해 직관적으로 명백한 동시에 필수적임을 보이는 것”[정당화의 맥락]이었다.

Peano는 “직관적 명백성”에 관한 물음을 심리학의 영역으로 넘겨버린다: “지금 우리는 명제가 참이거나 거짓인지에 관한 우리의 의견을 진술해야 하는가? 우리 생각은 중요한 게 아니다.”(『選集Opere scelte』, 卷1, 349쪽) Zermelo는 이것이 경솔한 태도라고 생각했지만, 자신의 원리가 명백하다는 점을 확립하게 해줄 독립적인 논증, 가령 Euclid의 평행선 공준의 명증성을 지지하는 데에도 역시 사용될 수 없었던 그런 식의 논증[?]은 어쨌든 제시하지 못했다. 하지만 그는 선택공리가 “과학에 대해 갖는 필수성”에 대해서는 설득력 있는 의견을 개진할 수 있었다. 「정렬가능성에 대한 새로운 증명」에서 Zermelo는 널리 수용된 집합론에서의 수많은 결실들을 제시한 뒤 그에 대한 전통적인 도출방식들이 모두 선택공리에 암묵적으로 의존하고 있음을 논증한다. 그 원리는 이제껏 간과되어오긴 했지만 명백히 수학의 일부였던 것이다. 수학분야를 더욱 명료하게 가다듬고자 할 때 우리가 해야 할 역할은 이제껏 암묵적이었던 요소를 무턱대고 비판만 할 것이 아니라 명시적으로 드러내는 것이다: “원리가 학문의 관점에서 판정되어야지, 최종적으로 완전무결하게 결정된 원리의 관점에서 학문이 판정되어야 하는 것은 아니다(van Heijenoort, 『Frege에서 Gödel까지』, 189쪽). 다르게 말해 (수학에서는) 실제 학문활동에서 암묵적으로 인정된 것들을 넘어서는 그 이상의 표준이란 없다. 어떤 원리가 (암묵적으로나마) 폭넓게 사용되는데, 그 원리가 산출하는 결과들이 광범위하게 수용되는 동시에 그 원리가 없이는 도출될 수 없다면, 그에 대한 ”철학적인“ 반론들은 전부 잘못된 제기된 것들이다. 그 반론들은 수학에서 중요시되지 않는 표준들에 의거하고 있는 셈일 뿐이기 때문이다. 수학적 공리들을 수용하는 이유는 어떤 의미에서 귀납적이다. 즉 수학적 공리들의 정당화는, 여하한 형태가 되었든 수학 외부의extramathematical 지적 활동으로부터 유래하는 게 아니라, 실제 이뤄지는 수학활동에 고유한 특성에서 유래한다는 점에서 귀납적 특성을 갖는다.

Zermelo의 공리에 대한 반응으로 Russell은 내포주의자 편에 선다. (Whitehead에 의해 독립적으로 발견된 소위 “곱셈”공리“multiplicative” axiom 버전의) 그 공리가 주장하는 바는 다음과 같다: 非-空집합들로 이뤄진 무한한 집합족infinite family of nonempty classes이 주어질 경우, 그 집합족의 각 집합들로부터 정확히 하나의 원소만을 선택하여 만들어지는 하나의 집합이 언제나 존재한다. 한 집합을 결정해줄 내포의 존재를 굳이 확립하지 않더라도 그 집합의 존재가 보증된다는 것이다. 도대체 무슨 권리로 이런 가정을 할 수 있겠는가?

Zermelo의 공리 및 곱셈공리 양자의 경우 우리가 우선적으로 우려하는 바는, 우리가 가진 모음들aggregates 각각으로부터 하나의 항을 골라내게 해줄 기준norm 내지 속성property의 존재 여부이다. 즉 그러한 선택을 가능케 하는 집합의 존재에 관한 의문은 기준의 존재에 관한 의문에서 유래한다. (「초한수론 및 순서형 이론의 몇몇 문제들에 관하여」(1906), 『분석적 소론들』, 162-3쪽.)

유명한 예시로서 부츠들로 이뤄진 무한집합 사례는 집합을 가르는 규칙rule의 존재와 부재를 각각 고려하였을 때 야기되는 이런 난점을 예증하기 위해 제시되었다. 후자의 경우 [즉 그러한 규칙이 없는 경우] Russell은 정확히 반쪽의 부츠들에만 속하는 “그 어떤 속성도 우리는 찾아낼 수 없다”(157쪽)고 말한다. “부츠들 쌍이 유한하다면야 그저 각 쌍들에서 한 짝만 골라낼 수 있을 것이다. 하지만 무한한 수의 쌍들이 주어질 경우 어떤 선택의 기준rule of choice이 없다면 각 쌍들로부터 하나를 골라낼 수가 없다.”(157-8쪽) 대체로 Russell은 “기준〔즉 “속성”이나 “명제함수propositional function”〕은 한 모임의 존재에 대한 필요조건이지만 충분조건은 아니다”(136쪽)라고 생각하는 편이었다.7) “무법칙적인lawless” 정수 집합이 존재할 수 있다는 생각은 Russell이 보기에 “의심의 여지가 있는” 것처럼 여겨졌다. 이에 덧붙여 “무한한 모음에는 어떤 기준이 요구되는 듯하며”, “무작정 상상할 수 있는 것 마냥 아무렇게나 취합된 집합체라는 것은 사실상 진정한 실체가 아닐non-entities 것이다”(163쪽)라고 그는 말한다.8)

7) 1920년대 중반 Ramsey는 내포의 우선성을 폐기하면서 『수학원리』의 핵심기조를 외연적인 틀에서 재해석했다. 이에 대한 Russell의 반응을 주목할 필요가 있다. Ramsey는 사실상 “대응correlation”을 순서쌍들의 집합체collection of ordered pairs로 간주했다. 이에 Russell은 다음과 같이 썼다: “이제 그러한 집합체는 누군가 그것을 취합할 경우라면, 혹은 경험적인 것이든 논리적인 것이든 무언가가 그런 집합체를 초래할 경우라면 존재한다, 반면 그렇지 않은 경우 대체 무슨 의미에서 그런 집합체가 존재하겠는가?” (Ramsey의 『수학기초론 및 여타 논리적 小論들The Foundations of Mathematics and Other Logical Essays』에 대한 Russell의 논평 (1932), 85쪽). 1931년의 논평(「F. P. Ramsey의 『수학기초론』에 대한 논평」, 478쪽)에서는 Ramsey가 『수학원리』의 (환원가능성 공리reducibility axiom를 제외한) 공식들은 보존하고자 하는 반면 본디 의도되었던 의미를 왜곡했다고 말한다. 내포주의에 대한 Russell의 “중도적 입장”은 Jourdain과의 서신에서 드러난다. (1905년의) 어느 시점에 Jourdain은 수학자들이 그들의 추상적 영역에서 마치 神과 같이 행동한다는 점을 들면서 왜 내포가 집합에 대한 필요조건인지 의문을 제기한다. 이에 Russell은 “아무리 창조자라 하더라도 자신이 무엇을 창조해낼지에 대해서는 그의 마음을 결정할 수 있어야만 한다”(Grattan-Guinness, 『Russell 씨에게ㅡJourdain 씨에게Dear RussellㅡDear Jourdain』, 54쪽.)고 우선 답한다. 하지만 그 이후의 문장들에서는 다음과 같이 Russell 입장의 또 다른 측면이 드러난다: “나는 외연에 의한 정의가 논리적으로는logically 아니더라도 인간적으로는humanly 유한집합에 제한된다고 생각한다. 우리는 불멸의 존재가 아니기 때문이다.” (55쪽)

8) 심지어 Russell은 유한수가 존재하는 것보다 더 많은 유한수 집합이 존재한다는 Cantor의 증명에 대해서마저 (작금에 칭해지는바 “Wittgenstein적인” 방식으로) 의문을 제기한다. Russell에 따르면 Cantor의 증명이 보여주는 바는 “式들formulae로 이뤄진 그 어떤 하나의 가부번(可附番)denumerable 집합도 유한수의 모든 집합들을 포괄하지는 못한다”는 것일 뿐이다. “하지만 각 경우에 [식들에 의해 포착되지 못한 채] 남겨지게 되는 집합은 그것이 그렇게 남겨짐을 보이는 과정에서 하나의 식에 의해 정의된다. 그러므로 이러한 절차는 식에 의해 정의불가능한 유한수 집합들이 존재한다는 생각에 아무런 근거도 제공하지 못한다.” (「초한수론 및 순서형 이론의 몇몇 문제들에 관하여」, 『분석적 소론들』, 163쪽.)

하지만 선택공리는 수학을 “논리학”으로부터 도출하는 데에 필수적인 것처럼 보였다. Russell 마음의 철학적 반쪽은 내포주의 쪽에 발을 걸치고 있는 동시에 다른 수학적 반쪽은 Cantor의 집합론에 발을 걸치고 있었다. 1905년에 Russell은 불완전 기호 전략incomplete symbol strategy 덕택에 양자 사이에서 반드시 하나를 택일해야 하는 것은 아님을 깨닫게 되면서 큰 안도감을 느낀다. 그는 자신이 한정기술구의 “의미meaning”에 대한 개입을 폐기9)하는 데에 사용했던 바와 유사한 방식으로 집합에 대한 개입을 완전히 폐기할 수 있으리라 생각했다. 이는 최초에 그저 희망사항에 지나지 않았지만 미구에 하나의 이론으로 발전하게 된다. 1905년 후반에 Russell은 Jourdain에게 다음과 같이 썼다: “나는 이제 다양한 모순들을 전부 만족스럽게 다룰 수 있을 것 같다. 바로 집합이나 관계와 같은 것들이 존재한다는 것을 전적으로 부정하면 되는 것이다. 이는 최근 『마인드Mind』誌에서 내가 지칭句denoting phrase를 다루었던 전략과 유사한 방식이다.” (Grattan-Guinness, 『Russell 씨에게ㅡJourdain 씨에게』, 56쪽.) 여기서 Russell이 가리키는 이른바 無-집합론no-class theory은 「집합 및 관계에 관한 대체적(代替的) 이론에 관하여On the Substitutional Theory of Classes and Relations」(1906, 『분석적 소론들』)에서 설명된 것으로서, 이 이론은 명제가 실재한다는 가정에 근거하고 있다. 하지만 머지않아 Russell은 명제가 실재한다는 관점을 폐기한다. 그 이유는 8章에서 다뤄질 것이다. 어쨌든 1908년에 Russell은 이후 『수학원리』에 포함시키게 될 無-집합론을 온전하게 발전시키기에 이른다.

9) (譯註) Russell식의 일원론적 의미론에서 언어표현의 의미meaning는 오로지 그 지시체뿐임을 유념할 것. 그러므로 “한정기술구의 의미에 대한 개입을 폐기”한다는 것은, 외견상 지시적 표현인 것처럼 보이는 한정기술구를 불완전 기호 전략에 따라 분석한 뒤 그렇게 분석된 표현의 유의미성에는 지시체가 필요하지 않음을 보임으로써, 한정기술구의 지시체에 대한 존재론적 개입을 폐기하는 것이다.

대략적으로 말해 Russell의 無-집합론은 「지칭에 관하여On Denoting」에서 한정기술구를 다뤘던 바와 유사한 방식에 따라 집합기호를 다루는바, 집합기호가 나타나는 모든 문장맥락의 진리조건을 특성화하기 위한 일반적 기법을 제시한다. 간단히 말해, 집합기호를 포함하는 문장은 그에 대응하는 문장으로서 해당 집합기호와 연관된 명제함수 내지 속성에 관해 주장하는 문장으로 대체된다. 이에 따라 집합에 관한 언술은 해당 집합을 외연으로 갖는 속성(명제함수)에 관한 언술로 번역된다translated. 이렇게 해서 집합에 관한 모든 역설은 해소된다. Russell의 논리학이 말하는 바에 따르는 한, 집합이란 아예 존재하지 않기 때문이다. 물론 집합론적 역설에 상응하는 내포적 역설은 그래도 여전히 남는다. 이 역설들은 유형론type theory을 통해 다뤄지게 된다. 뿐만 아니라 새로이 내포적으로 해석된 수학에서 요구되는 공리들은, 집합을 지시하는 것으로 여겨질 경우 그다지도 많은 반론을 야기했던 공리들과 구문론적 구조상으로는 거의 구분되지 않았다. 하지만 Russell은 그런 공리들이 이제는 충분히 이해될 수 있는 것들로서 의심스러운 존재론을 선제하지 않는다는 점을 발견했다고 자부했을 것이다. (어땠든 우리는 내포를 직접대면하고 집합은 직접대면하지 않는다.) 그렇다 하더라도 문제는 남는다. 그러한 공리들이 논리적으로 참logically true이라 생각할 이유는 무엇인가? 혹은 그것들이 도대체 참이기는 하다고 믿을 여하한 이유라도 있는가?

상정주의적 논리학

논리주의 기획이 진척됨에 따라 Russell의 논리학도 점차 그 형체를 갖춰갔지만, 그렇게 갖춰진 형태는 상당히 예상 밖의 것이었다. 『원리들』이 출간되고 한 해가 지나도 Russell은 여전히 다음과 같이 설명하고 있었다: “나와 마찬가지로 순수수학이 단지 기호논리의 연장이라 믿는 사람들이 옹호하는 관점은, 통상적인 산술학과 무한수 산술학 양자를 포함하여 수학의 최근 분야에는 새로운 공리가 일절 필요하지 않다는 것이다.” (「무한공리The Axiom of Infinity」(1904), 『분석적 소론들』, 256쪽.) 하지만 Whitehead와 더불어 『원리들』의 환원주의적 약속을 이행하는 작업에 본격적으로 착수하자 Russell은 생각을 바꿀 수밖에 없었다.

첫 번째 주된 사건은 앞서 막 언급되었던 것이다. 1904년에 Russell은 (그 중에서도) 기수 곱셈에 관한 이론을 발전시키는 데 필요한 특정 진술에 대한 Whitehead의 증명들 중 하나를 수정하는 과정에서 그 증명이 순환적임을 발견하였다. 그는 해당 식을 증명할 다른 방법을 모색했으나 실패했다. 결국 Russell은 이후 그와 Whitehead가 칭한바 이 “곱셈공리”가 수학을 “논리학”으로 환원하는 데에 없어서는 안 될 가정이자 실지로는 [증명되어야 할 정리가 아닌] 공리라고 생각하기에 이른다.10)

10) 이러한 발견에 대한 Russell의 설명은 1906년 3월 15일 Jourdain에게 보낸 서한에 나타난다(Grattan-Guinness, 『Russell 씨에게ㅡJourdain 씨에게』, 80쪽.).

그 다음 사건은 무한공리와 관련된다. 『원리들』에서 Russell은 Bolzano와 Dedekind를 따라 이 “명백한” 진리가 표준적인 논리적 가정으로부터 증명될 수 있을 것이라 생각했었다(339節, 357쪽). Kayser가 이에는 논리 외적인 가정이 연관되어있다는 취지의 문제를 제기하자, 「무한공리」에서 Russell은 무한공리를 진술할 필요는 없다는 주장으로 응수했다. 하지만 얼마 지나지 않아 Russell은 생각을 바꾸어, (짐작건대 유형론적인 고려사항으로 인해서) 그 공리가 무한하게 많은 개별자들의 존재를 주장하는바 따라서 순수하게 경험적인 가정이라고 결론짓는다.11)

11) 마지막 새로운 공리로서 그 악명 높은 환원가능성 공리 역시 『수학원리』의 체계에 필요한 것이었다. 물론 이는 Ramsey가 제안한 (외연적) 버전의 단순simplified 유형론에서는 불필요하다(이번 章의 註7 참조). 이 공리는 상당히 웅변적인 불만을 유발했다. 여기 한 가지 좋은 사례가 있다: “특히 두 번째 요점〔Russell의 환원가능성 공리〕에 관해 말하자면, 수학은 실증과학이 철학에 대항하여 일으킨 비굴한 노예적 반란에, 즉 反-정신적 사고방식에 입각하여 일으킨바 민주적 평준화 과정을 통해 정신적 사고방식과 그 위계적 구조에 대항하는 반란에 온전히 동참하고 있음을 보여준다. 그리고 이러한 결과는 ‘당신의 내적 본성은 무엇이며 그 본성은 어떤 결과를 가져오는가?’라는 물음을, 그와는 전연 다른 ‘당신은 무엇에 사용될 수 있는가? 여차여차한 공리들에 의해 표준화된 생산절차에서 당신이 하나의 역할을 담당하게 되었을 때, 과연 어떤 이익을 창출할 수 있는가?’라는 물음으로 바꾸어버린다. Brouwer의 직관주의 수학은 정신이 고래로 지녔던바 성스러운 권리의 복권을 대표한다.” (Hermann Weyl, 「수학에서의 정합성Consistency in Mathematics」(1929), 150쪽.)

이러한 새로운 공리들은 고전수학을 환원하는 데에 필요한 것들이었다. 하지만 그것들을 “논리학”의 일부라 할 수 있는가? Frege와 Russell이 수학을 환원시키고자 했던 그 “논리”란 정확히 무엇이었던가? 설사 논리학의 본성에 관한 물음을 도외시한다 하더라도, 논리적인 것이든 아니든 간에 그러한 공리들이 여하간 참인지 여부, 혹은 그것들을 받아들일 만한 여타 이유가 있는지 여부에 관한 의문은 여전히 남는다.

한 때 Russell은 모순에 대해 자신이 느끼는 바가 사악한 교황에 대해 독실한 가톨릭 신자가 느끼는 바와 유사하다고 비유한 바 있다. 이들 “논리적” 공리에 대한 그의 태도는 더할 나위 없이 호의적이었던바, 모순을 피할 수는 있더라도 공리들은 폐기할 수 없다는 것을 그가 알아차렸을 때에는 특히나 더욱 그러하였다. Frege는 자신의 체계가 지닌 모순을 해소하려던 몇몇 시도 끝에 논리주의에 무슨 일이 일어나고 있었는지를 분명히 알아차렸다. 논리주의가 논박되었다는 사실을 인정한 것이다. 반면 Russell은 동일한 사건을 논리주의 기획을 再정립할 기회로 간주하였다. 최초에 그는 집합 문제에 관해서는 철학자들의 편에 섰었지만, 앞서 말한 기이한 공리들을 가정하지 않고는 수학의 “기초”를 제공할 다른 방도가 없음을 깨닫고 나자, 논리주의 기획이 실패한 것처럼 보이게 만든 애초의 철학적 표준을 개정해야 할 시기가 이르렀다고 판단했다. 주요 착상은 새로이 발전된 결과들이 논리주의를 입증하게끔 만들어줄 법한 논리학에 대한 구상을 모색하는 것이었다. 미구에 Russell은 그러한 구상을 찾아낸다:

사실상 자명성(自明性)self-evidence은 공리를 받아들이는 이유의 일부일 뿐 결코 필수불가결한 요소는 아니다. 여타 명제들을 수용하는 이유와 마찬가지로, 공리를 수용하는 이유는 대체로 귀납적이다. 즉 한 공리로부터 의심의 여지가 거의 없는 많은 명제들이 연역될 수 있고, 해당 공리가 거짓일 경우엔 그런 명제들을 참으로 확립시켜줄 동등하게 합당한 방식이 일절 알려져 있지 않으며, 거짓일 가망이 있는 그 어떤 명제도 해당 공리로부터 연역가능하지 않다는 것 등이 바로 그 공리를 수용하는 이유이다. (『수학원리』, 59쪽.)

그보다 몇 해 전, “논리주의logistic”에 대한 Poincaré의 공격에 응수하면서 Russell은 논리적 토대를 선택하는 문제에서 절대적 확실성에 대한 요구는 자신의 논리주의 기획의 일부가 아니라고 지적했다. 이는 논리주의가 의존하는 증거의 본성에 관해 널리 퍼진 흔한 오해라고 설명하면서 Russell은 “사실 나 역시도 모순에 직면하기 전까지는 이런 생각을 품고 있었다”고 각주에서 덧붙인다(「‘해결불능문제’ 및 기호논리에 의한 그 해결에 관하여On ‘Insolubilia’ and Their Solution by Symbolic Logic」(1906), 『분석적 소론들』, 193쪽). 이어서 말하길 “논리주의적 방법은”

근본적으로 여타 모든 과학의 방법과 동일하다. 즉 동일한 종류의 오류 가능성과 불확실성, 동일한 종류의 귀납과 연역의 혼합체, 원리들을 입증함에 있어 관찰과 함께 계산된 결과들이 널리 받아들여진다는 데에 호소해야할 필요성 등이 동일하게 존재한다. 목표는 “직관”이란 것을 단순히 제거하는 것이 아니라 그것을 도입하는 방식을 시험하고 체계화하는 것이다. … 이 모든 점에서 논리주의는 (가령) 천문학과 정확히 동일한 수준에 있다. 다만 천문학의 경우 검증은 직관이 아니라 감각으로부터 영향 받는다는 점만이 다를 뿐이다(194쪽).12)

12) 또한 「수학의 전제들을 발견하는 역행적 방법The Regressive Method of Discovering the Premises of Mathematics」(1907), 『분석적 소론들』, 273-4, 282쪽도 참조할 것.

 이것이 바로 Russell이 논리주의에 대한 도전에 응수하면서 형성했던바 논리학에 대한 새로운 관점이다. 그의 손에서 논리학은 수학뿐만 아니라 심지어 물리학을 닮은 모양새가 되었다. 하지만 다른 한편으로는 선험성 및 확실성이라는 전통적인 이상과 접점을 잃지 않으려는 노력이 여전히 유지되었다. Russell은 어떤 명제들의 경우 “내재적인inherent” 혹은 “고유한 명백성intrinsic obviousness”을 지닌다고 주장했다. 그가 다르게 칭한바 이러한 “직감적인 믿음instinctive belief”의 영역은 “여타 모든 지식에 필수적인 토대를 제공한다 … 이 명백성은 자연과학의 경우 감각의 명백성인 반면 수학의 경우 선험적 명백성이다.” (「수학의 전제들을 발견하는 역행적 방법」, 『분석적 소론들』, 279쪽.) 고유한 명백성은 “모든 과학의 토대”이다(279쪽). 하지만 Russell은 고유한 명백성이 교정불가능한 것은 아니라는 점을 지적한 것 외에는, 이러한 “모든 과학의 토대”에 관한 설명이나 정당화에 대해 사실상 아무런 언급도 하지 않았다. 토대론적 희망은 여전히 고수되고 있었지만, 그 희망에 의해 촉발된 기획은 그 희망이 달성되었음을 입증하는 것으로 간주될 법한 실질적인 무언가를 아직 산출해내지 못하고 있었다.

논리란 무엇인가?

의미론적 전통은 논리적 지식 및 여타 선험적 지식에 대해 제시한 이미지는 그 이전의 여하한 설명보다도 훨씬 탁월한 것이었다. 하지만 그 전통은 선험적 지식을 선험적으로 알려지게 만들어주는 요소가 무엇인지 설명하지 못함으로써 그 이미지를 온전하게 완성해내지 못했을 뿐만 아니라, 선험적인 것과 후험적인 것 간의 구분을 설명하고자 했던 그 소박한 (때로는 무척 길게 이어진) 시도마저 성공적으로 수행해내지 못했다. 바로 이러한 문제점의 문턱에서 의미론적 전통은 그 한계에 직면했다.

Kant주의자와 의미론주의자는 모두 선험성에 막대한 의의를 할당했다는 점에서 실증주의자와 달랐다. 앞 章들에서 우리는 의미론주의자들이 Kant 이론을 패퇴시킨 뒤 그들 고유의 건설적인 관점으로 선험성에 기여해온 역사를 탐구하였다. 그들은 어떤 식으로든 세 가지 쟁점에 직면했던바 이제 그것들을 명확히 구분할 시점이다. 세 가지 쟁점들은 각각 선험적 지식의 범위extent, 내용intent, 근거ground에 관한 물음으로 칭해질 것이다. 가령 논리학의 경우, 논리적 참의 범위에 대한 물음은 논리적 참의 자격을 부여받는 진술들 집합에 관한 물음이다. 논리학의 내용에 관한 물음은 어떤 진술을 논리적 참으로 만들어주는 요인이란 무언인가에 관한 물음, 혹은 그러한 구분이 애초에 왜 필요한가에 관한 물음이다. 마지막으로 논리학의 근거에 관한 물음은 논리적 참이 참이라고 믿을 만한 이유가 무언인가에 관한 물음이다.

앞節에서 우리는 Russell 및 다른 인물들이 그들의 손에서 형태를 갖추어가던 논리학의 본성을 이해하는 문제를 두고 어떻게 씨름하였는지 살펴보았다. 논리주의 기획이 야기한 복잡다단한 문제들에 압도된 Russell은 선험적 지식에 대한 우리의 인식이 그렇지 않은 지식에 대한 인식과 종적으로 다르지 않다고 결론 내렸다. 또한 선험적 주장의 의미에는 선험적 지식과 그에 대한 후험적 대응물을 구분케 해줄 아무런 요소도 없다고 주장했다. 그렇다면 그 구분을 정당화해주는 것은 대체 무엇인가? 논리적 참의 내용과 그 근거는 무엇인가?

19세기 철학자들의 거의 대부분이 종합적이면서 선험적인 지식이라는 화제에 관해서는 명확한 입장을 취해야 할 필요성을 느꼈던 반면, 그에 대한 대응물 즉 분석적이면 선험적인 지식에 대해서는 논의할 거리가 그리 많다고 여기지 않았다. 혹자는 논리학이 동일률과 모순율을 넘어서 더 나아감에 따라 이러한 태도의 부적절함이 자연히 명확해질 것이라 기대했는지도 모른다. 하지만 비록 의미론적 전통의 구성원들이 수리논리의 독자적인 창시자였다 하더라도, 그들이 창안한 논리학의 본성과 토대에 관해서는 아무런 중대한 언급도 거의 하지 않았다. 작금에 우리가 아는 바로서의 논리학이 Frege와 Russell의 작업에서 탄생하였다는 사실에는 의심의 여지가 없다. 『개념표기법Begriffsschrift』, 『근본법칙』, 『수학원리』에서 그들은 어떤 진술들 및 추론 패턴들이 논리학의 승인을 받을 수 있는지에 관해 그 이전의 어느 누구보다도 더욱 탁월한 설명을 제시하였다. 하지만 논리학은 왜, 어떤 근거에서 그것들을 논리적인 것으로 재가해주는가?

Frege 작업의 목표는 산술학에 대해 논리적 토대를 제공하는 것이었다. 하지만 그가 논리학 자체의 토대를 한 번이라도 진지하게 고려하였음을 드러내는 징표는 아무것도 없다. 이는 단순히 그의 저술에서 논리학의 내용과 근거를 명시적으로 탐구하는 진술을 찾아내기가 어렵다는 의미가 아니다. 오히려 Frege는 우리가 논리학을 믿는 게 왜 정당화되는지를 설명할 의도 자체를 일절 품고 있지 않았다. 8章에서 살펴보겠지만 Wittgenstein은 Frege가 추론규칙에 호소하는 것을 비판하였다. 가령 그는 전건긍정규칙이 ‘A→B’와 ‘A’로부터 ‘B’를 추론하는 것에 아무런 정당성도 제공하지 않는다고 불평한다. 이 지적 자체는 올바르긴 하지만, Wittgenstein은 Frege의 의도가 추론을 정당화하는justificatory 역할을 추론규칙에 부여하는 것이었다고 잘못 가정한 채 엇나간 불만을 제기한 셈이다. Frege가 추론규칙이라는 착상을 제시한 것은 그가 칭한바 “엄밀한 과학적 방법의 이상”에 기여하기 위함일 뿐이었다. 그는 말하길 “이러한 이상은”

여기서 내가 실현코자 노력했던 것이자 실지로 Euclid를 따라 이름붙인 것으로서, 이를 다음과 같이 기술할 수 있겠다: 모든 것이 증명되어야 한다고 요구할 수는 없다. 이는 불가능하기 때문이다. 다만 우리가 요구할 수 있는 바는, 증명 없이 사용되는 모든 명제들이 표현적으로 분명하게 서술됨으로써, 전체 구조가 무엇에 의존하고 있는지를 뚜렷하게 식별할 수 있어야 한다는 것뿐이다. … 이에 더해 내가 요구하는 바는 (그리고 이 지점에서 나는 Euclid를 벗어나는데) 도입되는 모든 추론방법들이 사전에 명시되어야 한다는 것이다. 그렇지 않을 경우 앞의 첫 번째 요구사항이 만족되는지 여부를 확신할 수 없기 때문이다. (『근본법칙』, 2쪽.)

따라서 Frege의 목적은 토대적인foundational 것이라기 보단 체계적인systematic 것으로서, 필요한 가정들을 국소화 및 최소화하는 것이었다. 그리고 이런 식으로 뚜렷한 목적의식에 입각하여 토대론적 물음을 도외시하는 태도는 공리화되는 이론이 논리학 그 자체인 경우로까지 확장된다. Frege의 논리적 기획이 목표하는 바는 논리적 공리들 및 논리적 규칙들을 명시적으로 기술하는 것이지, 왜 그것들을 받아들여야 하는지 설명하는 게 아니다: “어떤 논리법칙이 참이라는 것을 왜 그리고 어떤 권리로 받아들여야 하느냐는 물음에 대해, 논리학은 그저 그 법칙들을 여타 논리법칙들로 환원함으로써만 대답할 수 있을 뿐이다. 이것이 불가능한 곳에서 논리학은 아무런 답도 제시할 수 없다.”(15쪽) 분명 Frege는 “논리학은 스스로를 책임져야한다logic must take care of itself”고 믿지 않았다. 그럼 무엇이 책임져야 하는가? 이는 Frege도 모른다:

논리학에서 한 걸음 물러나서 본다면 우리는 이렇게 말할 것이다: 우린 그저 우리의 고유한 본성 및 외적 환경에 의해 그렇게 판단하도록 강요될compelled 뿐이다. 그리고 그게 사실이라면 우리는 가령 동일성 법칙과 같은 논리법칙들을 거부할 수가 없다. 우리의 사고방식을 혼란에 빠지게 함으로써 최종적으로 모든 판단을 단념하려는 게 아닌 바에야, 우리는 논리법칙을 인정해야만 한다. 나는 이 점에 관해서는 아무런 논박도 옹호도 제시하지 않을 것이다. 다만 여기서 우리가 손에 갖고 있는 바는 논리적 귀결이 아니라는 점만을 지적할 뿐이다. [논리의 정당성과 관련하여] 우리게 주어진 것은 무언가가 참이라는 데 대한 이유가 아니라, 우리가 그것을 참이라고 여기는 데 대한 이유이다. (15쪽)

이것이 논리학의 내용 및 근거라는 주제에 대해 Frege가 말하는 전부이다. 작고하기 몇 달 전 Frege는 지식의 원천에 대한 글 한 편을 썼다. 거기서 말하길 지식의 근원으로는 감각지각, “지식의 논리적 근원”, 기하학적이고 시간적인 근원 세 가지가 존재한다고 주장한다. 첫 번째와 세 번째가 무엇인지는 거의 의문시되지 않지만, Frege는 두 번째에 대해 아무런 설명도 제시하지 않는다. 그는 “지식의 원천은 진리에 대한 인식을 정당화한다”고 말한다. 하지만 논리적 근원이 “전적으로 우리 내부에 있다”는 말 외에, 이 주제에 관한 그의 모든 발언은 일상언어가 저지르는 논리적 오류의 범위와 연관되는 것들뿐이다. 그러니 다음과 같은 결론은 불가피해 보인다: 현대 논리학의 아버지는 논리적 참의 근거에 대해 아무런 의견도 갖고 있지 않았다.

Russell은 어떠한가? 의심할 바 없이 『수학원리』는 오늘날에 이르기까지 논리적 진리들을 가장 완벽한 형태로 체계화한 저작이다. 하지만 Ramsey의 『수학기초론』에 대한 논평에서 Russell은 “당시에 나는 수학적〔즉 논리적〕 명제에 대한 정의를 단 하나도 갖고 있지 못했다”는 점을 시인한다(「F. P. Ramsey의 『수학기초론』에 대한 논평」, 477쪽).13) 직설적으로 말하자면 Russell은 자신이 체계화하는 것이 도대체 무엇인가에 대해서는 명확한 생각을 갖고 있지 않았다.14) 다만 Frege와 달리 Russell은 [논리학의 본성에 대한] 자신의 사적인 망설임을 공적으로 드러내는 데 주저치 않았다.

13) Ramsey는 논리적 진리가 논리적 원초용어logical primitive들만 포함하는 참인 진술이라는 관점을 Russell이 견지한 것으로 간주하였다(『수학기초론 및 여타 논리적 小論들』, 4쪽). 논평에서 Russell은 이런 역사적 사안에는 굳이 이의를 제기하지 않았다.

14) 논평에서 Russell은 이렇게 덧붙인다: “이제 논리학에 대한 Wittgenstein의 정의에 따라, 나는 논리적 진리가 항진적(恒眞的)(同語반복적) 일반화tautologous generalization라는 데에 동의한다.”(477쪽) 하지만 몇 년 뒤 『원리들』에서는 “이러한 특성화〔즉 항진성 혹은 분석성〕를 명확히 정의하기란 결코 쉬운 일이 아니다”(ix쪽)라고 솔직하게 수긍한다. 그러고 난 뒤 다음과 같은 말들을 덧붙인다: 논리적 명제는 “그 형식에 의해” 참인true “in virtue of their form” 명제이다(xii쪽). “논리학에 대한 적절한 정의가 내려져야 한다면” 우리는 “그 형식에 의해 참”이라는 말의 의미를 설명해야만 한다. 그리고 최종적으로, “나는 한 명제가 ‘그 형식에 의해 참’이라는 말의 의미를 어떤 식으로든 명확히 설명해낼 수가 없다”고 말한다(xii쪽). 간단히 말해 당시에도 Russell은 논리학이 무엇인지 여전히 모르고 있었다.

이미 살펴보았듯이 Russell은 어떤 식이 논리학의 진리로 받아들여지는 이유가 “귀납적”이라고 설명했다. 다르게 말해 논리학의 공리들이 받아들여지는 이유는 지질학의 공리를 받아들이게끔 하는 이유와 동일한 유형에 속한다: 즉 두 종류의 공리 모두 본질적으로 명백하거나, 그로부터 본질적으로 명백한 주장들을 연역할 수 있기 (그리고 그 외의 적절한 대안은 없기) 때문이다. 그러면 남는 문제는 누군가(가령 Frege)에겐 Euclid 기하학이 본질적으로 명백해 보이는 반면, 다른 누군가(가령 Russell)에겐 탁자와 의자에 관한 명제들 내지 그에 대응하는 감각자료에 관한 명제들이 명백해 보인다는 것이다.

이보다 더 심각한 문제는 선험적 명제가 필연적이지 않다는 Russell의 관점이었다. 단순히 경험적인 주장과 순수하게 선험적인 명제는 그것들이 사실에 대해 맺는 관계만을 고려하는 한 전적으로 똑같기 때문에, “참인 명제들 중 필연적인 것과 단순한 사실에 관한 명제를 구분하는 것은 불가능해 보인다.”(「복합체와 가정에 대한 Meinong의 이론Meinong’s Theory of Complexes and Assumptions」, 『분석적 소론들』, 26쪽.)15) 예를 들어 “모순율은 … 세계 내 사물들에 관한 사실이다.”(『철학의 諸문제The Problems of Philosophy』, 89쪽.) 이러한 입장은 논리법칙이 우리 사유에 관계한다는 것을 부정할 뿐만 아니라, 논리학의 주제가 양상적 효력modal force을 일절 지니지 않는 단순한 사실mere fact일 뿐임을 천명하기도 한다. 모순율은 가령 나무에 관한 것으로서, 나무에 대해 모순율이 진술하는 바는 “저 나무가 너도밤나무라면 그것은 동시에 너도밤나무가 아닐 수 없다는 것”(89쪽)일 뿐이다.16) Russell式 의미론의 관점에서 보는 한 모순율과 지질학의 진술은 기본적으로 동일한 의미론적 구조를 갖는다: 즉 양자 모두는 세계에 발생할 수 있는 특정 사실을 주장한다. 두 종류의 진술이 지닌 “의미”[세계 내 지시체]에 있는 그 어떤 요소도 우리가 추구하는바 그 불분명한 구분[양상적 구분]을 가능케 해주지 않는다: “선험적 일반명제와 경험적 일반화 간의 차이는 그 명제의 의미에 반영되지 않는다not come in the meaning.” (『철학의 제문제』, 106쪽.) 그럼 그 차이는 어디에서 오는가?

15) Bradley에 대한 응답에서 Russell은 다음과 같이 쓴 바 있다: “나 자신은 필연성 및 우연성을 근본적인 개념fundamental notion으로 인정하지 않는다. 내가 보기에 근본적으로 참인 것은 그저 사실상 참인 것에 불과한 것처럼 여겨진다.” (「Bradley 씨에 응답하는 몇몇 설명들」, 374쪽.)

16) 하지만 여기서 “…일 수 없다cannot”는 표현은 Russell이 저지른 실수를 보여주는 흥미로운 표현이다. 그 단어가 무엇을 의미할 수 있는지 순환적이지 않은 방식으로 설명할 방도가 Russell에게는 없다.

Platon은 선험성과 후험성 구분에 대한 하나의 표준적인 설명방식을 제시하였다: 우리는 그것들이 근본적으로 다른 영역들을 지시하는 주장이라 생각한다. 선험성은 고정되고 불변하는 특정 대상들에 관계하는 반면 후험성은 변화무쌍한 경험세계를 다룬다. 하지만 Aristoteles 이후로 일부 사람들은 이러한 견해가 그대로 믿기에는 터무니없이 과장되었다고 여겼다. 이후 전개된 인식론의 역사는 대부분 Platon과 Aristoteles에 대한 수다한 각주들로 빼곡히 채워졌다.

그 각주들 중 하나로 1915년 Wittgenstein이 쓴 것이 있다. 그는 “내 방식은 부드러운 것에서 단단한 것을 분리해내는 게 아니라, 부드러운 것 속에 있는 단단함을 보는 것이다”(『노트Notebooks』, 44쪽.)라고 썼다. 여기서 Wittgenstein이 Russell을 염두에 두고 있다 생각하기 쉽다. 왜냐하면 그보다 삼년 전 Russell은 선험성 문제에 대해 다음과 같은 해결책을 제시한 바 있기 때문이다: “우리의 모든 선험적 지식은, 적절하게 말하자면 정신적인 세계에도 물리적인 세계에도 실재exist하지 않는 실체들에 관계하는 것처럼 보인다.” (『철학의 제문제』, 89-90쪽) 이러한 실체들은 우리 언어에 있는 특정 일반표현general expression들의 의미로서, Russell이 칭한바 “보편자(普遍者)universal”와 “형식form”이다:

따라서 보편자의 세계는 존재의 세계world of being라고도 기술될 수 있겠다. 존재의 세계는 불변하고 엄정하고 명확한바, 수학자, 논리학자, 형이상학적 체계의 건축가 등 삶보다 완전함을 더 사랑하는 모든 이들에게 큰 기쁨을 선사한다. 반면 실재의 세계world of existence는 찰나적이고 모호하고 뚜렷한 경계가 없으며 그 어떤 명확한 계획이나 정연한 배치도 없다. (『철학의 제문제』, 100쪽.)

이러한 보편자들의 세계를 인지하면 “선험적 지식에 관한 문제는 해결된다”(100쪽). 혹은 Russell은 그렇게 되길 바랐다.

Platon주의에 늘 따라붙는 문제는 선험적 지식을 정의함에 있어 인간 존재가 어떻게 그러한 지식에 접근할 수 있는지를 만족스럽게 설명해내지 못한다는 점이다. “모든 선험적 지식은 오로지 보편자들 간의 관계만 다룬다”(103쪽)는 식으로 선험적 지식의 주제를 명시하는 것만으로는 우리가 그것을 어떻게 알게 되는지를 충분히 설명해내지 못한다. 그러한 보편자들과 그 관계들에 도대체 어떻게 접근할 수 있는지가 더 설명되어야 한다: 보편자와 형식의 세계를 한낱 인간의 인식론과 연결지어줄 그 의미론적 송과선semantic pineal gland은 대체 무엇인가? 바로 이것이, 그 어떤 형태의 것이 되었든 Platon주의가 그저 상식을 화려하게 포장하는 말 이상의 진지한 철학적 입장이 되고자 한다면, 현실세계와 동떨어진 믿기 어려운 세계뿐만 아니라 그 세계에 접근하는 믿기 어려운 능력 역시 상정해야만 하는 이유이다.

표상(表象)에 대한 화학적 그림chemical picture of representation의 옹호자들 역시 복합표상을 이루는 궁극적 단순체에 우리가 어떻게 접근하는지를 결코 만족스럽게 설명해낸 바가 없다. 이 주제에 관해 그나마도 그 진영에서 내놓을 수 있는 견해들은 다음과 같이 이미 Hume이 전부 말해버린 것들이다:

복합관념complex idea은 아마 정의에 의해 가장 잘 알려져 있을 것인바, 이 정의란 다른 게 아니라 복합관념을 구성하는 부분들 내지 단순관념simple idea들을 그저 나열해놓은 것에 지나지 않는다. 하지만 가장 단순한 관념 그 자체를 더 정의하고자 한다면, 우리는 단지 모호함과 불분명함만을 발견하게 될 것이다. 그 때 우리가 가진 재원은 무엇인가? 무엇을 고안해야만 이 단순관념들을 설명해줄 실마리를 밝힐 수 있겠는가? … 인상(印象)impression 내지 원본 감정original sentiment이 발생하고, 이로부터 단순관념들이 복사된다. (『인간 지성에 관한 探究An Enquiry Concerning Human Understanding』, 1部, 7節, 41쪽.)

감각인상의 영역으로만 제한했다는 점만을 제외하면 Russell은 Hume에게 대체로 동의했을 것이다. 정의불가능한 것the indefinable들에 대한 Russell의 해결책, 그의 “의미론적 송과선”은 직관이었다. 물론 Russell은 ‘직관’이 내비치는 Kant적인 느낌 때문에 그 용어를 거의 사용하지 않았지만, 이는 그가 칭한바 “직접대면” 및 그것의 명제적 올바름 내지 자명성과 가장 잘 어울리는 적확한 단어이다. 1900년에 Russell은 철학에서 “핵심은 정의불가능한 것 및 증명불가능한 것the indemonstrable에 있으며, 이를 위해 이용 가능한 방법은 직관밖에 없다”(『Leibniz 철학의 비판적 해설A Critical Exposition of the Philosophy of Leibniz』, 171쪽)고 설명했다. 또한 앞서 살펴보았듯이 그는 『원리들』에서 다음과 같이 설명하기도 한다:

철학적 논리학의 핵심부를 형성하는 정의불가능한 것들에 대해 논의하는 이유는, 그와 연관될 실체들을 명확히 식별하고 또 남들로 하여금 식별케 하기 위함인바, 그럼으로써 정신은 마치 빨간색이나 파인애플 맛을 직접대면하는 것과 마찬가지로 그러한 정의불가능한 실체들을 직접대면하게 될 것이다. (xv쪽)

십 년 후에도 그는 여전히 모든 지식이 정의되지 않은 용어들 및 증명되지 않은 명제들에서 시작한다고 설명하면서, “무정의 용어들은 직접대면에 의해 이해되고, 증명되지 않은 명제들은 자명성에 의해 알려진다”(『지식론Theory of Knowledge』, 158쪽)고 말한다. 직접대면에 입각한 인식론과 Platon주의적 존재론은 Russell이 선험성 문제에 대해 내놓은 한 쌍의 답변이었다. 그리고 그의 논리철학은 이 한 쌍의 즉각적인 귀결이다. Russell의 접근법 전체가 잘못 구상되었다는 Wittgenstein의 비난을 [다음 章에서] 살펴보기에 앞서, Russell이 이 사안에 관한 구상을 명확하게 가다듬으려 했던 최종적인 시도를 간략히 살펴볼 필요가 있다.

『지식론』에서 Russell은 세계를 이루는 궁극적인 가구ultimate furniture로는 세 가지 사물의 범주가 있다고 설명한다: 개체particular, 보편자, 형식이다. 처음 두 가지는 (그러한 것들이 존재하는 경우) 명제의 구성요소들이다. 반면 명제 자체는 형식으로서, “개체와 보편자가 복합체로 결합되는 방식이다. 논리학에서 발견되는 것은 바로 이러한 순수 ‘형식’이다” (98쪽.)

Russell은 논리학이 모든 과학들 중에서 가장 일반적인 학문이라는 생각을 늘 품고 있었다. 개별자이든 보편자이든 어떤 특정한 것을 언급하는 명제는 논리적인 명제일 수 없다. “논리적 명제를 여타 명제들과 구분해주는 시금석”은 논리적 명제들이 “극도의 일반화 절차를 거친 결과”(『지식론』, 97쪽)라는 점이다. 따라서 거꾸로 명제에서 모든 개별 구성요소들을 제거하는 절차를 통해 논리적인 것에 도달한다고 생각해볼 수 있다. 물론 제거절차의 결과 남는 것은 다른 어떤 것의 구성요소도 아니며 그것 내에 구성요소들을 포함하고 있지도 않다.17) 하지만 그럼에도 불구하고 이 역시 어떤 것something으로서, 그 형식을 지닌 명제를 이해할 때 우리가 직접대면하는 것이다.

17) “종류를 불문하고 그 어떤 확정적인 실체definite entity도 진정 논리적인 명제의 구성요소가 아니다.” (Russell, 『지식론』, 97-8쪽.)

Russell은 우리가 분명 형식을 직접대면한다고 생각했다. 그렇지 않으면 처음 보는 명제를 우리가 무리 없이 이해할 수 있다는 사실을 설명해낼 수 없었기 때문이다. 처음 보는 명제 역시 익숙한 대상들이 익숙한 형식으로 재배열된 것일 뿐이다. x에 대한 직접대면은 x의 실재성을 함축하기 때문에, 형식은 집합이나 명제 같은 기호적 허구symbolic fiction가 아니라 엄연한 대상이라는 점이 따라 나온다(129쪽). 그렇다면 형식은 어떤 대상인가? 이는 10년 전 Russell이 명제에 대해 제기했던 유사한 질문을 상기시킨다. 그리고 이번에도 그는 다음과 같은 답변이 되어야 한다고 결정한다: 형식은 모종의 사실some sort of fact이다. 예를 들어 Socrates는 Platon보다 앞선다라는 복합체를 생각해보자. 이 복합체의 형식은 우리가 직접대면하는 것이어야만 하며, 복합체의 구성요소들이 전부 제거된 뒤 남는 바와 연관된 것이어야만 한다. [그러한 형식이 도대체 어떤 사실인가에 관해] Russell의 선택은 다음과 같다: 무언가가 무언가에게 어떤 관계를 맺는다. 이런 종류의 사실들이 바로 논리학의 주제이다. 논리적 명제를 다른 명제들과 구분해주는 것은, 논리적 명제의 경우 그것을 표현하는 주장을 이해하는 것만으로도 그 명제가 참인지를 아는 데에 충분하다는 것이다. 그것이 충분한 이유는, Russell이 이해하는 한 이런 유형에 속하는 진술에 경우 이해와 직접대면 간의 구분이 존재하지 않으며(190쪽), 그에 따라 이해와 참의 인식 간에도 구분이 존재하지 않기 때문이다. 간단히 말해 논리적 명제를 표현하는 진술의 경우 우리는 그 “주장”을 참이게 만드는 사실[즉 논리적 형식] 그 자체를 직접대면한다.18) 이에 대해 Russell은 다음과 같은 논거를 제시한다: 지금 고려중인 사례의 경우 직접대면과 이해 사이에서 “나는 內省적으로introspectively 아무런 차이를 발견할 수가 없다.” (131-1쪽.)

18) “사실에 대한 직접대면은 그 사실이 존재하는 경우에만 가능하다.” (Russell, 『지식론』, 130쪽.)

이것이 논리학의 본성에 대한 Russell의 견해라면, 『수학원리』가 과연 논리학이라는 분야와 연관되는지 여부는 심각한 의문에 부쳐진다. 앞서 주장된 것처럼 이해와 논리적 명제의 진리성이 밀접하게 연관된다면, 『수학원리』에서 요구되는 새로운 공리들에 심각한 문제가 제기된다. 몇 년 뒤 Carnap은 Wittgenstein의 지지자들을 향해 다음과 같은 점을 지적한다: 수학에서 이해가 진리를 함축한다고 진지하게 생각한다면, 그들은 Fermat의 마지막 정리를 표현하는 진술조차도 전연 이해하지 못한다는 점을 받아들여야 한다.

논리적 명제는 불가사의한 지위를 얻게 되었다. Russell 역시 논리적 “사실”이란 것이 아무런 구성요소도 포함하지 않는다는 게 얼마나 기이한 일인지 언급한다. 그는 논리적 사실이 “순수형식에 필수적인 모든 본질적 특성들”(『지식론』, 129쪽)을 지니고 있다는 점에는 만족하는 한편, “순수형식이 단순하다면, 그것들에 John이나 Peter같은 고유명을 붙이는 게 왜 그리도 부적절해보이는 것인가?”(130쪽)하는 의문을 제기한다. 이는 논리적 사실 역시 모종의 복합성을 지닌다는 걸 암시하지는 않는가? 정확히 무슨 일이 벌어지고 있는 것인가?

당시 벌어지고 있었던 일은, 논리학에 대한 접근법이 결국은 스스로를 불합리한 데로 몰고 갔다는 것이다. 이런 기류는 앞서 인용되어온 『지식론』의 원고를 Russell이 보여주었던 그의 제자의 눈에 놓치지 않고 포착되었다. Wittgenstein이 가했던 혹독한 비판(8章 참조)으로 인해 Russell은 그 원고를 출판하려던 계획을 단념하고는 기초적이고 “논리적”인 문제들에 대한 철학적 사유를 잠시 중단했다.19)

19) 몇 년 후 Russell은 Wittgenstein의 비판 때문에 자살까지 생각했을 정도였다고 술회했다. 그는 진지한 철학적 연구를 포기할 생각까지 했던 것으로 전해지지만, 이후로도 소위 외부세계 문제와 같은 주제들에 관해 외려 왕성하게 저술활동을 하였다.

여기서 우리는 다음과 같은 Descartes적인 소망Cartesian dream의 종말을 목격한다:

우리가 보편자들 간의 그러한 관계를 지각할 능력을 지닌다는 것, 그리고 그에 따라 산술학이나 논리학의 명제들과 같은 선험적 일반명제들을 알 수 있는 능력을 지닌다는 것은, 우리가 가진 지식에 대한 반성(反省)reflecting upon을 통해 드러나는바 엄연한 사실로 간주되어야만 한다. (『철학의 제문제』, 105쪽.)

“그것은 엄연한 사실로 간주되어야” 하겠지만, 실상 Russell의 지도하에 논리학이 걸어온 길을 되짚어보면 이러한 “사실”이랄 게 실상은 토대문제를 직면하길 그저 거부하는 것, 의미론적 전통이 발견해낸 결과들에 의해 진작 폐기되었던 고대의 소망으로 회귀하는 것에 지나지 않는 것처럼 보인다.

이런 유형의 Descartes주의는 Kant주의가 철학에 야기한 결과와 비교해보면 꽤 매력적인 대안처럼 여겨졌다. 하지만 최종적으로는 의미론적 기획을 근본적으로 수정해야 할 필요성이 인식되는 시기가 도래했다. 새로운 접근법이 어떠해야 할지에 대한 첫 번째 명백한 조짐은 예상치 못한 분야에서 출몰했다: 바로 기하학의 토대에 대한 고찰이다. 아이러니컬하게도, 최종적으로는 논리학의 본성을 이해하는 데에 일조하게 될 발전방향에 가장 거침없이 저항했던 인물들은 Frege와 Russell이었다.

기하학이란 무엇인가?

의미론주의자들이 Kant적 해결책에서 발견한 심리주의psychologism를 회피하려 분투한 동시에 의미론적 일원론semantic monism을 철저하게 고수한 결과 그들에게 남은 선택지는, Kant에 의해 독단적 형이상학으로 판정받은 뒤 설득력 있게 축출되었던 Platon주의뿐이었다. 그리고 그들이 선험성의 토대에 관해 물었을 때 유일하게 제시할 수 있었던 답변은 사실상 직관이었다. 참으로 역설적이게도, Kant의 순수직관에 반대하면서 거쳐 온 그 모든 혁명적 과정의 끝에서 찾아낸 것이랄 게, 정작 Kant 자신은 터무니없는 것으로 간주하여 거부했던 형태의 직관에 대한 호소였던 것이다. 당면 문제를 적절히 다루지 못하는 의미론주의 진영의 무능함이 드러나자, 의미론주의의 통찰과 Kant주의적 요소 일부를 결합하는 새로운 관점이 등장했다. 이 새로운 관점으로의 이행은 세기 전환기에 등장했으며, 그것이 의미론 전통과 일으킨 갈등은 기하학의 기초에 관한 논쟁에서 처음 드러났다.

Russell과 Poincaré는 기하학에서 Kant적 직관을 몰아내어 기하학을 순수 개념적인 분야로 변형시키고자 분투했다는 점에서는 동맹군이었다. 하지만 그 전투가 일단 승리로 끝나고 나자 서로 등지기 시작했다. 둘이 언쟁을 벌인 주제는 겉보기엔 사소해 보였다: 우리는 기초적이고 정의불가능한 기하학적 개념에 어떻게 접근하는가? 대략 비슷한 시기에 Frege와 Hilbert도 동일한 물음을 탐구하고 있었다. 이들은 자신들이 언쟁하는 쟁점이 심지어 논리학 지식과 같은 선험적 지식의 본성에 관한 물음의 핵심 열쇠를 쥐고 있다는 사실을 깨닫지 못하였다.

1880년대 이후로 Poincaré는 기하학의 본성에 관한 주목할 만한 이설을 견지해오고 있었다. 그 관점에 따르면 그 어떤 적절한 기하학적 공리도 “경험적 사실이나 논리적 필연성이나 선험적 종합판단”(Poincaré, 「그의 과학적 업적에 대한 분석Analyse de ses travaux scientifique」, 127쪽)을 표현하지 않는다. 그렇다면 공리는 그것들 외에 대체 무엇이란 말인가? Poincaré가 종종 반복적으로 제시하는 대답은 기하학의 공리가 “위장된 정의(定義)definition in disguise”라는 것이다. Hilbert는 1899년에 출간한 기하학의 기초에 관한 논문에서 이와 밀접히 연관되는 관점을 채택하여 기하학의 공리들을 정의Erklärung로서 기술하였다. Russell과 Frege가 각각 Poincaré와 Hilbert의 견해를 알게 되었을 때 둘의 반응은 흥미롭게도 동일했다: 기하학자들은 정의의 본성에 대해 무언가 철저히 혼동하고 있는바 새로이 깨우쳐질 필요가 있다는 것이었다.

사실 Frege와 Russell은 기하학자들의 요지를 오해하고 있었다. 기하학자들이 해결하고자 주목했던 문제 자체를 놓쳤기 때문이다. 이제 어떤 일이 어떻게 왜 벌어졌는지 살펴보자.

Russell과 Poincaré

1897년 Russell은 『기하학의 기초에 관한 小論An Essay on the Foundations of Geometry』이라는 제하의 연구지원논문을 출간했다. 곧이어 《형이상학 및 도덕 저널Revue de Métaphysique et de Morale》은 Couturat가 그에 대해 쓴 열광적인 논평을 게재하였다. Cuturat는 Russell의 저술이 “수학적 박식함” 및 그에 못지않은 “철학적 문제에 대한 폭넓은 이해력”을 갖춘 정신을 보여준다고 논평한다. 아낌없이 극찬을 쏟아 붓는 가운데 Couturat는 “이런 탁월한 인재를 프랑스에서는 찾을 수 없다는 건 유감스러울 수는 있어도 그다지 놀랍지는 않은 일이다”(「Bertrand Russell의 기하학의 기초에 관한 소론Essai sur les fondements de la Géométrie par Bertrand Russell」, 354쪽)라고 덧붙였다. 《저널》의 다음 호에는 Russell의 책을 길고 세심하며 신랄하게 논의한 Poincaré의 글이 실렸다.

Poincaré가 제기한 많은 문제들 중 우리의 관심을 끄는 것은 Russell이 “가장 중요하고도 어려운 쟁점”이라 칭한바 기하학적 원초용어geometric primitive들의 “정의”에 관한 문제였다. Poincaré는 자신의 규약주의를 옹호하는 일환으로, Russell의 관점에서 보았을 때 수많은 원초개념들이 어떤 의미를 지니고 있는지 설명할 것을 요구했다. Russell은 다음과 같이 답했다:

Poincaré 씨는 “거리와 직선의 정의”를 요구하면서, 그 정의가 (Euclid의) 공준과 독립적이면서 모호하지도 순환적이지도 않을 것을 요구한다(20節). 이에 대해 내가 모든 기초적인fundamental 것은 필연적으로 정의불가능하기 때문에 어느 누구도 그러한 것을 요구할 권리가 없다고 말한다면 그는 아마 놀랄 것이다. 그렇지만 나는 이것이 철학적으로 올바른 유일한 답변이라 확신한다. 대체로 수학자들은 정의의 역할을 늘상 무시해왔으며 Poincaré 역시 이러한 태도를 공유하기 때문에, 나로선 이 쟁점에 대해 더 이상 언급할 사안이 없다. (「기하학의 공리에 관하여Sur les axiomes de la géométrie」, 699-700쪽.)

Russell의 설명에 따르면 정의에는 철학적인 것과 수학적인 것 두 종류가 있다. (차후 “기술구에 의한 지식”이 되는) 수학적 정의는 단순히 한 대상을 이미 알려진 개념 내지 대상에 대해 특정 관계를 맺는 유일한 것으로서 정의한다(700쪽). 가령 문자 A를 B에 앞서는 것으로, 혹은 수 1을 2에 앞서는 것으로 정의할 경우 이는 해당 대상에 대한 수학적 정의이다:

하지만 이러한 정의는 ‘정의’라는 낱말이 고유하게 지닌 철학적 의미에서는 정의가 아니다. 철학적으로 말해 한 용어는 그 의미meaning가 알려질 경우 정의되는데, 여기서 이 의미는 다른 용어에 대한 관계로 구성될 수 없다.20) 무언가를 의미하지 않는 용어를 도입하는 것이 아무 소용없다는 것은 당연하다. 용어의 의미는 복합적일 수도 있고 단순할 수도 있다. 다르게 말해 의미는 다른 의미들로 구성될 수도 있고, 혹은 그 자체가 다른 의미의 구성요소가 되는 궁극적인 요소일 수도 있다. 전자의 경우 해당 용어에 대한 철학적 정의는 그 의미를 구성하는 단순요소들을 나열함으로써 달성된다. 하지만 후자처럼 용어의 의미가 그 자체로 단순할 경우라면 철학적 정의는 불가능하다. … 정의는 철자를 나열하는 것spelling과 비슷한 작업이다. 단어word의 철자를 제시할 수는 있어도 개별 문자letter의 철자를 제시할 수는 없다. Poincaré 씨의 요청은 나로 하여금, 마치 문자 A를 사용하지 않으면서 그 문자를 철자하라고 요구받은 학생과 같은 난처한 입장에 처하게 만든다. … 이는 너무나도 명명백백한 진실이기에, 애당초 수학자들이 이를 무시하지 않았던들 나는 이런 사안을 굳이 언급하는 것조차 민망하다 여겼을 터이다. (700-1쪽)

20) (譯註) 역시 Russell식 의미론에서 의미는 지시임을 유념할 것.

이러한 관점을 기하학에 적용하면서 Russell은 이렇게 끝맺는다:

이런 관찰은 거리 및 직선에도 뚜렷하게 적용된다. 양자는 비유컨대 기하학의 알파벳geometric alphabet에 해당한다 할 수 있다. 그래서 기하학의 여타 용어들을 정의하는 데에 양자가 사용될 수는 있어도 그것들 자체가 정의될 수는 없다. 이로부터, 거리나 직선이 등장하는 임의의 명제는 그 무엇이 되었든 공리나 정의이지 그 단어에 대한 정의가 아니라는 점이 따라 나온다. 두 점에 의해 한 직선이 결정된다고 말할 때, 나는 직선과 점이 이미 알려지고 이해된 용어라고 가정한 채 그들의 관계에 관한 어떤 판단을 내리고 있는 것이다. 이 판단은 참이거나 거짓일 순 있어도, 그 어떤 경우에도 임의적인 것은 아니다. (701-2쪽)

Poincaré가 ‘정의’를 내린다는 것으로써 의도한 바가 Russell이 보기에 그가 본디 의도했어야should 하는 것 즉 분석analysis이었다면, Russell의 논평은 상당히 주효했을 것이다. 하지만 Poincaré는 단순히 사전이 지시하는 바로서의 정의, 즉 한 표현에 의미를 할당하는 절차라는 의미에서의 정의를 염두에 두었을 뿐이다. Mill이 말한 바 있듯이 정의란 “낱말의 의미를 기술하는 명제proposition declaratory of the meaning of a word”(『논리학 체계A System of Logic』, 卷1, 8章 1節, 133쪽)이다. Russell의 관점에서 한 단어를 정의하는 것은 이미 알려진 의미로부터 새로운 의미를 구성construct(종합synthesize)하는 것으로서, 전자는 후자를 구성하는 것으로 여겨진다. 이에 반해 사전적 의미의 ‘정의’가 허용하는 절차는, (‘직시적(直示的) 정의ostensive definition’나 ‘대응관계에 의한 정의coordinative definition’ 등의 경우처럼) 정의가 이뤄지기에 앞서 그런 의미가 이용 가능하다고 간주하지 않는다. 따라서 Russell에게 기하학적 원초용어들을 정의하라고 요구하였을 때 Poincaré는 분석불가능한unanalyzable 것을 분석하라고 요구한 게 아니라, 그러한 원초용어들이 의미하는 바를 충분히 확정적이면서 기하학적으로 수용 가능하게끔 특성화할 것을 요구한 것이다.

Russell은 이러한 요청의 요지를 제대로 간파해내지 못했다. 게다가 이와는 별도로 그는 기하학 공리들의 정식화와 연관된 용어들에 의미를 할당하는 절차에서 그 공리들 자체가 이용될 수는 없다는 것을 분명히 선험적으로 확립할 수 있다고 생각했다. 이에 대한 Russell의 추론은 의미론적 원자론 논제thesis of semantic atomism라 칭해질 수 있는 원리에 호소하고 있다.

이 원리에 따르면 문장 S가 정보를 전달convey information할(혹은 Russell이나 Frege가 칭한바 명제를 표현할) 경우, S의 문법적 단위들은 문장으로 결합되기에 앞서 의미를 지니고 있어야만 한다. 문장을 구성하는 어구들의 의미를 인지하는 것은 해당 문장을 수용하는 것과 별개로 선행되어야 한다. 겉보기에는 문제될 소지가 없어 보이는 원리이지만, 앞서와 같은 기하학적 논쟁에서 이 원리가 담당할 우세한 역할을 이해하게 되면 사정이 달라진다. 우선 이 논쟁에 참여한 모든 인물들이 이 원리를 받아들였다는 점을 염두에 두어야 한다. 다만 차이점은, 철학자들 진영은 이 원리에 의존하여 (전건긍정식을 통해) 기하학자들 진영이 받아들이지 않을 법한 기하학에 대한 구상을 추론해낸 반면, 기하학자 진영 역시 이 원리에 의존하여 (후건부정식을 통해) 철학자들이 진지하게 취급하지는 않을 기하학적 지식에 대한 그림을 추론해냈다는 것이다. 둘 중 어느 방향의 추론 노선을 따를 것인지는 정의불가능 요소들의 특성을 바라보는 태도에 따라 결정된다.

앞서 인용된 Russell의 「기하학의 공리에 관하여」 말미(701-2쪽)에서 우리는 Russell로 하여금 공리가 정의에 활용될 수 있다는 생각이 불합리하다고 여기게 추동한 일련의 사유노선을 엿볼 수 있다. Russell의 추론과정은 사실상 다음과 같았다: 분명히 기하학의 공리들은 명제를 표현하기(정보를 전달하기) 때문에, 의미론적 원자론 논제에 따라 기하학적 원초용어들은 명제가 적절히 표현되는 데에 기여하기에 앞서 어떻게든somehow 의미를 획득한 채여야만 한다. 여기서 Poincaré는 “어떻게든”에 만족하지 않고 어떻게how를 알기 원했다. 즉 이것 혹은 저것이 점인지 직선인지 평면인지 여부를 어떻게 결정할 수 있는지 물었던 것이다. 거리가 무엇인지 우리는 어떻게 말할 수 있겠는가?

의미론적 전통에서 가장 나쁜 형태의 성향이 전형적으로 보이는 반응으로서, Russell은 Poincaré가 인식론을 의미론과 혼동했다고 결론지어버린다. 어떤 것이 사실인지 여부를 어떻게 알아내느냐 하는 사안은 그 “어떤 것”이 무엇인가what that “something” is 하는 사안과 별개라는 것이다:

거리나 각도와 같은 量이 존재한다면, 그것들 측정하는 일은 측정 단위를 선택하는 한에서만 임의적일 수 있으며, 선택된 것과는 다른 모든 측정방식은 단순히 잘못된 것일 수밖에 없다. 반면 그러한 양이 실제로는 존재하지 않는 것이라면 그것은 측정될 수조차 없다. … 두 개의 실제 공간이 동일한지 여부를 어떻게 발견하느냐 하는 사안은 기하학자의 관심사가 아니다. 그가 관심하는 것은 오로지 실존하는 동일한 공간들이다. … 모든 혼동은 순수하게 실용적 관심사인 측정절차와, 모든 계량기하학의 본질적 관심사인 공간적 동등성의 의미를 구분하지 않는 데에 기인한다. (「기하학, 非-Euclid적인Geometry, Non-Euclidean」, 671쪽.)

하지만 Poincaré 뿐만 아니라 그를 따랐던 논리실증주의자들은(여타 인물들이 최종적으로 그러하였듯이), 검증에 관한 문제를 제기할 수 있기 위해서는 의미에 관한 문제가 선결되어 있어야 한다는 생각에 이의를 제기하고자 한 것은 아니었다. 오히려 그와는 반대로 Poincaré는 Russell에게 동의하여 전자보다 후자가 먼저 해결되어야 한다고 생각했다. Poincaré가 받아들일 수 없었던 것은 의미 문제에 관한 Russell의 해결책이었으며, 이로 인해 그는 기하학의 공리에 관한 자신의 새로운 해석을 제시하게 된다.

Poincaré와의 논쟁에서 Russell은 의미 문제에 관한 자신의 해결책을 제시하거나 옹호하지 않긴 했지만, 우리는 그의 견해가 무엇이었을지 알고 있다: 기하학에서 정의불가능한 요소들은 직접대면에 의해 처음 주어진다는 것이다.21) Poincaré 역시 Russell이 품고 있었을 생각을 알고 있었다. 「기하학의 기초Des fondements de la géométrie」에서 Poincaré는 Russell의 답변이 다음과 같았을 것이라 짐작한다:

〔정의불가능 요소는〕 정의할 필요가 없다. 왜냐하면 그것들은 직관을 통해 직접적으로 알려지기 때문이다. 나는 두 거리차나 두 시점차의 동등성에 대한 직관을 갖고 있다고 주장하는 사람과는 대화할 수 없다. 그 사람과 나는 다른 언어를 사용하기 때문이다. 나는 그런 사람들을 그저 감탄스럽게 바라볼 뿐이다. 나에겐 그런 직관이 전적으로 결여되어 있기 때문이다. (274쪽; 또한 「기하학의 원리에 관하여Sur les principles de la géométrie」, 75쪽도 참조할 것.)

21) 다른 곳에서 Russell은 기하학에 대한 자신의 이설에서 직접대면 개념을 명시적으로 언급한다. 예를 들어 그는 “의심할 바 없이, 실제 공간에서 직선이 의미하는 바를 직접대면하는 것은, 지각된 대상을 분석함으로써” 가능하다”고 말한다.

 직관에 대한 Russell의 호소가 공허하다는 것은 이 문제와 연관되는 실제 기하학적 사실22)을 고려해보면 더욱 분명하게 드러난다. 19세기 말경이면 Euclid기하학적 거리와 쌍곡기하학적 거리 간의 궁극적인 구분이 직접대면에 의해 주어진다고 생각할 만한 유일한 근거는, 단지 이미 수명이 다한 철학의 무게 때문이었다. 혹자는 그러한 개념들을 일단 이해하기만 하면 즉각적으로 그 개념들을 직접대면하게 될 것이라 주장할 것이다. 하지만 이는 단지 언어적인 술책에 지나지 않는바, 원자론에서 직접대면에게 할당된 역할을 기하학에서도 요청할 수는 없다는 사실을 흐리게 만든다. 1900년 즈음에는 직접대면이 기하학에서 의미론적으로 설명적인 고유의 역할을 수행한다고 주장하는 게 더 이상 불가능했다. 즉 지식에 대한 원자론적 그림에서 직접대면이 수행했던 것처럼, 일단 직접대면에 의해 기하학 이론을 구성한 뒤 이론 내의 여러 주장들을 형성하고 최종적으로 이 주장들을 검사하는 식으로 일이 진행된다고 말할 수 없었던 것이다.

22) 유관 기하학적 사실들을 나는 「기하학에서 관용까지From Geometry to Tolerance」에서 간략히 검토한 바 있다.

Poincaré의 규약주의 기저에는 기하학을 제대로 이해하려면 Russell의 논증을 전도시켜야만 한다는 착상이 깔려 있다: 기하학의 원초용어들은 공리들이 주장하는 체계 내로 통합되기에 전에는 의미를 지니지 않기 때문에, 기하학의 공리들은 Frege나 Russell이 말하는 의미에서 명제를 표현하지 않는다는 것이다. Poincaré 견해의 의미론적 차원은 Russell에 대한 응답하는 구절에서 분명하게 제시된다. 기하학의 공리들이 진정한bona fide 명제가 아니라 생각하는 이유를 설명하면서 Poincaré는 다음과 같이 말한다:

한 대상이 두 속성 A와 B를 지니는 동시에 속성 A를 지닌 유일한 대상일 경우 A는 정의로서 활용될 수 있다. 그리고 그것만이 정의로서는 충분하기에 속성 B는〔즉 B를 귀속시키는 것은〕 정의가 되지 않을 것이다. 그것은 공리나 정리가 될 것이다. 반면 그 대상이 속성 A를 지닌 유일한 대상은 아니지만 속성 A와 B 양자를 지닌 유일한 대상일 경우, A는 정의로서 충분치 않으며 B는 공리나 정리가 아니라 정의의 보완물이 될 것이다. 한 마디로 말해 한 속성이 공리나 정의가 되기 위해서는 그 속성을 지닌 대상이 반드시 그 속성과는 독립적으로 온전히 정의될 수 있어야만 한다. 따라서 소위 거리공리가 거리에 대한 위장된 정의가 아니라고 말할 수 있으려면, 그 공리에 호소하지 않는 방식으로 거리를 정의할 수 있어야 한다. 하지만 그런 정의는 어디 있는가? (「기하학의 기초」, 274쪽.)

Poincaré는 자유운동free mobility에 관한 논의에서도 이와 동일한 논점을 견지한다. Russell은 자유운동에 관한 공리가 선험적이라고 주장하면서 그것을 다음과 같이 정식화했다: “공간적 크기spatial magnitude는 한 지점에서 다른 지점으로 왜곡 없이 이동될 수 있다. … 모양은 공간 내 절대위치에 어떤 식으로든 의존하지 않는다.” (『기하학의 기초에 관한 소론』, 150쪽.) 이에 대해 Poincaré는 이렇게 묻는다:

“왜곡 없이”라는 말의 의미는 무엇인가? “모양”의 의미는 무엇인가? 모양이란 우리가 이미 사전에 알고 있는 것인가, 아니면 추정된 운동 하에서도 변경되지 않는 것으로서 정의된by definition 것인가? 당신의 공리는 다음을 의미하는가?: 측정이 가능하려면 물체에 특정 운동이 가해질 수 있어야 하는 동시에 그러한 운동 과정에서도 변하지 않는바 우리가 모양이라 칭할 수 있는 무언가가 존재해야 한다. 혹 그게 아니라면 다음을 의미하는가?: 우리는 모양이 무엇인지 이미 충분히 알고 있다. 다만 측정이 가능하려면 물체에는 그 형태를 변경시키지 않는 운동이 가해질 수 있어야 한다. 나로서는 Russell 씨가 말하고자 했던 바가 무엇인지 잘 모르겠다. 하지만 내가 생각기로는 첫 번째 의미가 올바르다. (「기하학의 기초」, 259쪽.)

조금만 더 명료하게 다듬어보자면 Poincaré의 논증은 다음과 같다: 통상적으로 기하학의 공리들은 규정하기 어려운 특정 기하학적 실체들에 관한 정보를 전달하는 진술로 여겨진다. 공리들이 실제로 그렇다면 의미론적 원자론 원리에 의해, 기하학적 원초용어들은 공리적 문장체계 내로 통합되기 전에 그 의미가 “정의”될 수 있어야, 즉 상호주관적으로 식별될 수 있어야 한다. 이 지점까지는 기하학자 진영과 철학자 진영의 의견이 일치한다. 이제 Poincaré는 다음과 같은 새로운 전제, 즉 기하학자들이 非-Euclid기하학의 발전으로부터 배운 교훈을 도입한다: 기하학적 원초용어들은 공리들 자체가 말하는 것 이상의 의미를 지니지 않는다. 물론 우리는 원초용어들의 의미구획을 확장함으로써 해당 용어가 (광선과 같은) 특정 물리적 대상을 지시한다고 얼마든지 결정decide할 수 있다. 하지만 기하학의 공리체계가 구성되기에 앞서 기하학이 그 원초용어들에 부여해야 할 특정한 물리적 의미 내지 그보다 더 미묘한 모종의 Platon적인ethereal Platonic sort 의미란 없다. 기하학은 Platon적인 직선이든 Mill적인 광선이든 그 여하한 기하학적 대상에도 의존하지 않는다. 기하학이 독자적인 학문이 되기 위해 필요한 전부는 기하학적 개념과 의미뿐이다. 그리고 그 의미란 것은, Kant주의자가 으레 주장하듯이 우리가 경험 내지 경험의 대상을 구성constitute하는 것과 대강 유사한 방식을 따라, 해당 의미에 앞서 채택되면서 그 의미의 원천이 되는 규칙 내지 규준을 도입함으로써 구성된다.

따라서 우리가 기하학적 원초용어들의 의미에 관해 말할 수 있는 것은 기하학의 공리들이 말해주는 게 전부이다. 이런 견해와 더불어 의미론적 원자론 논제를 받아들이면 기하학의 공리들은 여하한 종류의 사실적(非-의미론적nonsemantic)인 정보를 전달하지 않는 것이 된다. 애당초 명제가 아니기에 당연히 분석적인 것도 (Kant적 의미에서) 종합적인 것도 아니게 된다. 뿐만 아니라 공리들이 모종의 특수하고 강력한 진리를 품고 있는 특별한 주장인 것처럼 여겨졌던 것도 전혀 놀랍지 않은 일이 된다. 그렇게 여겨지게끔 만든 오류의 원천은 공리들이 특권적인 종류의 정보 혹은 특수한 영역에 관한 정보를 전달한다는 생각이다. 기하학의 공리들을 여타 진술들과 구분지어주는 특성은 기하학적 원초용어들의 의미를 기하학에서 필요한 정도로 결정한다는 데에 있다. 공리들이 필연적이라고 여기는 확신감은, 우리가 공리를 부정할 경우 전혀 다른 것에 관해 말하게 된다는, 혹은 좀 더 정확히 말하자면 본디 의도되었던 바와는 판이한 무언가를 의미하게 된다는 사실에 기인한다. 기하학의 공리들은 무언가를 주장하는 것처럼 위장된 정의로서, 정의불가능해 보이는 요소들을 정의한다.

Frege와 Hilbert

Poincaré와 Russell이 글을 통해 각자의 의견을 주고받던 때와 비슷한 시기에, Hilbert는 머지않아 19세기 기하학 분야에서 기념비적인 저작들 중 하나가 될 『기하학의 기초Grundlagen der Geometrie』를 출간한다. O. Blumenthal의 보고에 따르면 일찍이 1891년 Hilbert는 H. Weiner의 강의를 언급하면서 다음과 같이 말한 바 있는 것으로 전해진다: “〔기하학적 진술들에서〕 ‘점’, ‘선’, ‘면’ 등의 단어들은 항상 ‘탁자’, ‘의자’, ‘머그잔’으로 대체될 수 있다.”(Hilbert, 『논문選集』, 卷3, 403쪽.) 몇 년 뒤 그는 그 착상을 실행에 옮긴다. 1898-9년 겨울학기에 그는 Euclid기하학의 기초에 관해 강의한 뒤 이를 토대로 『기초』를 저술한다.

Frege는 경력 초창기부터 기하학에 큰 관심을 보여 왔다. 스스로 분명히 밝힌 바도 없고 이후에도 진지하게 검토하지 않았을 모종의 이유에서, Frege는 기하학이 순수직관에 토대한 선험적 지식의 분명한 사례라고 생각했다. Hilbert의 논문이 출간되자마자 읽어본 뒤 그가 즉각 보인 반응은 실망이었다. Frege는 친구에게 보낸 편지에서 그 저술이 “실패작failure”이라고 말하면서(「Liebmann에게 보낸 서한Letter to Liebmann〔1900〕」, 『학문적 서한』, 148쪽.), 연관된 논리적 사안들을 바로잡고자 Hilbert와 서신을 교환하기 시작한다.

Hilbert가 정의의 본성을 제대로 이해하지 못한 듯하다는 Frege의 주된 불만은 부정할 수 없는 기시감을 준다. 잘 알려져 있듯이 Hilbert는 그가 칭한바 정의를 진술하는 것으로 『기초』를 시작하는데, 이 정의들은 그가 Euclid기하학을 정식화하는 데에 사용하는 공리들인 것으로 드러난다. Frege는 경악했다. 그는 말한다: “이제 우리는 정의란 무엇인지 그리고 그것이 본디 무엇을 달성하기로 되어 있는지를 제대로 이해할 적절한 시점에 이르렀다고 생각한다. … 내가 생각하기에 현재로서는 완전한 무정부상태와 주관적인 편향이 만연해 있는 듯하다.”(「Hilbert에게 보낸 서한Letter to Hilbert〔1899〕」, 『학문적 서한』, 62쪽.) 이어지는 대목에서는 대가다운 능수능란함과 더불어 고압적이고 가르치려 드는 태도로 지식에 대한 고전적 그림이 설명된다. Frege의 설명에 따르면 한 이론을 이루는 문장들 전체는 무언가가 주장되는 것들과 무언가가 약정되는 것들 두 그룹으로 대분된다. 전자는 해당 이론의 공리 및 정리들이고 후자는 정의들이다:

수학적 연구의 엄밀함에 절대적으로 핵심적인 사안은, 정의와 여타 문장 간의 차이가 분명하게 구분되고 이 구분이 이론 전체를 통틀어 철저하게 유지되어야 한다는 점이다. 정의가 아닌 문장들(공리, 원리, 정리들)에 포함된 단어(기호)는, 그 뜻과 의미sense and meaning/Sinn und Bedeutung23) 내지 (형식단어form word나 정식 內 문자letter in formula의 경우라면) 그것이 사고[명제]의 표현expression of thought에 기여하는 바가 이미 완전하게 결정되어 있어야만 하며, 그럼으로써 문장 전체의 뜻에 관해, 즉 문장에 의해 표현되는 명제에 관해서는 의문시될 사안이 아무 것도 없어야 한다. 따라서 유일하게 제기될 수 있는 질문은 그 명제가 참인지 그리고 그 진리성이 어디에 의존하고 있는지 뿐이다. 그러므로 공리나 정리의 목적은 결코 그것들에 나타나는 기호나 낱말의 의미를 확립하는 것일 수가 없다. 오히려 그 의미는 이미 확립되어 있어야 한다. (62-3쪽, 이탤릭 강조는 인용자 첨가.)

23) (譯註) 이 책의 저자 Coffa는 Frege가 사용한 독일어 단어 ‘Sinn’과 ‘Bedeutung’을 각각 ‘sense’와 ‘meaning’으로 번역한 뒤, ‘reference’는 ‘Bedeutung’과 연관 짓되 그에 대한 역어로서가 아니라 별도로 사용한다. 이를 감안하여 세 영단어 각각을 ‘뜻’, ‘의미’, ‘지시(체)’로 번역하였다. 4章의 原註13 참조✻.

* 번역가들은 ‘Bedeutung’을 영어로 어떻게 옮겨야 할지에 대해 의견이 일치하지 않는다. 다만 ‘meaning(의미)’과 ‘significance(의미, 유의미성, 뜻있음)’가 가장 부적합한 역어라는 데에는 대체로 동의하는 편이다(가장 선호되는 역어들은 ‘reference(지시(체))’, ‘denotation(지칭(체))’, ‘designation(지칭, 지명)’, ‘nominatum(이름, 명칭)’ 등이다). 그런데 우연히도 ‘meaning’과 ‘significance’는 ‘Bedeutung’이 독일어에서 의미하는 바이다. 뿐만 아니라 번역작업에서 해봄직한 합리적인 가정으로서, 어떤 철학자가 사용하는 특정 용어를 언어 L로 번역할 때 가장 좋은 방책은, 그 철학자가 L을 유창하게 구사할 경우 그 용어에 대해 사용할 법한 단어를 역어로 선택하는 것이다. Frege라면 ‘Bedeutung’을 영어로 무엇이라 번역했을까? 단정할 수야 없겠지만, 그는 Peano에게 ‘Bedeutung’을 이탈리아어로 ‘significazione(의미)’라 번역할 것이라 말한 바 있다(「Peano에게 보낸 서한〔날짜미상〕」, 『학문적 서한』, 196쪽). 또한 Jourdain의 질의에 대한 답변에서 Frege는 ‘signify’를 문장과 진리치 간의 관계[(Frege의 의미론에서 문장과 진리치 간의 관계는 Bedeutung임)]에 대한 이름으로서 사용하였다. 이러한 점들을 감안하건대 만일 Frege가 영어로 저술했더라면 자신의 ‘Bedeutung’과 동등한 단어로서 ‘meaning’이나 ‘significance’ 외의 다른 단어를 선택했으리라 기대하기는 어렵다. 마찬가지로, Russell이 독일어로 저술했더라면 그의 ‘meaning’[(Russell 의미론에서 의미는 지시임을 유념할 것)]은 ‘Bedeutung’이 되었을 것이며, 교묘한 해석가들은 그 단어를 다시 영어로 번역할 때 분명 ‘reference’나 ‘nominatum’ 내지는 이보다 더욱 나쁜 역어를 선택할 것이다. 

명백히 여기서도 핵심 역할을 담당하는 것은 의미론적 원자론 논제이다. 그리고 그에 못지않게 분명하게 드러나는 것은 한 이론에서 정의가 아닌 모든 문장은 명제를 표현하며 그럼으로써 (참이거나 거짓인) 정보를 전달한다는 Frege의 확신이다. 이런 두 가정 하에 보자면 『기초』의 1節에 및 3節에 제시된 Hilbert의 공리들에서 “‘점’, ‘직선’, ‘사이에’ 등의 단어들의 의미는 주어지는 게 아니라 이미 알려진 것으로 상정”(61쪽)되는 것들일 수밖에 없다.

이러한 결론에서 Hilbert는 “오해의 핵심”을 찾아낸다:

나는 그 어떤 것도 이미 알려진 것으로 상정하지 않는다. 나는 1節의 설명에서 점, 직선, 면 등의 개념에 주어진 정의를 그룹 i-v의 모든 공리들이 추가됨으로써 특성화되는 것으로as characteristics 이해한다. 혹자가 점에 대한 다른 정의로서 가령 크기가 없음extensionless이라는 용어를 활용해 再기술하는 식의 정의를 원한다면, 나는 그러한 기획에 단호하게 반대할 수밖에 없다. 그 경우 그 사람은 결코 찾아질 수 없는 것을 찾는 셈이다. 왜냐하면 거기엔 아무 것도 없기 때문이다. 모든 것은 홀연히 사라지고 혼란과 모호함으로 뒤바뀌며 숨바꼭질놀이로 전락할 뿐이다. (「Frege에게 보낸 서한〔1899〕」, 『학문적 서한』, 66쪽.) 24)

24) (譯註) Stewart Shapiro의 Thinking About Mathematics에 인용된 해당 부분은 한국어 번역본에서 이렇게 번역되어 있다: “오해의 주요한 지점이 바로 여기에 있습니다. 저는 어떠한 것도 미리 알려진 것으로 가정하기를 원하지 않습니다. 저는 제 설명을 … 점, 직선, 평면 개념의 정의로 간주합니다. … 예를 들어 누군가가 크기 없음extensionless 등의 용어로 바꾸어 씀으로써 ‘점’의 다른 정의들을 찾고 있다면, 저는 정말이지 그러한 시도들을 가장 단호한 방법으로 반대하고 싶습니다. 그 사람은 아무 것도 거기에 없기 때문에 결코 발견할 수 없는 어떤 것을 찾고 있습니다. 그리고 모든 것이 사라지고 희미해지고 헝클어지며 숨바꼭질 장난 속으로 빠져듭니다.” (이기돈 譯, 『수학에 관해 생각하기』, (주)교우, 2022, 189쪽.)

기하학의 정의불가능 요소들을 공리에 앞서preaxiomatic 포착하고자 하는 절차에 대한 Hilbert의 진술을, 정의불가능 요소들과 직접대면(직관)한다고 주장하는 사람들에 대한 Poincaré의 논평과 비교해보라. 두 사람 및 최종적으로 모든 기하학자들에게 있어 정의불가능 요소들을 前-공리적으로 탐색하는 일은 “모든 것이 홀연히 사라지고 혼란과 모호함으로 뒤바뀌”는 “숨바꼭질놀이”일 뿐인바, 왜냐하면 결국 “거기[공리 이전 단계]엔 아무 것도 없기 때문이다.”

Frege와 Russell은 의미론적 원자론 이외에도 ‘명제주의propositionalism’라 칭해지는 또 다른 이설 한 가지를 공유하고 있었다. 명제주의자들은 논리학 및 기하학을 포함하여 지식의 全 분야에서 형성되는 진술들이, 통상적인 사실적factual 주장들과 구문론적으로 크게 다르지 않아 보인다는 점에 주목한다. 그 어떤 주장도 참인 동시에 거짓일 수 없다는 진술 및 두 직선은 유일하게 한 점을 결정한다는 진술과, 이 책상이 갈색이라는 진술은, 단지 말해지는 주제 및 확실성의 정도에서만 차이가 나는 것처럼 보인다. 명제주의자가 보기에 이러한 구문론적 통일성은 당연한 일인바, 이 모든 진술들은 본질적으로 동일한 구문론적 역할, 즉 사물들이 어떻게 존재하고 있는지 말해주는 역할을 수행하는 것처럼 보이기 때문이다. 명제주의자들에 따르면 일상적인 언술들과 더불어 논리학, 기하학, 물리학 등의 진술들은 모두 동일한 유형의 의미론적 분석을 요한다: 즉 모든 경우 우리는 그 진술들이 정보를 담지한다는 최소한의 의미에서 “명제”들을 다룬다. 오직 명제만이 Russell이 칭한바 (주장, 가정, 믿음 등과 같은) 명제적 태도의 대상으로 간주될 수 있으며, 추론 및 증명과 같은 논리적 연산의 주제물로 간주될 수 있다.25) 선대 명제주의자들에게서와 마찬가지로 Frege와 Russell은 여타 대안들을 신중하게 탐구한 뒤 명제주의 견해를 의식적으로 채택한 것은 아니었다. 그저 그들로서는, 기하학이나 논리학의 법칙들과 같이 지식의 가장 근본적인 원리들이, 무언가에 대해 말하는 진술로서 참이거나 거짓일 수 있는 종류의 것이 아니라는 착상 자체를 어떻게 적절히 이해해야 할지조차 몰랐을 것이다. 그들의 관점에서 보자면 기껏해야 기하학적 명제를 이전에 생각했던 것보다 약한 주장을 펴는 것으로 이해하거나, 심지어 다소 극단적인 경우 순전히 논리적이기만 한 주장을 펴는 것으로 이해해볼 수도 있었을 것이다. Frege는 이러한 제안이 터무니없다고 여기면서도 적어도 이해 가능한 범위 안에 있다고 생각했다.

25) 이러한 견해가 드러나는 예증으로서, Frege는 “Hilbert의 허위적-공리pseudoaxiom들로부터 논리적 추론을 통해 무언가를 추론하는 것은, 암산으로 정원을 경작하는 일만큼이나 불가능한 일이다”(『기하학의 기초 및 산술학의 형식이론에 관하여On the Foundations of Geometry and Formal Theories of Arithmetic』, 105쪽)라고 생각했다.

Hilbert에게 보내는 두 번째 서신에서 Frege는 Hilbert의 작업을 해석해보려 시도하면서 다음과 같이 말한다: “내가 보기에”

당신은 기하학을 공간에 대한 직관으로부터 완전히 분리시켜 산술학과 같이 순수논리적인 학문으로 만들고자 하는 것처럼 보인다. 내가 당신을 옳게 이해했다면, 공간에 대한 직관이 보증하는 가정에 근거하여 의심할 바 없이 전체 구조의 토대로 통상 여겨지는 공리들은, [당신의 견해에 따르면] 모든 정리들에 대한 조건으로 제시될 뿐인바, 독자적인 온전한 말들로 표현되는 게 아니라 단지 ‘점’이나 ‘직선’ 등과 같은 단어들에 포함된 형태로 제시된다. (「Hilbert에게 보낸 서한〔1900〕」, 『학문적 서한』, 70쪽.)26)

26) 여기서 “직관으로부터-독립적인intuition-free”에서 “산술학과 같이 순수논리적인”으로 이행하는 흥미로운 추론에 주목할 필요가 있다. 일찍이 Bolzano가 지적했듯이 양자 간에는 분명 틈이 존재한다.

이후 Frege는 이 주제를 더 이상 논하지 않다가 1906년에 「기하학의 기초에 관하여Über die Grundlagen der Geometrie」의 2部에서 다시 쟁점을 소환한다. 거기서의 설명에 따르면 Hilbert의 공리와 정리는 제대로 된 명제가 아니라 “부적절한 명제improper proposition”, 즉 하나 혹은 그 이상의 용어가 제거된 뒤 변항으로 대체된 문장이다. Hilbert는 그의 공리나 정리를 진정으로 주장assert한 게 아니라, 그의 “공리들”로 이뤄진 연언을 전건으로 갖고 그의 각 “정리들”을 후건으로 갖는 특정 함축적 진술(조건진술)implication을 주장한 셈이었다는 것이다. 사실상 우리가 뜻의 영역 즉 명제적 지식의 영역에 도달하기 위해서는 그러한 함언에 나타나는 모든 자유변항들을 보편양화해야 한다. 따라서 “Hilbert 씨가 정의라 칭한 것은 기실 부적절 문장의 전건으로서, [독립적이고 고유한 형태의 명제가 아니라] 일반적 정리들의 의존적인 일부였을 뿐이다.”(「기하학의 기초에 관하여」〔1906〕, 『소품집Kleine Schriften』, 303쪽.) Frege의 「기하학의 기초에 관하여」 2部 전체는 …라면…이다-주의if-thenism를 상세하게 설명하는 데에 할애되었는데 이는 차후 해당 주제에 관해 Russell이 행하게 될 그 어떤 작업보다도 훨씬 철두철미한 것이었다.27) 가령 Frege는 Hilbert의 정리들에 대한 “추정상의alleged” 증명을 검토하면서, 그것을 어떻게 적절한 형태의 조건문장으로 재구성할 수 있는지 고통스러울 정도로 상세하게 보여준다. 다만 주의해야 할 점은, Russell이 …라면…이다-주의를 수학의 본성이라는 주제에 관한 자신의 견해로서 제시한 반면, Frege는 이 이설을 결코 옹호한 적이 없으며 단지 Hilbert의 견해를 유의미하게 이해하기 위한 가장 적합한 수단으로서 기술한 데 지나지 않았다는 것이다. 그리고 그는 이러한 유의미한 이해마저도 기실 그다지 충분한 의미를 지니지는 않는다고 생각했다.28)

27) Frege와 마찬가지로 Russell도 처음에는 이 관점을 거부했었다. 하지만 Frege와 달리 과학적 기류에 민감했던 Russell은 전문가들의 의견이 오랜 기간 무시되게끔 방치할 수가 없었다. 그의 삶을 통틀어 지속된바 이론의 핵심 주변부를 수정epicyclic revision하던 계열의 초기에 해당하는 1900년경, Russell은 기하학이 그 공리들로부터 정리에 이르는 함축만을 주장할 뿐이라는 생각을 옹호했으며, 1902년에는 이 이설을 다음과 같이 수학 전체로 일반화하였다: “순수수학의 모든 명제들은 ‘p는 q를 함축한다’는 형식의 명제들 집합으로서, 여기서 p와 q는 두 명제에서 동일하게 등장하는 하나 이상의 변항을 포함하는 명제들이며, p와 q 어느 것도 논리상항 외에는 아무런 상항을 포함하지 않는다.” (『원리들』, 3쪽.) 이 주제에 관해서는 나의 「Russell과 KantRussell and Kant」 참조. 이런 견해의 기하학적 기원에 관해서는 Russell의 『원리들』 7-8, 372-3, 423, 430, 441-2쪽 참조.

28) 명제주의는 또한 Frege로 하여금 Hilbert가 19세기 기하학의 가장 중요한 결과로 간주했던 사안 역시 제대로 이해하지 못하게 만들었다: 바로 독립성 증명independence proof이다. 모든 형태의 독립성 증명들은 부분적으로만 해석된 문장들로 이뤄진 체계에도 논리학이 충분히 적용될 수 있다는 점을 선제한다. 확정적이고 고정된 “해석”은 논리학자들이 본디 관심해야 할 사안이 아닌 것으로 간주된다. 작금에 표준적인 의미에서 모형과 해석에 관해 말해지는 모든 것들을 Frege는 극도로 배척했을 것이다. 왜냐하면 이러한 사안들은 한 언어를 발전시킨 뒤 그 언어의 非논리적 기호들에 아무런 확정적인 의미를 할당하지 않은 채로도 논리학이 해당 언어에 적용될 수 있다고 선제하기 때문이다. 형식주의자의 “해석”을 Frege가 이해할 수 있는 최선의 방식은 그것을 예화관계exemplification relation의 측면에서 생각하는 것이다. 예를 들면 Frege는 다음과 같이 생각했다

(1) 2가 0보다 크다면 2는 1보다 작다, 는 형식주의적 의미에서 다음 부적절 문장에 대한 하나의 “해석”이다:

(2) x가 0보다 크다면 x는 1보다 작다.

(「기하학의 기초에 관하여」, 『소품집』, 301-2쪽 참조.) 이러한 접근법에서 보자면, 가령 평행선 공준의 독립성을 증명해주는 쌍곡기하학에 대한 해석은 다음과 같은 방식으로 이해된다: “해석될” 함언으로서 (2)를 조금 변경하여, 평행선 공준이 제거된 Hilbert 공리들의 연언을 전건으로 갖고, 평행선 공준의 부정을 그 후건으로 갖는 함언을 구성하고 이를 (3)이라 하자. 그러면 [쌍곡기하학에 대한] Klein의 해석은 참인 명제(이를 (4)라 하자)로서, 정확히 (2)가 (1)에 대해 관계하는 방식으로 (4)는 (3)에 대해 관계한다. Frege는 (1)이 무언가의 독립성을 증명한다는 데에는 동의한다. 다만 그것이 명제 2는 1보다 작다가 2는 0보다 크다로부터 독립적이라는 것을, 혹은 부적절 명제인 ‘x는 1보다 작다’가 ‘x는 0보다 크다’로부터 독립적이라는 것을 증명하지는 않는다(왜냐하면 우리는 그게 무엇을 의미하는지 모르기 때문이다). 여기서 증명되는 그 무엇이란 1보다 작음이라는 개념이 0보다 큼이라는 개념으로부터 독립적이라는 것이다. 반면 Frege는 (3)에서 (4)로 이행하는 추론의 경우엔 그 독립성이 증명되는 실체란 게 정확히 무엇인지 기술하기 어렵다고 주장한다. 그것들은 (3)의 전건 및 후건을 이루는 “부분들의 의미들”이다. 비교적 단순한 경우에 그것들은 개념이지만, 일반적인 경우엔 “그러한 부분들의 의미를 지시할 일말의 수단도 우리는 갖고 있지 않다”(『산술학의 기초The Foundations of Arithmetic/Die Grundlagen der Arithmetik』, 316쪽.)

Frege는 그의 공식적 의미론을 발전시키기 이전 시기의 저작인 『기초』에서, 기하학자들이 몇몇 공리들의 독립성을 확립해왔다는 일반적인 의견을 무비판적으로 인정하면서 그에 동의했다(21쪽 참조). 하지만 그는 곧 그러한 관점과 명제주의가 일관될 수 없다는 점을 알아차리고는, Klein이나 Hilbert의 것과 같은 증명들은 그것들이 기도했던바 특정 기하학적 명제들의 독립성을 확립하는 데에 아무런 연관도 없다고 판정 내린다. 그것들이 그러한 증명에 성공한다고 착각하는 이유는, Hilbert처럼 진정한 공리와 부분적 의미만을 갖는 문장을 구분해내지 못하기 때문이다. 뿐만 아니라 Frege가 말할 수 있는 한 Euclid의 공리들 중 하나가 나머지 것들로부터 독립적임을 증명하는 그 어떤 방법도 없다. 그 공리들은 참이기 때문에, 그 중 하나는 (거짓이 된다는 게 무슨 의미가 되었든) 거짓이 “되면서” 나머지는 참인 그러한 영역을 찾는다는 것은 불가능하다. 그러므로 Frege에 따르면 독립성에 관한 사안은 여전히 열린 문제이다. 언젠가는 평생선 공준이 참이라 증명되어버릴 수도 있는 것이다. 「1899년 12월 12일, Hilbert가 Frege에게 보낸 서한」, 『학문적 서한』, 65, 68쪽 참조. 

구문론의 발견

관용의 정신에서 이 논쟁을 살펴본 대부분의 사람들은 결과가 무승부라고 판정한다. 이 논쟁의 참여자들은 (후에 Russell이 제시한) 순수pure기하학과 응용applied기하학 간의 구분을 무시하였다고 여겨진다. 양자를 적절히 구분했더라면 그들은 서로 다른 얘기를 하고 있음을 알아차렸을 것이다. Hilbert와 Poincaré는 분명 해석되지 않은 기하학에 관해 말하고 있었던바, 따라서 그런 기하학에는 진정한 명제가 없다고 주장한 점에서 당연히 옳았다. 반면 Frege와 (초기의) Russell은 해석된 기하학에 관하고 말하고 있었으며, 따라서 그것을 참이거나 거짓인 명제들의 집합으로 간주한 점에서 옳았다.

이 논쟁에 대한 이런 식의 “해결”이 지닌 문제점은, 논쟁의 양 측을 타협시키거나 한 차원 높은 수준에서 종합하는 것 같은 인상을 주지만, 실제로는 한 편에 모든 것을 인정해주고 다른 편에는 아무 것도 인정해주지 않는다는 것이다. 왜냐하면 해석-非해석 구분을 기하학적 주장의 특성에 대한 충분한sufficient 설명으로 받아들인다는 것은, 기실 Hilbert-Poincré 측 주장을 전부 인정해주는 셈이기 때문이다. 만약 기하학이라는 게 해석되지 않은 형식과 더불어 기하학적 모델들로 이뤄진 대중적인 민주국가라면, Frege와 젊은 Russell이 주장한바 진정한 기하학을 구성하는 상류층 명제들은, 해석이라 불리는 수다한 사기꾼들 틈바구니에 묻혀버리는 꼴이 될 것이다. 시계에 관한 명제가 “기하학”의 일부일 수도 있다는 생각은 Frege가 보기엔 이루 말할 수 없이 터무니없는 것이었다. 기하학에 관한 어떤 설명이 되었든, 진정한 점에 관한 명제와 시계에 관한 명제를 구분할 방도를 갖추지 않고 있다면, 그가 보기에 가망 없이 부적절한 것일 뿐이다.

진정한 쟁점은 기하학 공리들이 명제를 표현하는 것으로 간주되어야 하는지 여부이다. Poincaré와 Hilbert는 명제주의적 관점이 부적절하다는 것을 당시 어느 누구보다도 명확하게 직시하고 있었다. 뿐만 아니라, 기하학 공리가 담당하는 기이한 역할을 명제주의자들에게 납득시키려던 그들의 노력은, 이후의 20세기에서 지속적으로 등장하면서 걸출한 역사로 남게 될 구분을 인정하려는 진지한 첫 시도였다. Wittgenstein이 제시한 보여주기showing의 영역 및 후기의 문법grammar, Carnap의 구문론, Sellars의 범주적 작업틀categorical framework, Kuhn의 패러다임 등도 이런 기이한 종류의 지식에, 즉 필연적이면서 공허하지 않은 것처럼 보이는 동시에 그 어떤 사실적 주장도 진술하지 않는 지식에 이르는 올바른 방식을 찾으려는 지속된 시도들 중 잘 알려진 것들이다. 이런 종류의 탐구가 공식적으로 개시된 시점은, 기하학의 공리가 스스로를 진정한 주장인 것처럼 “위장하여” 제시할 뿐 실지로는 주장과는 다른 무엇임을 Poincaré가 알아챈 시점이라 할 수 있다. 뿐만 아니라 그는 기하학 공리가 속해야 할 넓은 범주를 수정하기도 한 셈이다. 공리를 정의라 칭함으로써 Poincaré는 의미의 결정과정에서 공리가 수행할 특정 역할을 명시적으로 할당했기 때문이다.

Poincaré의 규약주의는 선험성 및 필연성의 본성과 관련하여 Kant의 추측에 대해 최초의 유망한 대안을 흐릿하게나마 개략적으로 소묘해 보였다. 규약은 필연성과 상충하는 개념으로 간혹 여겨지곤 한다. 하지만 의미론적으로 해석해보자면 규약은 단지 필연성의 반대편일 뿐이다. 의미의 영역에 한정하여 볼 경우, 외부에서 규약적인 것처럼 보이는 바는 내부에서 보면 필연적인 것처럼 보인다. 약 10년 뒤 Wittgenstein과 Carnap의 저작에서 등장하는바 선험성에 대한 “언어적” 이론(더 낫게 말하자면 의미론적 이론)에 따르면, 모든 필연성은 의미론적 필연성semantic necessity이고, 모든 선험적 참은 용어의 뜻에 의한 참truth ex vi terminorum이며, 어떤 진술이 필연적인 이유는 그 진술을 거부한다는 것이 기실 그 진술이 속하는 언어(의미의 체계) 자체를 거부하는 오도적인 방식에 지나지 않기 때문이다. 따라서 선험적 주장의 경우, 동일한 하나의 언어형식이 근본적으로 다른 두 가지 역할을 수행하는 것처럼 보일 수 있다: 즉 하나의 언어체제linguistic framework 외부에서 볼 경우 선험적 주장은 그 체제의 정의에 속하는 일부이되 다만 [정의가 아니라 진정한 주장인 것처럼] 위장된 형태의 정의였던 것으로 드러날 것이다. 반면 정의된 체제 내에서 보자면 앞서의 동일한 선험적 문장은 구성된 의미에 의해 참인바 따라서 필연적으로 참인 주장을 표현하게 된다.

Hilbert의 형식주의formalism는 Poincaré의 규약주의와 대체로 동일한 동기에서 영감을 받았다. 다만 이런 접점은 형식주의에 끈질기게 따라다니는 편견들로 인해 식별하기 쉽지 않으며, 이는 논리실증주의가 거쳤던 구문론적 단계를 이해하는 데에도 방해가 된다. 그러한 편견들이 무엇인지는 차후 적절한 대목에서 살펴보겠지만, 지금 맥락에서 한 가지 언급할 사항이 있다.

Hilbert의 기획은 1882년에 출간된 Moritz Pasch의 유명한 저서 『새로운 기하학 강의Vorlesungen über neuere Geometrie』에서 시작된 발전이 정점에 이른 것이었다. Pasch는 기하학적 원초용어들의 의미를 이해하기 위해서는 그에 대응하는 경험적 상관물을 제시하는 것 외에 다른 방도가 없으며, 공리들의 의미 역시 그것들이 특정 형상들과 맺는 연관관계에 의존한다고 여전히 믿고 있었다.29) 하지만 Pasch를 선대 인물들과 구분 지어주는 것은 그가 “추론절차는 그 모든 부분에서 기하학적 개념들의 의미로부터 독립적이어야 하는바, 이는 추론과정이 그림으로부터 독립적이어야 하는 것과 마찬가지이다”(98쪽)라고 주장한 데 있다. 이러한 기조에 따라 그는 Frege가 제시한 것만큼이나 까다로운 기준으로 판정해보아도 기하학의 기초를 제공하기에 충분할 만한 공리화된 정식체계를 제시하고자 하였다. 다만 Pasch는 Poincaré가 명확히 직시했던 사안, 즉 자신의 작업에서 의미가 담당하는 특수한 역할을 완전히 오해하였다. 직시적 정의에 대한 자신의 생각을 충분히 검토하지 않음에 따라 Pasch는 기하학적 경험주의가 옹호될 수 없는 견해임을 알아채지 못했다. 그보다 더욱 심각한 것은, 그가 암묵적으로 Kant주의자 및 실증주의자를 따라 직관과 의미가 밀접하게 연관되어있다고 당연시함으로써 자신의 작업이 기하학에서 의미를 제거하는 것이라 오해하였으며, 그에 따라 순수하게 형식적인 것과 무의미한 것을 혼동하는 경향을 촉진했다는 점이다. Pasch의 실제 업적이 기하학에서 의미를 제거하는 작업으로 해석될 수도 있었다는 사실은, 세기 전환기에 기하학에 대한 Kant주의적 견해가 공통된 기반으로서 얼마나 널리 퍼져있었는지를 시사한다. Kant가 옳았다면 직관 없는 개념은 공허한바, 직관에 호소하지 않는 기하학적 도출이란 전적으로 불가능하다. 하지만 이후 19세기 말 경에 이르기까지 Bolzano, Helmholtz, Frege, Dedekind 등을 위시한 많은 인물들은 Kant의 생각이 틀렸음을, 즉 직관 없는 개념이 전적으로 공허하지만은 않음을 밝혀내기 위해 분투하였다. 따라서 기하학에서의 형식주의 기획이 진정 기도했던 바는 과학에서 의미를 축출하는 게 아니라, 순수 개념적인 토대 위에 非경험적인 과학적 지식을 정식화한다는 Bolzano의 오랜 소망을 구체적으로 실현하는 것이었다. 일단 Kant적인 편견이 제거되고 나면, 기하학적 원초용어의 의미와 관련하여 다음과 같은 형식주의의 숨겨진 메시지를 이해할 수 있게 된다: 최초에 원초용어들의 의미가 먼저 주어져 있고 이를 즉각 제거함으로써 기하학자들이 비로소 자신들의 작업에 적절히 착수할 수 있게 되는 게 아니다. 오히려 Poincaré와 Hilbert가 주장하였듯이, 원초용어들의 의미는 기하학을 구성하는 공리들 자체에 의해 최초로 주어진다.

29) (譯註) “비유클리드 기하학이 발견된 뒤에, 유클리드 기하학을 진정으로 만족스런 공준적 방법으로 취급할 필요성이 대두되었다. 숨겨진, 즉 묵시적인 가정으로 모두 찾아내야만 했으며, 유클리드 기하학의 기초를 이루는 논리적으로 받아들일 만한 공준 집합을 분명하고 명확하게 설정해야만 했다. 유클리드 기하학에 대한 이와 같은 체계화는 독일 수학자 파쉬에 의해 처음으로 이루어졌다. / 파쉬는 유클리드 기하학의 취급에서 명시적(explicit) 정의와 암시적(implicit) 정의 사이의 중요한 차이점을 인식했다. (中略) 유클리드는 이를테면 점, 선, 평면과 같은 요엉에 대해 일종의 명시적 정의를 시도한 반면, 파쉬는 유클리드 기하학에 대한 전개에서 이것들을 기본적인 또는 설명할 수 없는 용어로 받아들였다. 즉 그는 이것들을 자신의 전개에서 공준으로 가정한 기초적인 명제들에 의해 단지 암시적으로 정의된 것으로 간주했다. 이 가정된 기초적인 명제들을 파쉬는 핵(nuclear)이라 불렀다. 핵 명제의 기원은 경험적인 고찰에서 찾아볼 수 있더라도, 파쉬는 핵 명제는 어떠한 경험적인 의미와도 관련 없이 선언되어야 한다고 강조했다. 모든 논리적인 추론은 여러 가지 개념과 연관될 수 있는 어떠한 의미와도 반드시 독립적이어야 한다는 사실이 진정으로 연역적인 학문을 창작하는 데에 요구된다고 그는 주장했다. 사실, 증명을 구성하는 어느 과정에서 기본적인 용어에 대한 어떤 해석을 참조할 필요성이 생긴다면, 이것은 그 증명이 논리적으로 적절하지 못하다는 충분한 증거가 된다. 반면에 모든 논설을 순수하게 형식적으로 유지하면, 사용된 기본적인 용어에 서로 다른 적절한 의미를 부여함으로써 그 논설에 대한 다양한 응용을 얻을 수 있다. 이와 같은 관점에서, 유클리드 기하악은 근본적으로 상징적인 체계이며, 또 다른 전개를 위한 이 체계의 정당성과 가능성은 그 기하학의 공준에 사용된 기본적인 용어에 줄 수 있는 어떠한 특별한 의미에 의존하지 않는다. 즉 유클리드 기하학은 논리적 구문론의 순수한 연습문제로 환원된다. 유클리드는 시작적인 형상에 좌우되고 이에 따라 묵시적인 가정을 만들 위험에 빠지기 쉬웠던 반면, 파쉬는 순수한 가설-연역적 체계로서의 기하학을 의도적으로 고려함으로써 그 함정을 피하고자 했다. 파쉬는 기하학에서 공리적인 사고에 큰 영향을 주었으며, 이 분야에서 그 뒤에 이어진 연구는 그가 도입했던 엄밀성의 기준을 유지하려고 시도하였다.” (Howard Eves, 『수학의 기초와 기본 개념Foundations and Fundamental concepts of Mathematics』(1990), 허민 外 譯, 경문사, 1995, 139-42쪽, 이탤릭 강조는 인용자 추가.)

이러한 기하학적 작업들에서 발견할 수 있는 것은 이후에 등장할 것들에 대한 막연한 암시나 징조에 지나지 않는다. 그것들을 덮은 안개는 삼십년 후에나 명확히 걷히게 된다. 심지어 그 시기에 이르러서도, 기하학적 형식주의가 기하학을 그저 종이 위 잉크자국으로 간주한다는 미신은, 구문론이 의미와 무관하며 오로지 종이 위 잉크자국만을 다룬다는 미신으로 변모하여 재등장한다. Platon적 전통이 야기한바 의심스런 뜻을 지닌 의미 외에도 언어에서 ‘의미’가 갖는 다른 뜻이 있으며, 형식주의와 구문론은 바로 그런 뜻에서의 의미와 밀접하게 연관된다는 것을 깨닫는 데에는 아주 긴 세월이 소요되었다. 이 방향으로 향하는 그 다음 번의 주요한 진전은 이전에 쓰인 그 어느 저서들보다 기이한 외양과 내용을 지닌 책 한 권에서 이루어졌다.