1章 |
수학과 그 논리에 대한 철학: 緖論 |
STEWART SHAPIRO1) |
1) 오하이오주립대학 철학과 O‘Donnell 교수이자 세인트앤드루스대학 아르케연구센터 교수연구원. 저서로 『토대론 없는 토대: 2계논리의 경우Foundations Without Foundationalism: A Case for Second-order Logic』(옥스포드대학교출판부, 1991), 『수학철학: 구조와 존재론Philosophy of Mathematics: Structure and Ontology』(옥스포드대학교출판부, 1997).
서양철학은 그 시초부터 수학에 강하게 매혹되어왔다. Platon의 아카데미 입구엔 “기하학을 모르는 자 이곳에 들어올 수 없다”는 글귀가 쓰여 있었다고 전해진다. René Descartes, Gottfried Leibniz, Blaise Pascal 등 역사상 주요 수학자들은 동시에 철학자이기도 했으며, 좀 더 최근의 인물들로는 Bernard Bolzano, Alfred North Whitehead, David Hilbert, Gottlob Frege, Alonzo Church, Kurt Gödel, Alfred Tarski 등을 들 수 있다. 매우 최근까지도 거의 대부분의 철학자들은 수학의 상태를 잘 알고 있었으며 그에 진지한 철학적 주의를 기울여왔다.
철학과 수학 간 관계는 단순한 매혹의 관계 이상이기도 하다. Platon은 수학의 확실성과 심오함으로부터 깊은 인상을 받아 수학적 존재론을 자신의 형상론의 범형으로 삼고 수학적 지식을 지식 일반의 범형으로 삼았으며, 이에 감각에서 얻어지는 정보들은 경시되거나 순전히 무시될 정도였다. 이와 유사한 태도는 수학의 방법론을 모든 과학적 및 철학적 지식으로 확장하려 했던 전통적 합리주의자들의 시도에서 다시 등장한다. 일부 합리주의자들의 목표는 Euclid의 『기하학 原論Elements of Geometry』을 모방하여 철학적 원리들에 관한 공리(公理)axiom와 증명을 제공하는 것이었다. 반면 합리주의의 주요 적대자였던 경험주의 진영은 지식에 대한 자신들의 방향설정이 수학에 대해서만큼은 상당한 곤란을 겪는다는 것을 깨닫고는 어떻게든 수학을 자신들의 이론 내로 포섭하고자 하였으며, 그러한 시도는 종종 수학을 상당한 정도로 왜곡하기도 했다(Parsons〔1983, 小論1〕 참조).
수학은 우리의 지식추구 활동에서 핵심부분이다. 과학이 세계의 어떤 부분을 설명하고자 목표로 삼든 수학은 사실상 모든 과학활동에서 중요한 역할을 담당한다. 상당한 정도의 수학을 요구하지 않는 자연과학이나 사회과학은 없다고 봐도 무방하다. 그 어떤 수학철학이든 온전해지기 위해 수행해야 할 과업은, 수학이 어떻게 물질세계에 적용apply되는지 보여주는 것, 그리고 수학의 방법론(그것이 정확히 무엇이든 간에)이 어떻게 과학의 방법론(그것이 정확히 무엇이든 간에)과 부합할 수 있는지 보여주는 것이다(20章 참조).
과학에서 담당하는 주요 역할 외에도 수학은 그 자체가 지식을 추구하는 활동인 것처럼 여겨진다. 우리는 어떤 사람이 어떤 수학적 정리(定理)theorem를 아는지know 모르는지에 관해 말하곤 한다. 따라서 수학철학은 적어도 부분적으로는 인식론의 한 분야이다. 그런데 언뜻 보기에prima facie 수학은 여타 인식적 추구활동과는 다른 것처럼 보이기도 한다. ‘7+5=12’라든가 ‘소수(素數)prime number는 무한히 많다’와 같은 기초적인 수학적 원리들은 필연적necessary이고 선험적(先驗的)a priori이고 틀림없는infallible 지식의 전형으로 간주되고는 한다. 확실성이라는 개념이 어떤 식으로 설명되든 간에, 수학적 명제들이 아주 높은 정도의 확실성을 지닌다는 데에는 의문의 여지가 없다. 이러한 명제들이 어떻게 거짓일 수 있겠는가? 그 어떤 합리적인 존재가 이를 의심할 수 있겠는가? 분명 수학은 그 어떤 종류의 추론에서든 본질적인 것처럼 여겨진다. Descartes가 첫 번째 省察에서 제기했던 것처럼, 혹자가 수학의 기본적인 원리들을 어떤 식으로든 의심하게 되었거나 혹은 의심하는 척하게 되었다 해보자. 그 사람은 그 이상으로 사고를 진행해나갈 수 있겠는가?
논리학은 적어도 이런 측면에서 수학과 비슷하다. 일부 논리학 원리들은 절대적으로 필연적이고, 선험적으로 알 수 있거나 혹은 그런 것처럼 여겨진다. 논리학의 기본 원리들을 의심하는 사람은 정의상 정합적(整合的)으로coherently 사고해나갈 수 없다. 일견 정합적으로 사고한다는 것 자체는 논리적으로 사고한다는 것과 꼭 같다.
수학과 마찬가지로 논리학 역시 시초부터 철학의 핵심 초점이었다. 지금도 Aristoteles는 네 명 혹은 다섯 명의 역사상 가장 위대한 논리학자들 반열에서 한 자리를 차지하고 있으며, 고대 및 중세의 지적 세계를 통틀어 논리학은 주요 관심 대상이었다. 물론 오늘날에도 논리학은 수학과 철학 양자에서 번성하는 분야이다.
그 어떤 수학철학 및 논리철학이든 온전해지기 위해서는 적어도 수학 및 논리학의 필연성과 선험성을 만족스럽게 설명해야 한다. 이에는 대체로 두 가지의 선택지가 있다. 어떤 분야가 특정 방식으로 보이는 이유를 설명하는 가장 간단한 방법은 그 분야가 실제로 그러함을 입증하는 것이다. 따라서 철학자들은 필연성과 선험성 개념이란 정확히 무엇인지 분명히 밝힌 후 그것이 수학과 논리학에 어떻게 적용되는지 보여주면 된다. 다른 대안으로서 수학/논리학이 그런 속성들을 그저 지니지 않는다고 주장할 수도 있다. 다만 이 선택지를 취할 경우 그렇다면 왜 수학/논리학이 필연적/선험적인 것처럼 보이는지를 만족스럽게 설명해내야 한다. 수학/논리학이 특별한 지위를 차지한다는 오래 견지되어온 믿음을 순전히 무시해버릴 수만은 없다. 두 분야가 필연적이고 선험적으로 알려질 수 있다는 잘못된 믿음이 그렇게 많은 이들에게 오랫동안 형성되게끔 한 요인은 무엇인지가 밝혀져야만 하는 것이다.
합리주의와 경험주의 간 충돌에는 논리학까지는 아니더라도 수학에 대한 전통적 관점들 간의 긴장이 반영되어 있다. 수학은 필연적이고 선험적인 것처럼 여겨지지만 물리적 세계와도 관계가 있다. 이것이 어떻게 가능한가? 안락의자에 앉아 선험적으로 반성하는 것만으로도 물리적 세계에 관한 중요한 무언가를 알아내는 일이 어떻게 가능하단 말인가? 앞서 말했듯 수학은 세계를 탐구하는 어떤 형태의 과학적 이해에서든 핵심적인 역할을 담당하는데, 과학은 합리적 활동이긴 해도 어쨌든 경험적인 학문이다. Immanuel Kant가 주장한바 산술과 기하학이 종합적이면서 선험적인 지식이라는 논제는 일견 잘 부합하지 않아 보이는 수학의 이러한 특성들을 설득력 있게 조화시키고자 했던 위대한 철학적 시도였다. Kant에 따르면 수학은 공간과 시간 내에 있는 일상적 지각의 형식form들에 관계한다. 이런 관점에서 보자면 수학이 물리세계에 적용될 수 있음은 수학이 우리가 물리세계를 지각하는 방식과 관계하기 때문이다. 수학은 자연과학의 기저에 있는 구조 혹은 자연과학이 선제하고 있는 것presupposition들과 관계한다. 바로 이것이 수학이 ‘적용되는’ 방식이다. 우리는 물리세계를 그와는 다른 방식으로 구조화할 수 없기 때문에 이 방식은 필연적이다. 우리는 그 어떤 특정 경험이 없이도 자연과학이 상정하고 있는 것들을 밝혀낼 수 있기 때문에 수학적 지식은 선험적이다(2章 참조). Kant의 이러한 관점은 이후 두 세기 동안 진행될 활발한 철학적 발전의 장을 마련하였다.
임의의 탐구분야 X에 대해, X의 철학philosophy of X의 주요 목적은 X를 해석하는 것, 그리고 전체 지적인 기획에서 X의 지위를 밝히는 것이다. 수학철학자들은 보통 수학 전체와 연관된 포괄적인 쟁점들에 우선 직면한다. 그러한 물음들의 대부분은 존재론, 인식론, 논리학과 같이 다소 일반적인 철학적 분과들로부터 나타난다. 도대체 수학이 무언가 관계하는 바가 있다면 그것은 대체 무엇인가?[존재론] 수학은 어떤 식으로 추구되는가? 우리는 진정 수학을 알고 있는가? 그렇다면 어떻게 알게 되는가?[인식론] 수학의 방법론은 무엇이며 그 방법은 어디까지 신뢰할 만한가?[인식론, 논리학] 수학에 적절한 논리학이란 어떠한 것인가?[논리학] 수학의 원리들은 어느 정도로 객관적이며 마음, 언어, 수학자들의 사회적 구조 등과 독립해 있는가?[존재론, 인식론] 현대철학의 일반적인 의제들과 얽힌 다양한 문제 및 쟁점들은 이런 식으로 수학에도 적용됨으로써 분명하게 정식화된다. 이에는 존재론, 논리학, 객관성, 지식, 마음 등과 연관된 문제들이 포함된다.
논리철학자들 역시 이와 유사한 범위의 쟁점들에 직면하되 다만 존재론에는 비교적 덜 역점을 둔다. 수학에서 연역(演繹)deduction의 역할을 감안하건대, 수학철학과 논리철학은 양자를 말끔히 분리하려는 시도가 전연 무익할 만큼 상당한 정도로 상호 얽혀 있다.
어떤 수학자가 특정 수학철학을 채택할 경우, 그 관점은 수학적 작업이 지향하는 바, 수학의 역할에 대한 어떤 통찰, 수학의 향방에 대한 적어도 잠정적인 지침 등을 제시함으로써 그 수학자에게 유의미한 무언가를 제공해줄 수 있어야 한다. 어떤 종류의 문제들이 중요한가? 어떤 물음들이 제기되어야 하는가? 어떤 방법론이 적절하겠는가? 그 중 어느 것이 성공 가능성이 높은가? 등등.
한 가지 폭넓은 주요 쟁점은 數, 點, 함수, 집합 등과 같은 수학적 대상들mathematical objects이 존재하는지 여부 및, 존재한다면 그것들은 수학자의 마음이나 언어 등과 독립적으로 존재하는지 여부의 문제이다. 존재론에서의 실재론(實在論)realism in ontology을 적어도 일부 수학적 대상들이 객관적으로objectively 존재한다고 주장하는 관점으로 정의하자. 존재론적 실재론에 따르면 수학적 대상은 일견 추상적abstract이고 非인과적acausal이고 파괴불가능하고 영원하며 공간과 시간에 속해 있지 않다. 수학적 대상은 이러한 속성들을 Platon적인 형상(形狀)Form과 공유하는바, 이에 존재론에서의 실재론은 종종 ‘Platon주의Platonism’라 불린다.
존재론에서의 실재론은 수학의 필연성을 잘 설명해내거나 혹은 적어도 잘 개괄해준다. 수학의 주제가 되는 대상이 이러한 실재론자들이 말하는 대로라면, 수학적 진리는 물리세계나 인간의 정신, 수학자들의 공동체 등과 연관된 여하한 우연적인 사안들과도 독립적이다. 그럼 수학의 선험성은 어떠한가? Platon과의 관련성은 인간 정신의 영역과 추상적이고 분리된 수학적 실재의 영역이 다소 신비한 방식으로 연결되어 있음을 시사한다. 현대철학자들 대부분은 이러한 신비한 관계를 받아들이지 않는다. 이에 인식론적인 사안에 한해 Platon 철학과 거리를 두기 위해, 수학철학으로서의 실재론은 ‘platon주의platonism’와 같이 종종 소문자 ‘p’로 표기되곤 한다. 하지만 존재론적 실재론자는 이렇게 수학적 영역과의 準-신비적 관계를 부정함으로써 상당한 인식론적 부담을 지게 된다. 수학적 대상이 정말로 추상적인바 수학자로부터 인과적으로 고립되어 있다면, 수학자들은 그것들에 관한 지식을 대체 어떻게 얻게 되는 것인가? 우리가 수학적 지식들을 정말로 갖고 있음은 결코 부정될 수 없는 사실이다. 존재론에서의 실재론이 옳다면 이것이 어떻게 가능한가?
Georg Kreisel은 종종 수학철학의 주된 관심을 수학적 대상의 존재성으로부터 수학적 진리mathematical truth의 객관성으로 옮겨놓은 인물로 받아들여진다. 진리치에서의 실재론realism in truth-value을 수학적 진술statement들이 수학자들의 정신, 언어, 규약convention 등과 무관하게 객관적인 진리치를 갖는다고 주장하는 관점으로 정의하자. 이에 반대하는 관점은 진리치에서의 反-실재론anti-realism in truth-value으로서, 이 논제는 수학적 진술이 진정 진리치를 갖기라도 한다면 그 진리치는 수학자에게 의존적이라고 주장한다.
진리치에서의 실재론과 존재론에서의 실재론 간에는 언뜻 보기에 동맹관계가 성립하는 것 같다. 진리치에서의 실재론은 수학자들이 세계의 객관적 특질들을 다룬다는 관점을 발전시키고자 하며 그에 따라 수학은 학문적 객관성을 담지하게 된다. 수학적 논의(및 일상의 담화)에서 사용되는 변항들의 범위는 분명 수들을 포괄하며range over numbers, 숫자numeral들은 분명 단칭(單稱)용어singular term로 사용된다. 존재론에서의 실재론은 이러한 담화들이 액면 그대로 받아들여져야 한다는 관점인 셈이다. 이러한 두 실재론에 따르면 수학자들의 말은 말해진 바 그대로의 것을 의미하며 수학자들이 말하는 바는 곧 그대로 참이다. 간단히 말해 존재론적 실재론은 진리치 실재론의 기본설정값defaulf 내지 가장 우선적인 추정사안이라 할 수 있다.
그럼에도 불구하고 최근 문헌들에서 제시되는 탐구들을 상세히 살펴보면 이러한 두 실재론 간의 논리적 연관성 혹은 그것들을 부정하는 관점들 간의 논리적 연관성에 관해 명확히 동의된 바가 기실 없다는 사실이 드러난다. 네 가지 가능한 조합의 입장들 각각이 저명한 수학철학자들에 의해 명확히 기술 및 옹호되어온 것이다. 즉 철저한 실재론적 입장(Gödel〔1944, 1964〕, Chrispin Wright〔1983〕과 이 책의 6章, Penelope Maddy〔1990〕, Michael Resnik〔1997〕, Shapiro〔1997〕), 철저한 反-실재론적 입장(Michael Dummett〔1973, 1977〕), 진리치에 관해서는 실재론이되 존재론적으로는 反-실재론적인 입장(Geoffrey Hellman〔1989〕과 이 책의 17章, Charles Chihara〔1990〕과 이 책의 15章), 반대로 존재론에서는 실재론이되 진리치에 관해서는 反-실재론적인 입장(Neil Tennant〔1987, 1997〕)들이 각기 존재한다.
또 한 가지 밀접하게 연관된 문제는 수학철학과 실제 수학활동practice of mathematics 간의 관계와 관련된다. 최근 역사를 살펴보면 수학에서 사용되는 몇몇 원리들과 추론들에 관한 논쟁들을 목도하게 된다. 대표적인 사례가 배중률(排中律)law of excluded middle이다. 배중률에 따르면 모든 문장에 대해 그 문장이나 그 부정문이 참이며, 이는 기호로 ‘A∨￢A’로 표기된다. 또 다른 예는 非가술성(非可述性)(재귀-서술성)impredicativity 개념이다. 이에 따르면 어떤 정의(定義)definition는 정의되는 대상이 포함된 부류class를 지시할 경우 비가술적이다impredicative. 가령 해석학에서 ‘최소상계(上界)the least upper bound’에 대한 정의는 非가술적인바, 그 정의에 따르면 최소상계는 그것을 포함한 모든 상계들 집합이 지시됨으로써 정의되기 때문이다. 이러한 몇몇 원리들은 철학적 근거에서 비판되었으며 이러한 비판은 대체로 존재론에서의 反-실재론 진영에서 제기되었다. 예를 들어, 수학적 대상이 정신적인 구성물construction 내지 창조물creation이라면 非가술적 정의는 순환적이다. 우리는 창조되거나 구성되어야 할 대상이 이미 포함되어 있는 부류를 지시함으로서 그 대상을 창조하거나 구성할 수는 없다. 반면 실재론자들은 이러한 원리들을 옹호한다. 실재론의 관점에서 정의란 수학적 대상을 창조 내지 구성하는 방안을 나타내는 게 아니다. 오히려 정의란 이미 존재하는 대상에 대한 사후적 특성화characterization 내지 기술(記述)description이다. 존재론에서의 실재론자가 보기에 被정의 항목이 포함된 부류를 지시하는 정의방식에는 아무런 문제될 것이 없다(Gödel〔1944〕 참조).2) 한 집합의 ‘최소상계’를 특성화하는 것은 ‘원로 꼰대’를 ‘교수단에서 가장 나이가 많은 구성원’으로 정의하는 것과 하등 다를 바가 없다.
2) (譯註) “… 악순환 원리는 유관 실체들이 우리 자신에 의해 구성될 때에야 적용되는 것으로 보인다. 그 경우 정의되는 대상이 속하는 전체를 지시하지 않는 형태의 정의(즉 구성의 기술)이 분명 존재해야 한다. 왜냐하면 한 사물의 구성은 구성될 사물 그 자체가 속하는 사물들 전체에 근거를 둘 수 없다는 것이 확실하기 때문이다. 하지만 우리의 구성과 독립적으로 존재하는 대상에 관한 사안의 경우 원소들을 포함하는 전체의 존재성에는 아무런 불합리함이 없으며, 그 원소들은 이 전체를 지시함으로써만 기술될 수 있다(즉 그 성격이 유일하게 규정된다). … 집합들과 개념들 역시 실재의 대상으로 생각해볼 수 있다. 즉 집합을 ‘사물들의 다수성’ 내지 그러한 다수성으로 이루어진 구조로 생각하고, 개념을 우리의 정의 및 구성과 독립적으로 존재하는 사물들의 성질 내지 관계로 생각하는 것이다./ 내 생각으로는 이러한 대상들을 가정함은 물리적 물체들을 가정하는 것만큼이나 온당하며 그들의 존재를 믿어야 할 동일한 정도의 이유가 있다고 여겨진다. 그러한 대상들이 수학의 만족스런 체계를 얻는 데에 필요하다는 것은. 물리적 물체들이 우리의 감각지각들에 관한 만족스런 체계를 얻는 데에 필요하다는 것과 같은 뜻이다.” (K. Gödle, 「Russell의 수리논리학Russell‘s Mathematical Logic」, 1944: Hillary Putnam, Paul Benacerraf 編, 『수학철학Philosophy of Mathematics』, 박세희 譯, 1983, 아카넷, 703-4쪽.)
현대수학으로만 한정해서 보자면 상기 논쟁들은 상당 부분 판결이 났다고 보아야 한다. 배중률과 非가술적 정의는 현대 수학자들의 공구상자에서 가장 핵심적인 도구들이기에, 현역 수학자들은 심지어 그 도구들이 자신의 작업에서 정확히 언제 사용되는지조차 굳이 의식하지 않을 정도이다. 하지만 이는 철학적 진영에서 전투가 치러진 뒤 결판이 난 게 아니다. 수학자들은 그저 일시적으로 철학적인 태도를 버린 채 수들이 수학자와는 독립적으로 진정 존재한다고 받아들이며, 그에 따라 이전에 철학적 논쟁에 부쳐진 바 있는 방법론들을 주저 없이 받아들이기로 결정한다. 어떤 식으로든 결정이 내려져야 한다면 이는 그 반대방향으로, 즉 수학에서 철학의 방향으로 내려져야 한다. 철학적으로 문제시된 수학적 관행들은 수학으로서의 실제 수학활동에 도움이 되는 것으로 밝혀졌으며, 그에 따라 과학에 도움이 되는 것으로 밝혀졌다(하지만 9, 10, 19章을 볼 것).
이러한 현실에도 불구하고, 철학적인 제약이 가해질 경우 과연 수학이 어느 정도로 존립할 수 있을지를 탐구하는 풍부한 연구프로그램 역시 성장해왔다(19章). 이러한 프로그램은 문제시된 바 있는 다양한 원리들의 논리적 효력에 대한 연구로서 그 자체로 탐구할 가치가 있다. 그 결과물 역시 수학철학 및 논리철학적 토대를 지지하는 데에 활용된다.
상기 쟁점들과 문제들은 수학 전체에 관계되며 경우에 따라서는 과학 전체와도 연관된다. 작금의 수학철학자들은 그보다 좀 더 좁은 범위에 초점을 맞추기도 한다. 한 가지 쟁점들 그룹은 특정 수학적 혹은 과학적 결과를 해석하려는 시도와 연관된다. 대다수 사례들은 수리논리학으로부터 나타나는 쟁점들로서 이는 논리철학적인 쟁점들로 이어진다. 가령 컴팩트성 정리compactness theorem와 Löwnheim-Skolem 정리Löwnheim-Skolem theorem가 함축하는 바는, 어떤 1계이론first-order theory이 어떤 식으로든 무한한 모형model을 갖는다면, 그 이론은 모든 무한기수(基數)(무한농도)의 모형model of every infinite cardinality을 갖는다는 것이다. 따라서 집합론과 실해석학real analysis은 의도되지 않은unintended 가부번(可附番)한denumerable 모형을 갖는다. 집합론에서 ‘전체집합’이 가산적(可算的)countable임을 증명할 수 있다는 사실에도 불구하고 사정은 마찬가지다. 자연수에 관한 이론인 산술학(算術學)arithmetic은 가산모형을 갖는다. 정의상 한 집합은 자연수 집합보다 크지 않을 경우 그리고 오직 그 경우에 가산적이라는 사실에도 불구하고 사정은 마찬가지다. 이러한 함축들이 무언가 조명해주는 바가 있다면, 그것은 기수(농도)와 같은 다양한 수학적 개념들을 특성화하고 그를 통해 의사소통하는 인간의 능력에 관해 무엇을 말해주는가? Skolem(예를 들면 〔1922, 1941〕) 자신은 그 결과가 사실상 모든 수학적 개념들이 어떤 의미에서 ‘상대적relative’이라는 자신의 관점을 뒷받침해준다고 생각했다. 집합은 절대적으로simpliciter 가산적이거나 유한한 게 아니라 어떤 영역domain 내지 모형에 따라 상대적으로 가산적이거나 유한하다는 것이다. Hilary Putnam〔1980〕 역시 이와 유사한 상대성을 옹호하였다.3) 다른 철학자들은 그러한 상대성을 거부하면서, 그 근거로 1계 모형론first-order model theory은 非형식적 수학적 담화의 의미론을 포착해내지 못한다고 주장하고는 한다. 이 쟁점은 수학에 적절한 논리학이란 과연 어떤 논리학인가에 대한 문제에 영향을 미칠 것이다. 아마 제약이 가해진 한정적 정리들은 부적절한 논리적 인공물일 것이다[?](25, 26章).
3) (譯註) “한 가지 사안을 제외하고는 모든 해설자들이 ‘非의도적’인 해석들의 존재의 중요성에 관해 동의한다. 예를 들면 모형들로서 그 안에서 非가부번한 집합들로 ‘생각되고 있는’ 것들이, ‘실재 안에서’는 가부번하게 되는 것이다. 이와 같은 모형들의 존재가 보여주는 바는 ‘의도적’ 해석이, 혹은 일부 해설자들이 선호하는 표현대로 ‘집합에 관한 직관적 개념’이, 특정 형식체계에 의해 ‘파악되지’는 않는다는 점이라는 데에 모든 해설자들이 동의한다. 하지만 형식체계의 공리들이 ‘집합의 직관적 개념’을 파악해주지 않는다면 다른 무엇이 그렇게 할 수 있는가? … 철학적 문제는 바로 이 지점에서 나타난다. 우리가 ‘공리적 집합론은 집합의 직관적 개념을 파악할 수 없다’는 말을 듣는다면, 그 밖의 어떤 것, 가령 우리의 ‘이해력’이 그것을 파악하리라 기대하는 것은 자연스러운 반응이다. 그러나 무엇이 우리의 ‘이해’를 가져다주는가? 적어도 자연주의적 정신을 가진 철학자에게 이는 우리가 우리의 언어를 사용하는 방식보다 더 중요한 사안이다. 앞서 본 바와 같이 Skolem의 논증은, 언어의 전체적 사용(조작적 제약과 더불어 이론적 제약이 가해진)이 공리적 집합론이 자체적으로 결정해주는 것보다 더욱 유일한 방식으로 ‘의도적 해석’을 ‘확정’해주지는 않음을 보이게끔 확장될 수 있다. … 요컨대 우리는 절대적으로 모든 것을 ‘Skolem化Skolemize’할 수 있다. 결국 그 어떤 용어에 대해서든 하나의 결정적인 지시체를 (非자연적인 정신적 능력에 호소하지 않으면서) 확정하는 일은 절대적으로 불가능한 것처럼 보인다. … 모형들은 그것들에 이름을 붙여줄 누군가를 기다리며 떠돌아다니는 길 잃은 본체계의noumenal 들개들이 아니다. 그것들은 우리의 이론 자체 내에 있는 구성물이며, 태어날 때부터 이름을 갖는다.” (H. Putnam, 「모형들과 실재Models and Reality」, 1980: H. Putnam, Paul Benacerraf 編, 같은 책, 650-85쪽.)
집합론에서의 독립성에 관한 풍부한 성과들 역시 철학자들에게 또 다른 한 묶음의 쟁점들을 제공해준다. 많은 수의 흥미롭고도 중요한 수학적 의문들이 집합론의 기본적 주장들과 독립적이라는 점이 밝혀진다. 일례로 Cantor의 연속체 가설continuum hypothesis을 들 수 있다. 그에 따르면 자연수 집합보다 바로 한 단계 크면서 실수 집합보다 바로 한 단계 작은 집합은 존재하지 않는다. 연속체 가설과 그 부정 모두 집합론의 표준적인 공리계 내에서는 증명될 수 없다. 이러한 독립성 결과는 수학적 개념들에 대해 무엇을 말해주는가? 앞 단락에서 본 바와는 또 다른 종류의 상대성을 갖게 된 셈인가? 우리는 어떤 주어진 집합이 집합론에 대한 어떤 해석에 따라서만 특정 농도를 갖게 된다고 말할 수밖에 없게 되는 것인가? 몇몇 철학자들은 이러한 결과가 수학적 진리truth의 未결정성indeterminacy을 가리킨다고 주장한다. 말하자면 연속체 가설을 결정해줄 특정 사실fact of matter이란 없다는 것이다. 그러므로 이러한 주장을 견지하는 철학자들은 진리값에서의 反-실재론자이다. 여기서 이 쟁점에 대한 판정은 실제 수학활동에도 영향을 미친다. 혹자가 연속체 가설이 확정적인 진리치를 갖는다고 생각한다면, 그 사람은 그 가설의 진리치를 결정하는 데에 온 노력을 경주할 것이다. 반면 누군가 연속체 가설이 확정적인 진리치를 갖지 않는다고 생각한다면, 그 사람은 그저 이용하기에 가장 편리한 집합론에 기여하는 바가 있는지 여부를 근거로 그 가설을 채택하거나 폐기할 것이다. 다만, 연속체 가설을 결정하기 위해 실재론자가 채택하는 기준이, 편리한 집합론에 도움이 되는지 여부를 결정하기 위해 反-실재론자가 기대는 기준과 다른가 하는 점은 다소 불분명하다.
세 번째 사례는 산술학에서의 진리들이 효과적effective이지 않다는 Gödel의 불완전성 정리incompleteness theorem이다. 어떤 사람들은 이 결과가 인간의 마음이 기계와 같은 방식으로 작동한다는 논제의 기계주의mechanism를 논박하는 것으로 간주한다. Gödel 자신은 마음이 기계가 아니거나, 혹은 우리 인간에 의해서는 해결될 수 없는 절대적으로 결정 불가능한 산술학의 문제들이 존재하거나 둘 중 하나일 것이라 생각하였다. (Gödel〔1951〕, Shapiro〔1998〕 참조). 다른 한편 Webb〔1980〕은 불완전성 정리가 기계주의를 지지하는 것으로 받아들였다.
수학의 적용과 관련된 몇몇 문제들 역시 어느 정도 이 쟁점들 그룹에 속한다. 수학의 정리는 과학에서 탐구된 자연세계에 대해 무엇을 말해줄 수 있는가? 매듭짓기, 다리 건설에서의 안정성, 체스게임의 전략, 경제적 흐름에 대한 사안들을 어느 정도까지 증명prove할 수 있는가? 수학이란 기호들을 갖고 수행되는 의미 없는 게임일 뿐이라 생각하는 철학자들도 있긴(혹은 있었긴) 하지만, 그와 생각을 달리하는 사람들은 수학이 모종의 의미를 지닌다고 주장한다. 그 의미는 무엇이며 그것은 일상에서 이뤄지는 非수학적 담화의 의미와 어떻게 관련되는가? 수학의 정리는 물리세계에 관해, 인간의 지적 능력에 관해, 프로그램된 컴퓨터가 원리적으로 지닌 능력에 관해 무엇을 말해줄 수 있는가?
또 다른 쟁점들 그룹은 특정 수학적 이론과 개념들을 명료히 기술하고 해석하려는 시도로 구성된다. 한 가지 사례는 산술과 해석학에서의 기초론적 작업foundational work이다. 이런 종류의 작업들은 종종 수학 자체에 영향을 미치면서 수학과 철학 간의 경계에 도전하거나 그 선을 흐리게 만들기도 한다. 때로는 수학의 여러 분야들 간 관련성을 구축하는 기초론적 작업을 통해 흥미롭고 강력한 연구 기법들이 제안되기도 한다. 그 대표적 사례인 수리논리학 외에도, 해석적 수론analytic number theory을 통해 자연수를 복소평면에 삽입(매장, 묻기)embedding하는 것을 생각해보라. 기초론적 탐구활동 자체가 수학의 전체 분야들 자체를 낳기도 하는 것이다.
때로 수학 자체 내에서의 발전이 수학자들로 하여금 특정 개념의 불명료성에 주목하게 만들기도 한다. Lakatos〔1976〕에서 논구된 사례가 이에 딱 들어맞는 경우이다. 거기서는 일련의 “증명과 논박” 과정을 통해 다면체가 무엇인가에 관한 흥미롭고 중요한 문제점들이 제기된다. 또 다른 사례를 들자면, 해석학의 논리적 토대에 관한 탐구로 인해 수학자들이 함수란 정확히 무엇인가 하는 문제에 주목하게 됨으로써, 궁극적으로는 임의의 대응arbitrary correspondence으로서의 함수라는 현대적 함수개념이 등장하게 되었다. 이러한 문제들은 부분적으로 존재론적인 것이기도 하다.
이 그룹의 쟁점들은 수학철학의 해석적interpretive 본성을 분명하게 드러내준다. 우리는 주어진 수학적 개념이 정확히 무언인지, 수학적 담화가 말하는 바의 범위가 어느 정도인지를 알아낼 필요가 있다. 가령 Lakatos 사례에서는 하나의 사고실험을 통해 탐구가 시작되는바, 사고실험을 진행하는 주체는 주어진 다면체의 한 면을 제거하고 나머지 면들을 평평하게 연장한 뒤 추가적인 선들을 긋고 절단하고 일부는 제거하되, 그 과정에서 특정한 전체 모양을 유지시킨다. 명백히 역동적인 이런 논의를 어떻게 이해해야 할지가 선험적으로 분명한 것은 아니다. 그러한 담화의 논리적 형식은 무엇이며 그것을 지배하는 논리학은 무엇인가? 그 담화의 존재론은 무엇인가? 그 사례에서 이어지는 수학적/철학적 작업들은 바로 이런 종류의 문제들을 제기한다.
유사한 해석적 사안으로서, 표면적인 문법만 고려하자면 ‘dx’와 같은 표현은 수학적 대상을 지칭하는 단칭용어가 아니라 할 수 있다. 물론 경우에 따라서는 ‘dy/dx’가 무언가를 지칭하기는 한다. 하지만 그 경우 지칭되는 항목은 몫이 아니라 함수인가? 해석학의 역사는 이러한 표현들의 의미가 정확히 무언인지 알아내고자 했던 다사다난한 시도들로 점철되어 있다.
물론 실제 수학은 이러한 해석적 작업들 없이도 하등의 문제없이 원활하게 진행되며, 오히려 해석적 작업은 시의적절하지 않거나 기껏해야 실제 수학활동에 방해만 되기도 한다. Berkeley가 해석학에 가했던 날카로운 비판은, 유명하긴 하지만 대체로 당대 수학자들에 의해 무시되었다. Wittgenstein이 말했듯 수학자들 자신이 적어도 “어떻게 계속 진행해야 할지how to go on”를 아는 한 그러한 해석적 문제는 도외시될 수 있었던 것이다. 현재 우리의 논의 맥락에서 제기해봄직한 문제는, 수학적 논의에 대한 의미론이 충분이 정립되기 전까지 현직 수학자들이 과연 자신의 수학적 작업을 보류해야만 하는가 여부의 문제이다. 분명 그렇지는 않다. 하지만 경우에 따라서는 수학 자체 내에서 발생한 긴장이 해석적인 철학적/의미론적 기획으로 이어지기도 한다. 때로 수학자들은 어떻게 “이전과 같이 계속 진행”해야 할지 확신하지 못할 뿐만 아니라 자신이 사용하는 개념이 정확히 무언인지조차 확신하지 못하기도 한다. 뿐만 아니라 우리는 지금까지 일궈진 해석적 기획이 적확하고 완전한지 확신할 수 없는바, 또 다른 해석적 문제가 도사리고 있지 않다고 자신할 수 없다.
이제 우리는 수학철학의 주요 입장들을 개괄해본다. 여기 제시된 목록은 모든 수학철학적 입장을 남김없이 포괄하지는 않을 뿐만 아니라, 각 관점의 옹호자들이 제시한 작업의 미묘함이나 깊이가 충분히 논구되지도 않을 것이다. 다만 나는 이 節을 통해 이 책의 이후 章들 및 현대의 수학철학적 문헌들을 독자들이 일부나마 이해하는 데에 유용할 법한 간략한 지침 정도만을 제시하고자 한다. 여기서 내가 특정 입장에 대해 기술하는 내용이 그 관점의 옹호자가 곧이곧대로 견지하는 바라고 오해하지 않기를 바란다. 특히나 분별 있는 사람이 볼 때 명백히 옹호되기 어려워 보이는 대목에서는 오해하지 않도록 세심한 주의를 기울이길 바란다.
4.1. 논리주의: 의미의 문제
Alberto Coffa〔1991〕에 따르면 서양철학에서 19세기를 통틀어 제기되었던 의제들의 중심 사안은 Kant적인 직관Kantian intuition에 호소하지 않은 채로 (적어도) 명백해 보이는 수학과 논리학의 필연성과 선험성 및 수학의 적용을 설명해내는 것이었다. Coffa에 따르면 이 방향에서 가장 생산적인 발전을 이룩한 노선은 “의미론적 전통semantic tradition”으로서, 이 흐름은 Bolzano, Frege, 초기 Wittgenstein의 작업을 거쳐 비엔나 학단으로 이어지고 난 후 대단원을 맺는다. 이 전통의 주된 주제(혹은 통찰)는 필연성과 선험성의 원천을 언어의 사용use에 두는 것이다. 이에 철학자들은 수학적 활동과 연관된 언어적 사안들에 주의를 기울이기 시작했다. 수학적 주장assertion들은 무엇을 의미하는가? 그것들의 논리적 형식은 무엇인가? 수학적 언어에 대한 최선의 의미론은 무엇인가? 이러한 의미론적 전통에 속하는 인물들이 발전시키고 가다듬은 다양한 이론적 도구들과 개념들은 작금에도 수리논리학뿐만 아니라 서양철학 전반에서 여전히 폭넓게 사용된다. Michael Dummett은 철학사에서의 이러한 흐름을 언어적 전회(轉回)linguistic turn라 칭하였다.
의미론적 전통의 중요한 프로그램은 수학의 기초적인 원리들 중 적어도 일부가, 의미에 의해 참이 된다는 의미에서 분석적(分析的)analytic임을 보여주는 것이었다. ‘자연수’, ‘직후자(直後者) 함수(계승수(繼承數) 함수)successor function’, ‘덧셈’, ‘곱셈’ 등과 같은 용어들의 의미를 일단 이해하고 나면, 그를 통해 Peano 공리계Peano postulates와 같은 산술학의 기본 원리들이 참임을 알 수 있다는 것이다. 이 기획이 성공적으로 수행되고 나면, 앞선 방식으로 이해된 바로서의 분석적 진리가 필연적인 것으로 드러나는 한, 수학적 진리가 필연적임을 보장해줄 것이다. 일단 낱말들의 의미가 정해지고 나면, 수학적 명제들은 물질세계에서 성립하는 우연성과 무관하게 참일 수밖에 없게 된다. 또한 의미에 관한 지식이 선험적인 한 수학적 지식 역시 선험적이다. 짐작건대 한 언어의 화자는 낱말들의 의미를 선험적으로 알고 있으며, 따라서 우리는 수학적 명제 역시 선험적으로 알고 있는 셈이다.
이 노선에서 가장 두드러지는 형태의 입장이 바로 논리주의logicism로서, 이는 적어도 일부 수학적 명제들이 그것들의 논리적 형식logical form으로 인해 참이라고 주장하는 관점이다(5章). 논리주의에 따르면 가령 산술학의 진리는 논리적 진리의 한 종류이다. 가장 상세하게 발전된 형태의 논리주의는 Frege〔1884, 1893〕의 것과 Alfred North Whitehead 및 Bertrand Russell〔1910〕의 것이다. Russell과 달리 Frege는 자연수를 독립적인 대상으로 간주했다는 점에서 존재론에서의 실재론자였다. 따라서 적어도 Frege에게 논리학은 존재론을 갖는 분야이며 세계엔 “논리적 대상”이란 것이 존재한다.
Frege는 〔1884〕에서 기수(基數)cardinal number의 일반적 개념을 정의하려는 첫 시도에서 ‘Hume의 원리Hume’s principle’로 알려진 다음과 같은 원리를 제시했다:
임의의 개념 F와 G에 대해, F의 수와 G의 수는 다음의 경우 그리고 오직 그 경우에 동일하다: F와 G는 동수(同數)이다.
For any concepts F, G, the number of F’s is identical to the number of G’s if and only if F and G are equinumerous.
임의의 두 개념은 양자가 일대일 대응one-to-one correspondence일 경우 동수이다. Frege는 어떻게 자연수 개념에 의존하지 않으면서 동수성을 정의할 수 있는지 보여주었다. 이 정의는 오늘날 순수 2계논리second-order logic라 알려진 언어로 명확하게 제시될 수 있다. 따라서 2계논리가 진정한 논리학이라고 판명될 수 있다면 Frege는 적어도 Hume의 원리를 논리학으로 환원(還元)reduce하는 데에 성공한 셈이다.
그럼에도 불구하고 Frege는 Hume의 원리를 산술의 궁극적 토대로 간주하는 데에 망설일 수밖에 없었다. Hume의 원리는 ‘F의 수 = G의 수’ 형식의 동일성 진술만을 고정해주기 때문이다. 즉 그 원리는 임의의 단칭용어 t에 대해 ‘F의 수 = t’ 형식을 지닌 문장의 진리치는 결정해주지 않는다. 이것이 소위 Caesar 문제Caesar problem로 알려진 난점이다. 물론 이 문제가 말하는 바는 누군가 자연수를 로마의 장군 Julius Caesar와 혼동할 수 있다는 것이 아니다. 그 기저에 있는 착상은, 어떤 주어진 자연수가 그 무엇이 되었든 여타 대상들과 어떻게 그리고 왜 동일한지 혹은 다른지를 우리가 사전에 결정해낼 수 있지 않는 한, Hume의 원리만으로 자연수를 독립적인 대상으로 특성화하는 일은 성공적이지 못하다는 것이다. 자연수와 특정 인간존재를 구분해줄 각각의 독특성은 Frege 이론의 논리적 귀결이어야지, 단순히 직관에 호소함으로써 해결되어서는 안 되는 사안이다.
이에 Frege는 개별 자연수 및 ‘자연수’ 개념의 명시적 정의explicit definition를 개념의 외연(外延)extension 측면에서 제공하고자 시도한다. 가령 수 2는 정확히 두 개의 요소에 대해 성립하는 모든 개념들의 외연(또는 무리collection)이다. 하지만 차후 Russell의 역설(逆說)Russell’s paradox에 의해 드러난바 외연에 관한 Frege의 이론이 지닌 非일관성으로 인해 Frege식 논리주의는 종내 비극적인 파국을 맞는다.
Russell과 Whitehead〔1910〕은 Frege 체계가 갖는 非일관성을 추적하여 그의 외연이론(및 이 점에 관해서는 Hume의 원리)이 지닌 非가술성이 근본적인 요인이라 진단하였다. 이에 두 인물은 수학을 더 안전하고 가술적인predicative 기초 위에서 발전시킬 방법을 모색한다. 하지만 그 결과 고안된 체계는 [수학 전체를 논리로 환원하기에는] 너무 약했고 미봉책ad hoc에 지나지 않는 수정사항으로 점철되어 있었던바, 논리주의 프로그램의 매력을 상당 부분 훼손시키는 모습을 띠고 있었다. 이후 수학의 상당 부분을 가술적 토대 위에서 재건하고자 하는 연구프로그램들이 활발히 논의되어왔다(19章).
최근 Frege식 논리주의적 접근법의 변형태가 활발히 논의되기 시작했다. 이는 Chrispin Wright〔1983〕에서 시작하여 Bob Hale〔1987〕, Neil Tennant〔1897, 1997〕 등의 작업을 통해 진행되었다(6章). 이 방향의 기본 착상은 외연 개념을 취급하지 않고 우회하여 (완전히 非가술적인) Hume의 원리 내지 그에 준하는 원리를 직접 취급함으로써 논리주의적 작업을 완수하는 것이다. 2계 산술이 일관적이라면 Hume의 원리는 2계논리와 일관되는바(Boolos〔1897〕와 Hodes〔1894〕 참조), 따라서 이 프로그램은 적어도 Frege의 체계가 지녔던 식의 非일관성으로 인해 무너지지는 않게 된다. 하지만 그로부터 어떤 철학적 의의를 끌어낼 수 있는가? 新논리주의자neologicist의 접근법에서 Hume의 원리는 ‘수’ 개념을 설명explanation해주는 것으로 간주된다. 新논리주의 프로그램의 옹호자는 주장하길 Hume의 원리 자체는 분석적이지 않지만(즉 의미에 의해 참은 아니지만), 우리가 기수 개념을 일단 온전히 파악하고 나면 그 원리를 선험적으로 알 수 있게 된다고 한다. Hume의 원리는 암묵적 정의implicit definition와 유사하다. Frege가 고유하게 발전시킨 기술적 장치들이 보여주는 바는, 고계(高階)논리higher-order logic로 표현된 Hume의 원리로부터 Peano 공리계가 도출될 수 있다는 것이다. 기실 Frege가 외연 개념을 사용해야만 했던 본질적인 이유는 Hume의 원리를 이끌어내기 위함이었다. 그리고 수와 연관된 여타 원리들은 바로 그렇게 이끌어내진 Hume의 원리로부터 따라 나온다. 따라서 Hume의 원리가 지닌바 인식론적으로 우월한 지위와 동일한 지위를 (2계논리 내에서의 연역이 그러한 지위를 보존해준다는 가정 하에) 산술의 기초 명제들도 누리게 되는 셈이다. 요컨대 新논리주의는 산술의 명제들이 어떻게 알려지는지를 보여주려는 再구성적인 기획이다.4)
4) 그렇다면 新논리주의는 Frege가 직면했던 非일관성을 면하기 위해 Frege의 외연 개념을 버리고 그에 따라 Frege식 논리주의의 존재론적 의의도 과감히 포기한 채, Frege식 기획이 기초산술 및 자연수론에 대해 갖는 설명적⋅인식론적 이점만을 Hume의 원리를 통해 취한 것이라 해석 및 정리해볼 수 있는가? Hume의 원리와 연관된 소위 ‘bad company’ 문제(6章 참조)는 그러한 설명적⋅인식론적 이점을 훼손할 만큼 치명적인가?
新논리주의자(및 Frege주의자)가 발전시킨 체계는 본질적으로 다음과 같은 사실에 의존해 있다: Hume의 원리의 정식화에서 어구 ‘F의 수’에 포함된 변항 F는, 그 자체로 수의 측면에서 정의되는 개념에 의해 예화(例化)된다instantiate[즉 수 개념에 의존하여 정의되는 개념을 논항으로 취한다?]는 점에서, Hume의 원리는 非가술적이다. 이러한 특성이 없다면 Hume의 원리로부터 Peano 공리계를 도출하는 일은 실패할 것이다. 이러한 非가술성은 Frege와 그 추종자들이 견지한 존재론적 실재론과 부합한다. 실제로 新논리주의자들은 주장하길, Hume의 원리의 대입례에서 쌍조건 연결사 좌변과 우변은 동일한 진리치를 갖지만, 진정한 논리적 형식을 제공하는 부분은 좌변이라고 말한다. 즉 ‘F의 수’와 같은 어구는 독립적 대상으로서의 수를 지칭하는 진정한 단칭용어라는 것이다.5)
5) 그렇다면 新논리주의는 각주4)에서 해석된바 Frege식 논리주의에서 포기된 존재론적 의의를, 일반적인 철학적 실재론을 통해 보강한 셈인가? 新논리주의의 존재론은 논리주의적 작업을 통해 얻어지는 게 아니라 그저 일반적인 실재론을 통해 논리주의의 테두리 외부로부터 부가될 뿐인가? 이러한 해석이 적절하다면, 新논리주의가 Hume의 원리를 갈무리함으로써 취하는 인식론적 이점과 일반적인 실재론을 택함으로써 짊어지게 되는 부담 중 어느 쪽이 더 큰가?
현재까지 발전된 新논리주의 프로젝트의 진행상황은 기초산술 및 자연수론에만 적용된다. 이에 중요한 현안은 가령 실해석학, 함수해석학functional analysis, 기하학, 집합론 등과 같은 수학의 여타 분야들마저 아우르도록 그 기획을 확장하는 일이다. 그 과정에서 핵심 과업은 한층 더 강력한 수학이론들을 특성화해줄 수 있을 만큼 충분히 풍부한 형태의 추상화 원리abstraction principle를 찾아내어 정식화하는 일이다(이에 대해서는 가령 Hale〔2000a, 2000b〕 및 Shpiro〔2000a, 2003〕참조).
4.3. 경험주의, 자연주의, 필수불가결성
Coffa〔1982〕는 의미론적 전통의 역사를 간략히 살펴보면서 그 목표와 성과를 요약하고 있다. 그 글은 “그리고 Quine이 등장했다”라는 문장으로 끝을 맺는다. 논리주의의 변형태들이 지속적으로 추구되어왔음에도 불구하고(26章), 그 기획의 기저에 있는 표준 개념들은 일부 사람들에게 좋은 평판을 얻지 못했으며 이는 특히 북아메리카에서 두드러진 반응이었다. 최근의 많은 철학자들은 의미, 분석성, 선험적 지식 등의 개념에 더 이상 진지한 주의를 기울이지 않는다. 더 정확히 말하자면 많은 현대철학자들은 수학에 관한 인식론 내지 여타 분야와 연관된 그 어떤 인식론적 논의에서도 그러한 개념들에 주요한 역할을 부여하지 않는다. Willard Van Orman Quine 〔가령 19511 1960〕은 그전까지 철학에서 핵심적인 성분이었던 주요 개념들에 대해 광범위한 회의적 시각을 드리우기 시작한 것으로 평가된다.
물론 Quine은 주어진 문장의 진리치가 언어의 사용과 세계가 존재하는 방식 양자에 의해 결정된다는 사실마저 부정하지는 않는다. ‘빠리는 프랑스에 있다’는 것을 알기 위해서는 ‘빠리’, ‘…이다’, ‘프랑스’라는 낱말들이 사용되는 방식과 더불어 지리학적인 사실을 알아야만 한다. 여기서 Quine의 관점은 주어진 문장의 언어적 구성요소와 사실적 구성요소가 분명하게 구분될 수 없기에, 세계가 존재하는 방식에 의해 참이 되는(즉 종합적인) 문장과 반대되는바 오로지 언어에 의해서만 참이 되는(즉 분석적인) 문장이라는 개념이란 명확하게 정의될 수 없다는 것이다.
그렇다면 수학은 어떤 식으로 알려지게 되는 것인가? Quine은 수학에 관해서도 John Stuart Mill의 전통(3장)에 속하는 철저한 경험주의자이다. 그가 견지하는 긍정적인 관점은 우리가 지닌 모든 믿음들이 감각자극sensory stimulation에 의해 그리고 오로지 그에 의해서만 대답될 수 있는 이음매(경계선) 없는 그물망seamless web을 형성하고 있다는 것이다. 물질적 대상에 대한 일상적인 믿음과, 광범위하고 전문적인 과학적, 수학적, 논리적 믿음들 및 심지어 이른바 정의에 의해 참인 믿음(가령 ‘모든 총각은 미혼이다’)들 간에는 종적인 차이가 없다. Quine이 사용하는 ‘이음매 없는’이라는 은유적 표현은 우리 믿음의 그물망 내 모든 요소가 적어도 원리적으로는 여타 모든 요소들과 논리적으로 연결되어 있음을 시사한다. 뿐만 아니라 그 그물망 내의 어떤 부분도 선험적으로 알려지지 않는다.
지식에 관한 이러한 그림은 이제는 다소 흔해진 실재론적 논증을 제시해준다. Quine 및 Putnam〔1971〕 같은 여타 인물들은 수학에 관한 가설-연역적hypothetical-deductive 인식론을 제시한다. 그 논증은 우선 사실상 모든 과학이 수학적 용어로 정식화된다는 관찰사실에서 출발한다. 따라서 과학이 입증되는 만큼 수학 역시 “입증된다confirmed”. 수학이 과학에서 필수불가결하고 현재 우리의 과학은 잘 입증된바 (근사적으로) 참이기 때문에 수학 역시 잘 입증된 진리이다. 이 논증은 필수불가결성 논증indispensability argument으로 불린다.
따라서 Quine과 Putnam은 진리값에서의 실재론자로서, 수학의 일부 진술들은 수학자와 과학자의 언어, 정신, 삶의 형식 등과 독립하여 객관적이고 공허하지 않은 진리값을 (과학 자체도 그런 종류의 객관성을 지닌다고 가정할 경우) 갖는다고 주장한다. 그리고 적어도 Quine은 존재론에서의 실재론자이기도 하다. 그는 ‘존재’가 일의적(一義的)univocal이라는 Frege(및 新논리주의자)의 관점을 받아들인다. 중간 크기의 물리적 대상을 지시하는 용어, 현미경적이고 초현미경적인 물리적 대상을 지시하는 용어, 수를 지시하는 용어들을 구분할 수 있게 해주는 근거란 없다. Quine과 Putnam에 따르면 사과, 야구공, 전자, 수 등을 포함하여 우리의 존재론 내에 있는 모든 항목들은 이론적 상정물theoretical posit이다. 우리는 물질적 세계에 대한 우리의 최선의 과학적 설명에서 나타나는 항목들 그리고 오로지 그러한 항목들의 존재를 받아들인다. 수와 함수가 공간과 시간에서 한 위치를 점하지 않는다는 사실에도 불구하고, 우리가 수와 함수에 대해 알게 되는 방식은 물리적 대상에 대해 알게 되는 방식과 정확히 동일하다. 즉 잘 입증된 성숙한 이론에서 상정되는 실체들을 지시하는 역할을 담당하는 용어들을 통해 알게 되는 것이다.
논리실증주의자, 新논리주의자와 같이 수학이 절대적으로 필연적⋅분석적⋅선험적이라는 전통적 관점을 견지하는 진영은 이러한 필수불가결성 논증을 강하게 배척한다. 그러한 관점에서 수학적 지식은 일상적인 담화나 자연과학에서 나타나는 바와 같은 경험적이고 우연적인 것들에 의존할 수 없다. 고결한 학문으로서의 수학은 그러한 모든 것들과 독립적이다. Quine주의적 관점은 이에 정확히 반대되는바 수학과 논리학은 전통적으로 그 학문들에 대해 인정되어온 필연성을 누리지 못하며, 선험적으로 알려지지도 않는다.
기실 Quine이 보기에 선험적으로 알려지는 지식이란 아무것도 없다. 이 논제에 따르면, 우리가 지닌 믿음의 그물망에 비추었을 때 처리하기 까다로운recalcitrant 경험적 “자료data”에 직면할 경우, 그물망 내에 있는 모든 요소들, 즉 물리세계에 대한 일상적인 믿음에서부터 과학이론, 수학, 논리학, 의미의 연관성 등에 관한 믿음에마저 이르기까지, 모든 요소들에 수정revision을 가할 수 있다. 이런 견지에서 수학은 고전물리학의 근본적인 중력법칙과 같이 그저 상당히 높은 정도로 입증된 과학적 이론과 동류의 요소일 뿐이다. 수학이 필연적이고 선험적인 것처럼 여겨지는 이유는 (그저) 수학이 믿음의 그물망 내에서 직접적 관찰로부터 가장 멀리 떨어진 “중심부”에 자리 잡고 있기 때문일 뿐이다. 수학은 믿음의 그물망 전반에 걸쳐 상당히 깊게 침투해 있기 때문에, 과학자는 처치하기 곤란한 “자료”를 마주칠 경우 수학에는 좀처럼 수정을 가하려 하지 않을 것이다. 다시 말해 사실상 모든 과학이 수학에 의존하고 있기에 수학을 거부하는 것은 상당히 있을 법하지 않은 일이다. 하지만 수학을 거부하는 일이 원리적으로 배제되는 것은 아니다. 그 어떤 믿음도 교정 불가능incorrigible하지 않다. 그 어떤 지식도 선험적이지 않은바 모든 지식의 궁극적 토대는 감각경험이다(Colyvan〔2001〕 및 이 책의 12章 참조).
이음매 없는 그물망은 곧 Quine의 자연주의naturalism로 이어진다. Quine식 자연주의는 “第1철학first philosophy의 폐기”, “실재를 확인 및 기술하는 일은 … 과학 자체 내에 속하는 과업임을 인정하는 것”(〔1981, 72쪽〕)으로 특징지어진다. 이 입장의 핵심 착상은 그 어떤 인식론적 혹은 토대론적 의미에서든 철학을 과학에 앞서는prior to 것으로 보는 게 아니라 과학과 연속적인conticuous 것으로 보는 것이다. 뭔가 인식론적으로 앞서는 것이 있어야만 한다면 오히려 자연주의자들은 기꺼이 과학이 철학에 우선한다고 주장한다. 자연화된 인식론naturalized epistemology은 이러한 주제를 지식론에 적용한 결과이다. 인식론적 자연주의 진영의 철학자들은 지식을 추구하는 인간존재를 물리적 세계 내에 거주하는 철저히 자연적인 존재로 간주한다. 철학자들이 지식을 설명하기 위해 그 어떤 인식적 능력에 호소하든, 그 능력은 과학적으로 검토될 수 있는 자연적 절차로 이루어져 있어야만 한다.
자연화된 인식론은 존재론에서의 실재론에 보통 제기되는 인식적 부담을 가중시킨다. 이 입장에서 특히 문제가 되는 사안은 물리적 우주에 거주하는 물리적 존재가 어떻게 수학적 대상과 같은 추상적인 것들abstracta에 관해 알게 되는지를 설명하는 일이다(Field〔1989, 小論7〕 참조). 추상적 대상은 인과적으로 비활성적causally inert이기에 감각적으로 관찰될 수 없음에도, 우리는 분명 추상적 대상들에 관해 무언가를 알고 있다. 이러한 도전에 대해 Quine주의자들은 그저 과학에서 수학이 중요한 역할을 담당한다는 주장으로 응수한다. 명확히 기술된 Quine주의적 그림은 과학에 대한 수학의 적용 가능성을 그저 받아들이기만 할 것이 아니라 상세히 설명해낼 수 있어야 함에도(20章), 보통은 그렇지 아니하다. 그러한 설명이 만족스럽게 이뤄진다면 이는 수학적 대상의 추상적이고 非-시공간적인 본성 및 수학적 대상과 일상적⋅과학적인 물질적 대상들 간의 관계를 적절히 조명해줄 것이다. 수나 함수에 관한 진술들이 어떻게 식탁, 건설된 다리의 안정성, 시장 안정성 등을 조명해줄 수 있는가? 그러한 분석이 만족스럽게 이뤄질 경우 믿음의 그물망에 대한 Quine주의적 그림을 옹호하는 데에 큰 도움이 될 것이다.
재차 말하지만 자연과학보다 우선하는 위치에서 그것을 정당화하거나 비판할 수 있는 第1철학이란 없다는 것이 자연주의적으로 정향된 철학자들이 견지하는 가장 핵심적인 교의이다. 과학이 철학을 안내하는 것이지 그 역이 아니다. 하지만 이것이 수학에 대해서도 마찬가지인지 여부에 대해 자연주의자들은 의견이 일치하지 않는다. Quine 자신은 오로지 과학에 적용되는 한에서만 수학을 (참인 것으로) 받아들인다. 이에 그는 고계 집합론higher set theory에서 제시되는 기본적인 주장들을 받아들이지 않는다. 해당 분야는 현 상태로는 경험적으로 적용되는 바가 전무하기 때문이다. 뿐만 아니라 Quine은 수학자들에게 그들들이 활용하길 선호하는 집합론 대신 그보다는 덜 흥미롭지만 훨씬 명료하게 이해되는 형태의 집합론을 채택함으로써, 수학자들의 실제 활동이 Quine식 자연주의를 따라야 한다고 조언하기도 한다.
수학자들 자신은 Quine식 그림에 의해 제시되는 인식론을 따르지 않는다. 수학자들이 수학적 결과를 학술지에 싣거나 자신들의 정리가 참임을 주장하기 위해 과학자들로부터 승인을 받아내지는 않는다. 그러므로 Quine의 그림은 실제 이뤄지는 바대로의 수학을 제대로 설명해내지 못하는 셈이다. 이에 Burgess〔1983〕 및 Maddy〔1990, 1997〕와 같은 일부 철학자들은 자연주의를 수학 자체에 직접 적용함으로써, 수학은 전통적인 철학적 탐구 내지 수학자로서의 수학자들 자신에 의해 판결이 이뤄지지 않은 그 어떤 탐구와도 무관하며 무관해야만 한다고 선언한다. 이런 관점에서 수학철학은 (자연화된 형태의 것이든 아니든 간에) 수학을 정당화하거나 비판하려 해서는 안 된다(13, 14章).
4.3. 수학적 대상이란 없다
존재론에서의 실재론을 부정하는 가장 선호되는 방법은 수학이 주제대상을 갖는다는 점을 순전히 부정하는 것이다. 유명론(唯名論)자nominalist들은 수, 점, 함수, 집합 등이 존재하지 않는다고 주장한다. 유명론 옹호자들이 짊어지는 부담은 수학적 존재론을 가정하지 않은 채로 수학과 그 적용을 적절하게 설명해내는 일이다. 이러한 특징은 Burgess와 Rosen이 유명론을 상세히 검토하는 저서 『대상 없는 학과A Subject with No Object』〔1997〕의 제목에서 잘 드러난다.
이러한 주제의 변형태 중 우리 논의와 연관된 역사에서 중요한 역할을 담당했던 것으로 형식주의formalism가 있다. 이 관점의 극단적인 형태로서 ‘게임 형식주의game formalism’라 불리는 입장은 수학의 본질이 의미 없는 규칙을 따르는 것이라 주장한다. 수학은 체스와 같은 게임에 비유되는바, 수학의 경우 종이 위에 쓰인 문자가 게임에서 움직여지는 말의 역할을 담당한다. 수학에서 중요한 것은 주어진 규칙들이 올바르게 준수되는 것이다. 수학의 공식들은 적어도 철학적 견지에서 보자면 아무런 의미가 없다.
게임 형식주의의 반대자들은 수학이 본질적으로 非형식적이며 단순히 기계적인 절차를 따르는 활동이 아니라고 주장한다. 수학적 언어는 의미를 지니며 이를 의도적으로 무시하는 것은 수학을 극심하게 왜곡하는 처사이다. 형식주의는 기껏해야 수학의 극히 작은 일부 측면에, 즉 논리적 귀결관계가 형식적이라는 사실에만 주목할 뿐, 수학이 본질적으로 도모하는 기획은 의도적으로 도외시한다.
이와는 다른 형태의 형식주의 수학철학이 Haskell Brooks Curry에 의해 제시되었다(가령 〔1958〕). 그의 프로그램은 역사적 사실에 기반한 다음과 같은 논제에 의존해 있다: 수학의 한 분야는 성장함에 따라 방법론의 측면에서 점점 더 엄밀해지며 그 결과 해당 분야 자체가 형식적 연역체계formal deductive system로 집대성codification된다. Curry는 완숙기에 이른 수학적 이론의 주장이, (게임 형식주의자가 말하듯) 형식적 연역체계 내에서 두어진 수(手)move의 결과로 이해될 것이 아니라, 형식체계 자체에 대한 주장으로 이해되어야 한다고 주장한다. 수학적 연구논문의 말미에 있는 주장은 ‘여차여차한 것이 이 형식체계의 정리이다’와 같은 형식을 지닌 것으로 이해될 것이다. 따라서 Curry에게 수학이란 형식체계라는 주제대상을 갖는 객관적 학문이다. 사실상 수학은 메타수학이다6)(형식주의에 관한 좀 더 상세한 설명에 대해서는 8章 참조).
6) (譯註) “형식주의에 따르면 수학의 중심 개념은 형식체계라는 개념이다. 형식체계는 하나의 규약들 집합에 의해 정의되는데 나는 이를 근원적 틀primitive frame이라 부를 것이며 … 형식적 체계를 연구함에 있어 우리는 기초명제들을 단계적으로 도입하는 데에만 우리 자신을 제한하지는 않는다. 오히려 우리는 근원적 틀로 정의된 그 체계를 주어진 데이터로 받아들인 채 우리 마음대로 가용한 수단을 활용하여 그 체계를 연구한다. 그렇게 함으로써 우리는 메타이론적 명제라 부르는 또 다른 명제를 형성할 수 있다. 기초명제들과 마찬가지로 메타이론적 명제들은 그 형식체계의 성질들을 진술하지만 … 근원적 구조의 관점에서 볼 때 메타이론의 명제들이 잘 정의된 주제물을 다루는 한, 그 명제의 진리성에 관한 문제는 일반적으로 복합명제 특유의 것을 벗어나는 아무런 어려움도 포함하지 않는다./ 그러면 수학의 형식주의적 정의는 다음과 같다: 수학은 형식체계들의 과학이다. 수학의 명제는 어떤 형식체계 혹은 형식체계들 집합에 관한 기본적인 혹은 메타이론적인 명제들이다.” (H. B. Curry, 「수학의 본질에 관한 논평Remarks on the Definition and Nature of Mathematics」, 1954: H. Putnam, P.Benacerraf 編, 같은 책, 312-3쪽.)
작금의 수학철학계에서 가장 우세한 형태의 유명론은 가령 Hartry Field〔1980〕에서 발전된 허구주의fictionalism이다. 수, 점, 집합이 갖는 철학적 지위는 허구작품에 등장하는 실체들의 지위와 동일하다. 허구주의자에 따르면 수 6은 Watson 박사나 Marple 양과 동일한 종류의 사물이다.
Field에 따르면 수학적 언어는 액면 그대로 이해되어야 한다. 수학언어로 이뤄진 주장들은 공허한 진리치를 갖는다. 예를 들어 ‘모든 자연수는 소수이다’는 자연수가 존재하지 않기 때문에 참인 것으로 밝혀진다.7) 마찬가지로 ‘10보다 큰 소수가 존재한다’는 거짓이며8) Fermat의 마지막 정리와 Goldbach의 추측은 모두 참이다. 물론 Field가 수학자들에게 이러한 공허성을 통해 그들의 실질적인 문제를 일소해버리라고 권하는 것은 아니다. Quine과 달리 Field는 수학의 방법론이 변경되어야 한다고 제안하지는 않는다. 그의 관점은 단지 수학적 결과들 및 그것들이 과학적 기획에서 담당하는 역할이 어떻게 해석되어야 하는지에 관여할 뿐이다. Field에게 수학의 목적은 참을 주장하는 것이 아니다. 유일하게 중요한 수학적 지식은 논리적 귀결에 관한 지식들이다(Field〔1984〕 참조).
7) (譯註) 보편 양화문의 내부 부속문은 조건언 연결사를 주 연결사로 취하는데 조건문은 전건이 거짓이거나 후건이 참일 경우 참이므로, 그 모든 대입례의 전건이 거짓일 수밖에 없는 보편 양화문은 공허하게 참이다.
8) (譯註) 존재 양화문의 내부 부속문은 연언 연결사를 주 연결사로 취하는데 연언문은 연언지 둘 중 적어도 하나가 거짓일 경우 거짓이므로, 그 모든 대입례의 연언지 중 적어도 하나가 거짓일 수밖에 없는 존재 양화문은 공허하게 거짓이다.
Field는 Quine/Putnam의 필수불가결성 논증을 존재론적 실재론을 옹호하는 논증들 중 진지하게 고려해봄직한 유일한 것으로 간주한다. 따라서 그의 전반적인 지향점은 대체로 Quine주의적인바 수학적 지식이 선험적이라는 오래된 믿음에 직접적으로 반대한다. 앞서 살펴보았듯 좀 더 전통적인 철학자들(및 대부분의 수학자들)은 필수불가결성 논증이 수학적 지식과 그저 무관하다고 생각한다. 이와 대조적으로 Field와 같은 사상가들이 보기에 필수불가결성 논증의 기반이 일단 약화되고 나면 수학적 대상의 존재성을 믿을 만한 더 이상의 진지한 이유는 없게 된다.
어떤 과학적 이론에 수학적으로 상정된 사안이 없을 경우 그 이론을 ‘유명론적’이라 부르기로 하자. Quine과 Putnam이 지적했듯이 실제 과학활동을 통해 발전되어온 대부분의 이론들은 유명론적이지 않은바, 필수불가결성 논증은 부정키 어려운 바로 이 사실에서 출발한다. Field의 프로그램이 드러내는 첫 번째 측면은 유명론적 형태의 과학이론을 발전시키는 것이다. [다르게 말해, 사실상 부정될 수 없는 피설명항으로서 받아들여진 채 필수불가결설 논증이 시작되는 그 사안 자체를 이론상 무효한 것으로 만들고자 하는 셈이다.] 물론 Field는 작금에 우세한 모든 과학이론들에 대해 이 과업을 착수하지는 않는다. 이를 위해서는 우세한 최첨단 과학이론들 전부를 속속들이 이해해야 하는데 이는 사실상 어느 누구도 달성할 수 없는 불가능한 일이기 때문이다. 다만 Field는 Newton의 중력이론을 주된 사례로 삼아 이를 유명론化 하는 작업을 상세히 진행함으로써, 이 기법이 여타 과학적 작업으로 확장될 수 있을 여지를 조명한다.
Field 프로그램이 보여주는 두 번째 국면은 물리세계에 관해 참인 사실들을 결정하고자 하는 (즉 관찰경험을 설명하고자 하는) 과학적 목적을 달성하는 데에 유명론적 이론만으로도 충분함을 보이는 것이다. P를 유명론적인 과학언어라 하고, S를 수학용어와 과학용어를 연결시켜주는 “교량원리bridge principle”를 지닌 수학이론이라 해보자. 그리고 S는 다음의 경우 P에 대해 보수적conservative이라고 정의한다: 유명론적 이론의 언어로 된 임의의 문장 Φ에 대해, Φ가 P+S의 귀결이라면 Φ는 P 혼자만의 귀결이다. 따라서 수학이론이 유명론적 과학이론에 대해 보수적일 경우, 수학을 경유하여 얻어질 수 있는 물리적 귀결은 유명론적 물리학 단독으로도 얻어질 수 있을 것이다. 이는 수학이 사실상 필요할지라도 원리적으로는 불필요함을 보여줄 것이다. Field는, 보수성 개념이 적어도 다음과 같이 모형론적 측면에서 이해될 경우, 표준적인 수학이론과 교량원리가 자신이 제시한 유명론적 Newton 이론에 대해 보수적임을 보여준다: Φ가 P+S에 대한 모든 모형에서 성립할 경우, Φ는 P에 대한 모든 모형에서 성립한다.
상기한 Field〔1980〕에 대한 반응으로 나온 상당량의 철학적 문헌들은 Field의 기법이 양자역학과 같은 더욱 현대적인 이론들에 대해서는 일반화되지 않는다고 논증한다(Malement〔1982〕). 혹은 추상적인 것과 구체적인 것에 대해 Field가 제시하는 구분법이 유효하지 않거나, Field의 허구주의를 지지하는 데에 필요한 역할을 수행해내지 못한다고 논증한다(Resnik〔1985〕). 혹은 Field 식으로 유명론화된 이론이 철학적으로 관련된 의미에서는 기실 보수적이지 않다고 논증한다(Shapiro〔1983〕). Field의 선집〔1989〕에는 이러한 반론들 일부에 대한 Field 자신의 답변이 담겨있다.
反-실재론 진영에서 우세한 또 다른 제안은 수학적 주장을 양상적인modal 측면에서 再구성하는 것이다. 이 노선의 철학자들은 수학적 주장을 특정 종류의 대상들이 존재할 경우 가능한 것에 관한 주장 내지 그 경우 사실이었을 것에 관한 주장으로 이해한다. 주된 혁신은 Chihara〔1990〕에 제시된 양상적 원초용어인 “구성가능성 양화사constructibility quantifier”이다. Φ가 하나의 식이고 x가 특정 유형의 변항일 경우, Chihara의 체계는 ‘Φ한 x를 구성하는 것이 가능하다it is possible to construct an x such that Φ’로 읽히는 식을 포함한다. Chihara에 다르면 구성가능성 양화사는 Quine이 칭한바 “존재론적 개입ontological commitment”을 나타내지 않는다. 존재론적 개입 개념이 상식적인 의미로 이해되는 한 그의 주장은 상식에 부합한다. 어떤 사람이 보스톤에 새 야구장을 건설하는 게 가능하다고 말한다면, 그 사람은 그 어떤 야구장의 존재성도 주장하고 있는 게 아니며, ‘가능한 야구장’이라 불릴 법한 기이한 실체의 존재성을 주장하고 있는 것도 아니다. 그 사람은 단지 어떤 일이 이뤄지는 게 가능하다는 것을 말하고 있을 뿐이다.
상기 문헌 Chihara〔1990〕에 제시된 형식언어는 개방문open sentence(자유변항이 포함된 문장)을 아우르는 변항을 포함하며 이 개방문-변항은 구성가능성 양화사에 의해 속박될 수 있다. Chihara는 (非가술적인) 단순유형론simple type theory 내에서 산술학, 해석학, 함수해석학 등등의 수학분야들이 병렬적으로 발전된 과정을 따라[?], 세부사항에 상당한 주의를 기울여 그러한 수학분야들을 자신의 체계 내에서 발전시킨다.
Field와 달리 Chihara는 진리치에서의 실재론자이다. 그는 적절한 형태의 양상진술이 정신, 언어, 규약, 혹은 수학 공동체와 독립적으로 성립하는 객관적이고 공허하지 않은 진리치를 갖는다고 주장한다. 수학은 존재론을 갖지 않음에도 객관적인 학문인 것으로 판명된다. Chihara의 프로그램은 인식적 영역의 최전선에 대한 초기 가능성을 보여준다. 수학자들이 무엇이 가능한지 혹은 어떤 문장이 구성가능한지에 대해 알게 되는 방식을 설명하는 일은, Platon적인 대상영역에 관해 알게 되는 방식을 설명하는 일보다는 쉬운 과업일 것이다.
4.4. 직관주의
Luitzen Egbertus Jan Brouwer(예를 들면 〔1912, 1948〕)와 Arend Heyting(예를 들어 〔1930, 1956〕) 같은 전통적인 직관주의자intuitionist들은 형식주의자와 달리 수학이 주제대상을 갖는다고 주장한다. 즉 수와 같은 수학적 대상들은 존재한다. 다만 Brouwer와 Heyting은 이러한 대상들이 정신-의존적mind-dependent이라고 주장한다. 즉 자연수와 실수는 정신적 구성물mental construction 내지 정신적 구성활동의 결과물이다. 수학에서, 존재한다는 것은 구성된다는 것이다. 따라서 Brouwer와 Heyting은 존재론에서의 反-실재론자로서 수학적 대상의 객관적 존재를 부정한다. 그들의 몇몇 저작은 모든 사람들이 각각 저마다의 고유한 수학적 영역을 구성한다는 주장을 함축하는 것처럼 여겨진다. 수학자들 간 이뤄지는 의사소통은 각자의 개인적인 구성활동에 관한 기록물들을 주고받는 일로 이뤄진다. 이러한 그림은 수학을 주관적인 것으로 만드는 듯하다. 하지만, 특히나 Brouwer를 포함하여 직관주의자들은 공통적으로 수학이 정신적 구성의 소위 형식form에 관계한다고 주장한다(Posy〔1984〕 참조). 이는 수학이 종합적이면서 선험적이라는 Kant의 논제를 따르는 입장이다.
이러한 관점은 적절한 수학활동이 어떤 것이어야 하는지에 관해 제한을 가한다. 대표적인 것을 들자면, 직관주의자들은 A∨∼A 형식의 배중률 및 그에 기반한 모든 추론들에 이의를 제기한다. Brouwer와 Heyting에 따르면 이러한 방법론적 원리들은 수학적 대상의 초월적 존재성 및 수학적 진술의 초월적 진리에 대한 믿음을 나타낸다. 직관주의자에게 모든 수학적 주장은 그에 대한 각 구성과 대응해야 한다. 예를 들어 P를 자연수가 지니는 어떤 속성이라 해보자. 직관주의자에게 모든 자연수가 속성 P를 갖지는 않는다(￢∀xPx)라는 주장의 내용은, P가 모든 자연수에 대해 성립함을 보여주는 구성을 찾을 수 있다는 것이 논박될 수 있다는 것이다. P가 성립하지 않는 자연수가 존재한다(∃x￢Px)는 주장의 내용은, x를 구성하여 P가 x에 대해 성립하지 않음을 보여줄 수 있다는 것이다. 후자는 전자로부터 추론될 수 없다. 한 속성이 성립하지 않는 특정 수를 구성하지 않더라도 그 속성이 보편적으로 성립할 수 없음을 보일 수는 있기 때문이다. 반면 실재론자의 관점에서 보자면, ￢∀xPx는 단지 P가 보편적으로 성립한다는 것이 거짓임을 의미하며, ∃x￢Px는 P가 성립하지 않는 수가 존재함을 의미한다. 두 식 모두 수 자체를 지시할 뿐, 지식을 추구하는 수학자의 능력이라든가 수학자가 지닌 여타 그 어떤 정신적 특성과도 무관하다. 실재론자의 관점에서 두 식은 동치다. ￢∀xPx로부터 ∃x￢Px로의 추론은 배중률의 직접적인 귀결이다.
Michael Dummett(〔1973, 1977〕)과 Neil Tennant(〔1987, 1997〕) 같은 현대 직관주의자들은 이와는 다른 경로를 거쳐 대략 동일한 개정주의적 결론에 도달한다. 그들이 제안하는 논리학은 Brouwer나 Heyting의 것과 유사하지만 그들과는 다른 논증과 철학을 근거로 그것을 지지한다. Dummett은 언어습득과 사용 및 의사소통에서 언어의 역할에 주목함으로써 시작한다. 문장을 이해하기 위해서는 그 의미를 파악해야 하며, 문장을 배운다는 것은 그럼으로써 그 의미를 배우는 것이다. Dummett이 말하듯 “의미의 모델은 이해의 모델이다.” 적어도 이는 진술의 의미가 다소간 그 진술의 사용에 의해 결정된다는 것을 시사한다. 한 언어의 그 어떤 문장이든 이해하는 사람은 행동behavior을 통해 그 이해를 현시(顯示)manifest할 수 있어야만 한다. 언어는 의사소통의 도구이기 때문에, 한 개인은 그가 의사소통을 성공적으로 수행하고 있는 것으로 관찰될 수 없는 내용을 의사소통할 수는 없다.
Dummett은 주장하길 이러한 “현시요건manifestation requirement”은 자연스럽게 우리가 칭한바 진리값에서의 실재론 및 고전논리의 거부로 이어지며, 그에 따라 수학에서도 상당한 정도의 개정이 요구되기에 이른다고 말한다.
대부분의 의미론적 이론들은, 복합진술의 의미론적 내용이 그 진술을 구성하는 부분들의 의미론적 내용으로 분석된다는 의미에서 구성적compositional이다. 가령 Tarski식 의미론은 복합식complex formula의 만족satisfaction이 그것을 이루는 하위식subformula들의 만족을 통해 정의되기에 구성적인 의미론이다. Dummett은 이러한 구성적 의미론이 현시요건을 통합시킴으로써 보강되어야 한다고 제안한다. 이 제안에 따르면 적절한 의미론은 각각의 언어식에 대해 만족조건이 아니라 증명조건proof condition 내지 계산computation조건을 제시해주어야 한다. 이에 Dummett은 그가 칭한바 “Heyting 의미론”을 채택한다. 예시로서 그 의미론의 세 가지 항목은 다음과 같다:
Φ∨Ψ 형식을 지닌 식에 대한 증명은 Φ의 증명이거나 Ψ의 증명이다.
Φ→Ψ 형식을 지닌 식에 대한 증명은 Φ의 어떤 증명이든 Ψ의 증명으로 변환됨이 증명될 수 있는 절차이다.
￢Φ 형식을 지닌 식에 대한 증명은 Φ의 어떤 증명이든 불합리성의 증명으로 변환됨이 증명될 수 있는 절차이다. 즉 ￢Φ의 증명은 Φ에 대한 그 어떤 증명도 있을 수 없음에 대한 증명이다.
Heyting과 Dummett은 이런 식의 의미론 하에서는 배중률이 보편적으로 받아들여질 수는 없다고 주장한다. Φ∨￢Φ 형식을 지닌 문장의 증명은 Φ의 증명 혹은 Φ에 대한 증명이 있을 수 없음에 대한 증명으로 구성된다. 직관주의자들에 따르면 이러한 선언문이 모든 문장 Φ에 대해 사전에 [즉 Φ의 증명이나 Φ의 증명이 불가능함에 대한 증명 둘 중 하나를 실제로 구성하지 않은 채로] 주장될 수는 없다.
수리논리학 분야에서 진척된 상당한 양의 연구들은 직관주의논리가 고전논리와 얼마나 판이한지 보여준다. 많은 수학자들은 직관주의 진영에서 가해지는 제한사항들이 수학분야를 상당히 손상시킨다고 생각한다(예를 들어 Paul Bernays〔1935〕 참조9)). 일부 수학철학자들이 보기에 현 상태의 수학에서 상당부분을 수정하는 것은 섣불리 치르기엔 너무 큰 비용을 지출하게 만든다. 어떤 철학이 함축하는바 수학자들의 실제 활동이 무언가 잘못되었다고 판정한다면, 즉각 거부되어야 하는 것은 실제 수학이 아니라 외려 그 철학이다. 이러한 입장에 선 철학자들에 따르면 직관주의 철학은 아무 문제없이 그저 무시될 수 있다. 다소 독단적인 이러한 반응에 비해 좀 더 온건한 접근법은, Dummett의 논증을 적절하고 진지한 도전으로 받아들여 그가 제기한 비판에 마땅히 응수하는 것이다[?]. Dummett은 고전논리 및 실제 수행되는 바로서의 작금의 수학이 온당한 논리학과 수학이라면 마땅히 지녀야 할 종류의 정당화를 누리지 못하고 있다고 주장한다. Quine식의 전체론자라든가 Maddy 스타일의 자연주의자와 같은 고전수학의 옹호자들은 이 논점을 수긍하면서도, 다만 수학과 논리학이 Dummett이 요구하는 특정 종류의 정당화를 굳이 필요로 하지는 않는다고 논증해낼 수 있다. 이 논쟁에 관해서는 이쯤에서 그만두어야 하겠다(9, 10章 참조).
9) (譯註) “해석학에 관해서는 Brouwer가 직관주의의 요구에 일치하는 방식으로 전개한 바 있음을 여러분은 알고 있다. 다만 여기에서도 통상적인 여러 정리들은 포기되어야 하는바, 가령 임의의 연속함수는 〔유계〕 폐구간에서 최대값을 갖는다는 기본 정리는 포기되어야 한다. 집합론의 경우는 직관주의 수학에서 타당한 것으로 남을 수 있는 사실이 극히 적다./ 대강 말하자면 직관주의는 정수론에 적용된다고 할 수 있다. 半플라톤주의적semiplatonistic 방법은 정수들 전체의 아이디어를 사용하되 準-조합적인 개념들은 회피하는 것으로서 함수의 산술적 이론에는 적용될 수 있으며, 반면 통상적인 Platon주의는 연속체에 관한 기하학적 이론에 적절하다./ 이러한 상황은 결코 놀랄 만한 게 아니다. 오늘날의 수학자에게는 수학의 각 영역에서 자신이 가정하는 바를 필수적인 데에만 국한하는 일이 낯익은 과정이기 때문이다. 외려 이러한 제한을 통해 한 이론은 방법론적인 명확성을 얻기도 하며, 이는 직관주의가 생산적임을 보여주는 방향이기도 하다./ 하지만 여러분도 아시다시피 직관주의는 결코 그러한 역할에만 만족하지 않는다. 직관주의는 통상적인 수학을 반대하여 〔자신만이〕 유일한 참된 수학을 대표한다고 주장한다. 반면 수학자들은 일반적으로 해석학에서 잘 시험된 우아한 방법들을, 절실히 필요하지 않은 한 그보다 복잡한 방법들로 바꾸려 하지 않는다. … 나는 다만 직관주의가 모든 사람이 의심할 뿐만 아니라 원리적으로는 필요하지도 않은 명제들을 기반으로 택하며, 그럼으로써 결과적으로 얻어진 이론은 도리어 빈약해질 수 있음을 보이려는 데에 관심한다.” (Paul Bernays, 「수학에서의 Platon주의에 관하여Sur le platonisme dans les mathématique」, 1935: H. Putnam, P.Benacerraf 編, 같은 책, 404-7쪽.)
4.5. 구조주의
또 다른 인기 있는 수학철학에 따르면, 가령 산술학의 주제대상은 대상들로 이뤄진 무한한 체계system라면 어느 것이든 공통으로 지닌 패턴(양식)pattern으로서, 그 체계에는 체계 내 여타 대상들과 구분되는 최초의initial 대상이 있고 체계 내 대상들 간에는 귀납원리를 만족하는 직후자 관계 내지 직후자 연산(演算)successor operation이 성립한다. 아라비아 숫자들은 이러한 자연수 구조(構造)natural number structure를 예화(例化)한다exemplify. 이는 특정 문자체계 순으로 배열된 유한한 문자들 계열, 혹은 각기 구분되는 시점들로 이뤄진 무한한 계열 등도 마찬가지이다. 하나의 자연수는 자연수 구조 내의 한 자리(위치)place로서, 가령 자연수 6은 (고려중인 자연수 구조가 0을 포함할 경우) 그 구조 내의 일곱 번째 자리이다. 마찬가지로 실해석학은 실수구조를, 집합론은 집합론적 위계구조를, 위학수학은 위상수학적 구조를 다루는 분야들이다.
구조주의자structuralist들에 따르면 수학이 과학에 적용되는 일은 어느 정도 특정 수학적 구조가 물질세계에서 예화된다는 것이 발견 내지 약정됨으로써 이뤄진다. 패턴이 패턴화되는 대상에 관계하는 것과 같은 정도로 수학은 물질적 실재에 관계한다. 하나의 구조가 여러 종류의 대상들에 의해 예화될 수 있기 때문에 구조는 전통철학의 보편자universal 내지 속성property과 유사하다.
구조에 대한 여러 가지 존재론적 관점들은 보편자에 대한 전통적인 관점들에 대강 대응한다. 그 중 한 가지 관점은, 가령 자연수 구조가 물리세계 내지 어떤 다른 세계에서 예화되는지 여부와 무관하게 존재한다는 것이다. 보편자에 대한 이와 유사한 관점을 따라 이를 사물 앞 구조주의ante rem structuralism라 칭하자(Shpiro〔1997〕, Resnik〔1997〕 및 Parsons〔1990〕 참조). 또 다른 관점은 자연수 구조에는 그것을 예화하는 대상들의 체계 이상의 것이 존재하지 않는다는 것이다. 대상들로 이뤄진 체계가 파괴되면 그에 따라 구조 역시 파괴된다. 이 관점에서 보자면 구조란 것은 아예 존재하지 않거나 (이 경우 모종의 유명론이 얻어진다), 혹은 구조의 존재성은 그 “사례instance들”의 존재성 즉 그 구조를 예화하는 체계들의 존재성에 의존한다. 이런 종류의 관점들에는 으레 제거적 구조주의eliminative structuralism라는 명칭이 붙는다(Benacerraf〔1965〕 참조).
사물 앞 구조주의에 따르면 수학의 진술들은 액면 그대로 이해된다. ‘2’와 같은 외견상의 단칭용어는 자연수 구조 내의 한 위치를 지칭하는 진정한 단칭용어이다. 반면 제거적 구조주의자에 따르면 이러한 외견상 단칭용어들은 실제로는 속박된 변항이다. 예를 들어 ‘2+3=5’와 같은 문장은 ‘임의의 자연수 체계 S 내에서, S의 2-자리2-place에 있는 임의의 대상은 S의 3-자리에 있는 대상과 S-더해져S-added S의 5-자리에 있는 대상이 된다’와 같은 문장인 것으로 드러난다. 제거주의적 구조주의는 구조 없는 구조주의이다.
액면 그대로 받아들일 경우 제거적 구조주의가 수학을 공허하지 않게 유지시키고자 한다면 상당한 존재론을 필요로 한다. 예를 들어 세계에 존재하는 대상이 유한하다면 자연수 구조는 예화되지 않는 셈이여 그에 따라 산술학의 보편양화진술들은 모두 공허하게 참이게 되어버린다. 실해석학 및 복소해석학과 Euclid 기하학은 대상들의 연속체를 필요로 하며, 집합론은 대상들로 이뤄진 고유부류proper class[집합이 아닌 부류](혹은 적어도 도달불능기수inaccessible cardinal number)를 필요로 한다. 반면 사물 앞 구조주의자 입장에서는 구조 자체 및 구조 내 위치들이 곧바로 수학을 위한 “존재론”을 제공한다.
초기 제거적 구조주의자로서 Benacerraf〔1965〕는 집합론적 위계가 자연수 구조를 복수로 예화한다는 사실에 착안한다. 이 사실로부터 Benacerraf는 수가 대상이 아니라고 결론짓는다. 이 결론은 어떤 것이 대상이 된다는 게 정확히 무엇인지의 문제에 달려 있는바, 이는 그 자체로 흥미로운 철학적 문제이다. 이에 비해 사물 앞 구조주의자는 자연수 구조의 복수실현가능성multiple realizability을 다음과 같이 손쉽게 수용할 수 있다: 집합론적 위계 내 대상으로서 이해된 항목들은 모종의 체계를 이루도록 조직화될 수 있으며, 이러한 체계들 중 일부는 자연수 구조를 예화한다. 간단히 말해 사물 앞 구조주의는 수학적 구조가 여타 수학적 대상들에 의해 예화된다는 사실을 적절하게 설명해낼 수 있다. 실지로도 자연수 구조는 짝수라든가 소수(素數)와 같은 다양한 자연수 체계들에 의해 예화된다. 사물 앞 관점에서 보자면 자연수 구조 내 위치들로서의 자연수들이 존재한다는 것은 명백하다. 그러한 자연수들 중 일부는 여러 체계들로 조직화되며, 그러한 체계들 중 일부는 자연수 구조를 예화한다.
사물 앞 관점에 제기되는 주요 인식론적인 문제는 다음과 같다: 우리는 어떻게 구조에 관해 알게 되는가? 제거적 형태에 대해서는 다음과 같은 문제가 제기된다: 우리는 어떻게 특정 유형의 모든 체계 내에서 성립하는 것들에 관해 알게 되는가? 구조주의자들은 인식론적 문제들을 해결하기 위해 다양한 전략을 발전시켜왔다. 적어도 충분히 작고 유한한 구조를 인식하는 문제에 관해서라면 패턴 인지에 관한 심리적 기제에 의존해볼 수 있을 것이다. 우리는 어떤 주어진 패턴들의 여러 사례들을 직면함으로써 종내는 패턴 그 자체에 관한 지식을 습득하게 될 것이다. 더욱 복잡한 형태의 구조들은 Quine 스타일의 약정postulation을 통해 파악되든가(Resnik), 혹은 더욱 강력한 추상화작업 및 암묵적 정의를 통해 파악될 것이다(Shapiro).
앞서 언급된 그 어떤 형태의 구조주의도 수학의 존재론적 부담을 삭감해주지 못한다. 우선 사물 앞 구조주의의 존재론은 전통적인 실재론의 존재론만큼이나 크고 광범위하다. 기실 사물 앞 구조주의는 존재론에서의 실재론이다. 문제가 되는 사안은 그 존재론의 본성 자체가 무엇인가 하는 점이다. 다음으로 제거적 구조주의 역시 수학의 다양한 분야들이 공허함으로 빠지는 일을 막기 위해서는 상당한 규모의 존재론을 필요로 한다. 함수해석학이나 집합론 정도에 이르면, 분명 세계에 존재하는 물리적 대상은 구조주의를 공허함으로부터 구출할 정도로 충분히 많지 않다. 따라서 제거적 구조주의는 非구체적 대상들에 대한 상당한 규모의 존재론을 요구하며, 그에 따라 존재론적 反-실재론과 일관되기 어렵다.
Hellman〔1989〕의 양상적 구조주의modal structuralism는 제거적 구조주의의 핵심 논제를 변형하면서 철저한 존재론적 反-실재론을 택한다. 산술이 특정 유형의 모든 체계에 관한 것이라 주장하는 대신, 양상 구조주의자는 산술이 특정 유형의 모든 가능한 체계들에 관계한다고 말한다. ‘2+3=5’와 같은 덧셈 문장은, ‘임의의 가능한 자연수 체계 S 내에서, S의 2-자리2-place에 있는 임의의 대상은 S의 3-자리에 있는 대상과 S-더해져S-added S의 5-자리에 있는 대상이 된다’ 내지는 ‘필연적으로, 임의의 자연수 체계 S 내에서, S의 2-자리2-place에 있는 임의의 대상은 S의 3-자리에 있는 대상과 S-더해져S-added S의 5-자리에 있는 대상이 된다’와 같은 문장인 것으로 드러난다. 양상적 구조주의자는 숫자와 같은 외견상의 단칭용어가 위장된 속박면항이라는 데에는 제거적 구조주의자에 동의하지만, 전자의 입장에서는 이 변항들이 양상 연산자의 범위 내에서 나타난다는 차이점이 있다.
양상 구조주의자는 제거적 구조주의자가 직면하는 바와 유사하되 그보다는 약화된 형태의 공허성 문제에 직면한다. 이에 대해 양상주의자는 자연수 구조를 예화하는 체계들이 존재한다고 주장하는 대신, 예를 들어 그러한 체계들이 가능적이라고 단언할 필요가 있다. 다만 여기서의 쟁점은 그 주장의 기저에 있는 양상성 개념을 명확하게 밝혀내는 일이다(17, 18章 참조).
상기 탐구의 결과들은 논리학 및 논리철학과 관련된 다양한 쟁점들을 제기한다. 가령 직관주의와 관련된 논쟁에서는 수학에서의 배중률 및 그에 토대한 추론의 일반적 타당성에 관한 문제가 제기되며(9-11章 참조), 특정 형태의 논리주의로부터는 非가술성에 관한 문제들이 등장한다.
뿐만 아니라 논리학에서 수학철학 방향으로도 다양한 쟁점들이 제기된다. 논리철학 내의 가장 주된 쟁점은 논리적 귀결logical consequence의 본성 내지 본성들에 관한 문제들일 것이다. 우선 첫 번째로 다음과 같은 연역적 귀결개념이 있다: 명제 Φ가 명제집합 Γ의 원소들을 근거로 완전히 정당화된다면 Φ는 Γ로부터 따라 나온다follow from. 종종 이러한 귀결개념은 Γ의 원소로부터 Φ에 이르는 적법하고 도약-없는 추론들의 연쇄chain of legitimate, gap-free inferences라는 측면에서 이해되기도 한다. 이와 유사한 혹은 동일한 착상은 논리주의를 옹호하는 과정에서 발전된 Frege의 논리학의 기저에 놓여 있으며 新논리주의의 작업에서도 발견된다. 주어진 수학적 명제가 직관과 독립하여 선험적으로 알려질 수 있음을 보이기 위해서는 그 명제에 대한 도약-없는 증명을 제시해야 한다. 두 번째로 다음과 같은 의미론적, 모형-이론적model-theoretic 귀결개념이 있다: Γ의 모든 원소들이 참인 언어의 모든 모형(혹은 해석) 하에서 Φ가 참일 경우, Φ는 Γ로부터 따라 나온다. 통상적인 논리학 교재들에서 소개되는 연역체계들은 연역적 귀결개념을 포착하거나 본뜬 것이며, 모형론적 의미론은 의미론적 귀결개념을 포착하거나 혹은 포착해내고자 한다.
모형론적 귀결개념의 적법성에 관해, 그리고 두 귀결개념 중 무언가 우선적인 것이 있다면 둘 중 어느 것인가에 관해 상당한 쟁점들이 제기되어 왔다. 물론 이러한 쟁점들의 해결책은 그보다 앞선 문제로서 논리학의 본성 및 논리적 탐구의 목적에 관한 문제들에 달려 있다(21, 22章 참조). 두 귀결개념 모두 적법하다면 양자의 관계가 정확히 무엇인지 물을 수 있다. 한 가지 확실한 점은, 명제 Φ가 집합 Γ로부터 연역적으로 따라 나온다면, Γ가 참인 언어의 모든 해석 하에서 Φ가 참이어야만 한다는 점이다. 그렇지 않을 경우 참인 명제로부터 거짓인 명제에 이르는 적법하고 도약-없는 추론의 연쇄가 존재하게 되어버리는바, 이는 결코 받아들일 수 없는 결과이다. 하지만 이의 역도 성립하는지는 그다지 분명하지 않다. 짐작건대 결론이 전제로부터 연역적으로 추론될 수는 없지만 의미론적으로는 타당한 추론이 존재할 것이다.
앞선 節에서도 간략히 제기된 바 있는 것으로서 고계논리를 둘러싼 쟁점들은 논리적 귀결의 본성(들)과 연관된 사안들에 좌우된다. 2계논리에 대해서는 건전한 동시에 완전한both sound and complete 효과적effective 연역체계가 존재하지 않는다는 의미에서, 2계논리는 내재적으로 불완전하다incomplete. 이 사실로 인해 2계논리는 논리학으로서의 지위를 박탈방해야 하는가, 아니면 2계논리가 수행할 수 있는 여타 역할이 있는가? 이 모든 것들이 수학의 기저에 있는 본성에 관해 말해주는 바는 무엇인가? (25, 26章 참조)
마지막으로, 고대에서 오늘날에 이르기까지 지속되어온 전통으로서, 명제 Φ가 어떤 식으로든 집합 Γ와 적절하게 관련relevant되어 있지 않은 한 Φ는 Γ의 논리적 귀결일 수 없다고 주장하는 입장이 있다. 현대철학에서 적합논리relevance logic의 주요 공격대상은 소위 함축의 역설paradox of implication이다. 이 역설들 중 하나는 논리적으로 참인 명제는 그 어떤 전제들 집합으로부터든 따라 나온다는 논제(ex quodlibet verum)이며, 또 다른 하나는 모순으로부터는 어떤 결론이든 따라 나온다는 논제(ex falso quodlibet)이다. 이러한 추론들이 수학에서 나타나는 범위에 관한 문제는 그 자체가 하나의 큰 논쟁거리이다(23, 24章 참조).
감사의 말. 이 章의 내용 일부는 Shapiro〔2000b〕와 〔2003b〕로부터 발췌하여 다듬은 것이다.