수학, 철학에 미치다

수학, 철학에 미치다 - 생각하는 힘, ‘수학’으로 키워라!, 개정판
장우석 지음 / 페퍼민트(숨비소리) / 2012년 5월

학부와 대학원생 시절, '필요에 의해서'라는, 사뭇 반강제적인 이유로 단순 계산, 즉 '산수'가 아닌, 진짜 '수학'(의 몇몇 과목들을)을 수강하다 보니, 수학이라는 학문이 결국엔 '생각하는 방법을 훈련받는 분야'라는 것을 자연스레, 별 의문 없이 받아들이게 되더군요. (물론 당시에는 그처럼 수학 자체의 아름다움에 빠져있을 만한 여유는 없었습니다. 그냥... 반복!하여 암기!해내야 한다는 과제만이 있었었을 뿐.) 이렇게 체험적으로, 허나 논리적이지는 않게 성립되었던 제 생각을, 수학교육과를 졸업하고 대학원에서 철학을 전공했다는, 현직 고등학교 수학교사인 저자는 데카르트의 유명한 말을 빌어 그 '철학과 수학의 연결점'을 다음과 같이 설명해 주고 있습니다.

"나는 생각한다, 고로 존재한다. Cogito, ergo sum" --- 내가 존재한다는 최종적인 근거가 나의 생각에 있다는 뜻인 이 명제를 논리적으로 정직하게 밀어 붙이면 결국 "나는 생각하는 동안만 존재할 수 있다"라는 결론에 도달한다. 나의 일상을 돌아볼 때, 주어진 상황을 별 생각 없이 그대로 받아들이고 사회적 관습과 나의 몸의 관성에 따라 하루하루를 보내는 경우가 많다. 즉 생각 없는 삶을 살고 있는 것이다. 데카르트에 의하면 이러한 삶은 무의미한 삶이라기보다는 아예 존재하지 않는 삶이다. …… 철학은 학문이라기보다는 사유하는 삶의 자세이다. …… 서양의 역사에서 수학은 철학적 사유의 원형으로서 철학을 이끌어왔다. 새로운 문제의 발견을 통한 인식의 틀의 확장, 그리고 답을 찾아가는 과정에서의 논리의 정교한 발전 등은 거의 모두 수학을 통하여 이루어졌기 때문이다.

​……………………………

​「문명과 수학」처럼, 이 책 또한 일종의 수학사數學史를 다루고 있는 책이라 말해질 수 있습니다. 하지만 이 책은, 그 제목에서도 알 수 있듯이 수학의 배경에 놓여있는 '철학'적 문제들을, 철학을 전공하지 않은 일반인으로서는 '이 정도면 충분'하다라는 수준까지 밝혀줌으로써, '이 정도면 완벽해'란 감탄까지를 자아내주고 있지요. 

.

.

.​

이집트 피라미드의 높이를 거의 정확하게 계산해 냈다는, 그리스의 철학자 탈레스가 최초로 증명한 여러 명제들 중 하나인 "원은 지름에 의하여 이등분된다"의 증명을 보는 순간, 여전히 제 마음 한 구석에 자리잡고 있는 '더 좋은 것은 훗날에 남았으리'라는 작가 이문열의 구절이, 정말로 오랫만에 다시금 떠올랐더랬습니다.

​

● 탈레스의 증명 : 지름에 의하여 원이 좌우대칭되지 않는다고 가정해보자. 지름을 기준으로 접었을 때 포개지지 않는 부분이 존재할 것이다. 그런데 원은 중심에서 모든 점까지의 거리가 동일하다. 그렇지만 포개지지 않는 부분은 중심에서의 거리가 다르다. 이렇게 되면 이것은 원이 아니게 된다. 우리가 그린 것은 원이었다. 따라서 원은 지름에 의하여 정확하게 포개져야만 한다. 

​'A라는 사실이 성립하지 않는다라고 가정해 보자'로 시작되는, 그야말로 '증명 방식의 기초'를 보여주고 있는 이 부분을 읽었던 순간, 지금으로부터 22년 전, 제가 '1+1=2'의 증명을 배우며 가졌었던, '세상에 뭐 이런 당연한 것을 어렵게 증명하나'란 불평이, 그렇게 22년간 불평으로만 남아있었던 그 마음이... 완전히 사라지게 되는, 그런 짜릿함!을 느낄 수 있었습니다. 당시엔... 그 누구도 '왜?' 이런 방식의 증명을 하고 있는지에 관해 알려주지 않았었던, 그저 암기의 대상으로만 여기게 했었던 것을, 이제 이 책을 읽을 수 있는 지금의 학생들은 최소한 그 '왜'라는 질문에 대한 확실한 답변을 가지고 있다라는 부러움이 그렇게... 저로 하여금 이문열의 위 구절을 떠올려주게 했던거지요. '왜?'가 생략된 '어떻게!'만의 암기는 그 생명력이 결코 길지 않다라는 걸... 말 그대로 '절박하게' 깨달았던 순간이 제게 있었거든요. 

.

.

.​

탈레스 이후 피타고라스로부터 파르메니데스를 거쳐 플라톤에 이어져온, '불면하는 세계에 완벽하게 적용되는 사유의 원리이자 존재의 원리'는 아리스토텔레스에 이르러 '논리'라는 이름으로 정식화되며, 드디어 철학과 수학 그리고 논리가 하나로 결합된 그리스 사유의 완성을 이루어내게 됩니다.

아리스토텔레스의 논리학 체계는 크게 다음과 같은 '삼단논법'과 '세 가지의 논리법칙'으로 요약될 수 있지요. 

<삼단논법> 

● 대전제 : 모든 사람은 죽는다

● 소전제 : 기영이는 사람이다.

● 결론 : 기영이는 죽는다.

​<세 가지의 논리법칙>

(1) 동일률 (Principle of identity) : A는 A이다.

(2) 모순율 (Principle of contradiction) : A이면서 동시에 A 아닌 것은 존재하지 않는다.

(3) 배중률 (Principle of excluded middle) : A이든지 A가 아니든지 둘 중의 하나는 반드시 성립한다.

​편집상의 문제 때문에 수학적 표기는 따로 표시합니다. 블로그 하면서 수식 기능까지 써보게 될 줄이야... --;;

​

​

​

​아리스토텔레스는 이 '세 가지의 논리법칙' 중, 모순율을 다른 모든 논리 법칙의 출발점으로 보았습니다. '대립된 것들이 동시에 참일 수는 없다'라는 믿음이야말로 이 세상의 모든 믿음 중 가장 확실한 것이라 생각했기 때문이었지요. 이제 그는 이 모순율로부터 다음과 같은 논리로 배중률을 이끌어 냅니다.

이제 어떤 X가 있다고 하자. 이 X가 A와 같다면 모순율에 의하여 A 아닌 것이 될 수 없다(2). 즉 A와 A 아닌 것의 양쪽에 걸칠 수는 없는 것이다. 그러므로 어떤 X라 할지라도 A와 같거나 A 아닌 것과 같거나 둘 중의 하나여야 한다(3).

​이제 그는 모순율과 배중률로부터 세 가지 논리법칙의 최종 결론인 동일률을 이끌어냅니다.

​​모순률에 의하여 A면서 A 아닌 것은 없으며(3) 배중률에 의하면 A이거나 A가 아니거나 둘 중의 하나여야 한다(2). 이 두 가지를 종합하면 A는 A 이외의 다른 그 어떤 것도 될 수 없다(1).

​말장난으로도 보일 수 있는, 사뭇 너무도 당연해서 '논리학의 창시자'라는 아리스토텔레스의 이름을 거론하는 것조차 민망할 수 있는 이상의 내용이 수학사에 있어 이토록 중요한 이유는 바로 그의 '삼단논법'과 '세 가지의 논리법칙'으로 인해, '기하학의 경전'이라 불리우는 유클리드의 「원론」이 탄생할 수 있었기 때문입니다.

​유클리드 「원론」의 의미는 아리스토텔레스의 논리학 체계를 수학에 적용하여 스스로 성립하는 명백한 공준과 공리('삼단논법'의 대전제와 같은 것)를 찾고 이에 근거하여 논리적 추론으로(이 과정에서 동일률, 모순율, 배중률이 사용됨) 여러 새로운 정리('삼단논법'의 결론과 같은 것)를 유도해내는 공리주의(公理主義)라는 사유의 형식을 만들어낸 데 있다. ……   유클리드는 다섯 개의 공리(Axiom)와 다섯 개의 공준(Postulate)으로 이루어진 열 개의 전제와 아리스토텔레스가 확립한 논리법칙들을 이용하여 465개의 참임이 증명된 수학의 명제인 정리(theorem)을 체계적으로 유도했다. 이것이 <원론>의 체제이다.

유클리드의 뒤를 이은 아르키메데스는 수학을 구체적인 물리 문제에 적용시켜 '지레의 원리'를 발견해 내었고, 이로써 드디어 수학은 본격적으로 외부세계로의 진출을 시작하게 됩니다.

<지레의 원리>

.

.

.

여기까지의 수학은 불변의 세계, 멈춤의 세계를 그 대상으로 가정하고 있었습니다. 근대과학의 시작점으로 평가되는 갈릴레오의 '낙하 법칙'을 시발점으로 이제 수학은 변화하는 세계, 움직이는 세계로 진출하게 되지요. 이는 단순히 수학의 분석 대상이 변화하였다는 것을 의미하는 것만이 아니라, '진리를 현실에 적용하는 것이 아니라 현실에서 진리를 끌어내는 새로운 과학'이 탄생되었음을 말해주는 것이었다라고 저자는 말하고 있습니다.

데카르트에 의해 발명된 직교좌표축은 도형의 문제(기하)를 방정식의 문제(대수)로 바꾸어냄으로써, 대수학을 중심으로 한 수학의 통일을 이루어 냅니다. 또한 이 시기에 정립된 함수 개념이 이 데카르트의 좌표와 연결됨으로써 우리는, 움직이는 현상(즉 함수 관계)을 움직이지 않는 좌표에 그림으로 나타낼 수 있게 되었고, 그 그림을 수식으로 표현할 수 있게 된 것이지요.

함수라는 것은 '변화의 규칙'을 의미합니다. 따라서 함수를 분석한다는 것은 '변화를 이해한다'는 의미이며, 이 '이해함'은 ① 변화하는 방식(어떻게 변화하는가)에 대한 정보와 ② 변화한 결과로서의 총량에 대한 정보를 알고 있어야 완결될 수 있는 것이지요. 뉴턴과 라이프니츠에 의해 발명된 미분과 적분이 수학사에서 가장 위대한 발걸음이라 불리우는 이유가 바로, 이 두 가지의 '이해함'을 미분과 적분이 비로소 가능케 해주었으며, 그로부터 우리는 변화하는 자연현상을 보다 정밀하게 이해할 수 있게 되었기 때문인 겁니다. (오랫만에 만나 본 미분과 적분의 유도 과정은 여전히 매력적!!!이더군요.)

이처럼 대수학으로 통일된 수학은 이제 단순하고 기계적인 절차를 통해 문제를 해결해갑니다만, 여전히 그 배경에 깔려 있는 철학적 사고는 멈추지 않습니다. 칸토에 의해 발명된 집합이론(Set theory)은 여전히 인간의 추상적 사고력의 힘이 얼마나 대단한지를 보여주고 있는 극적인 실례로서, 17세기 이후의 수학의 역사에서 추상적 논리의 정점이 위치하고 있다고 저자는 말하고 있지요.

이러한 추상적 사고의 발전은 브로우베르에 이르러서는, 이제까지 의심되지 않고 받아들여져 왔던 아리스토텔레스의 '배중률'에 대한 도전으로 나타납니다. 브로우베르는  '원주율 π = 3.141592 …… 의 소수 전개에서 9가 '연속적으로 '100회 나타날까?'라는 질문에 대한 답을 통해, 모든 A에 대하여 'A가 성립하거나 성립하지 않거나 둘 중의 하나'를 주장하는 배중률의 사용은 유한의 경우로 제한되어야 함을 보여주었지요.

독일의 수학자 힐베르트는 간단한 응용문제를 통해, 수학의 본질은 어떠한 전제로부터 결론을 유도해내는 과정 그 이상도 이하도 아님을, 즉 수학은 전제로부터 결론을 유도해내는 '과정의 논리적 정당성(즉 형식)만을 탐구한다고 주장하였습니다. 이렇게 전개되어 온 수학의 역사를 저자는 다음과 같이 간단하게 정리해줍니다.

 아리스토텔레스 (동일률, 모순율, 배중률) : 수학은 존재의 불변성을 탐구하는 학문

↓

라이프니츠 (모순율, 충족 이유율) : 수학은 관계의 일관성을 탐구하는 학문

↓

힐베르트 (무모순성, 완전성) : 수학은 규칙을 정해놓고 하는 게임

………………………………

세상을 바꾸었다는 미분과 적분을 제가 저의 실생활에서 사용할 일은 전혀 없습니다. 돈 계산을 위한 사칙연산 또한 핸드폰에 들어있는 계산기의 힘을 빌리면 됩니다. '돈만 셀 줄 알면 되지, 뭔 수학을 공부한다고 그래!'라는 옛 어른들의 말도 이젠 틀린 말이 된거지요. 그렇다면... 우리는 왜? 수학을 배워야만 하는 걸까요? --- 이 물음에 대한, 현직 수학교사로서 저자의 대답은 어느 한 곳 동의하지 않는 부분이 없을만큼 완벽합니다. 

페르마의 마지막 정리 : 자연수 n≥3일 때, 다음의 등식을 만족하는 자연수 a,b,c는 존재하지 않는다

페르마의 마지막 정리는 페르마가 이 문제를 제기한 지 350여년이 지나서야 증명되었다. …… 350년 동안 풀리지 않을 수 있는 문제를 낸 사람과 350년 만에 그 문제를 푼 사람 중에서 누가 더 대단한가? ……문제 제기 능력과 답을 찾는 능력은 모두 필요하다. 하지만 보다 근본적인 것은 문제 제기 능력이다. 문제가 있어야 풀 것 아닌가? 중요한 것은 주어진 문제의 답을 찾는 것에 그치지 않고 새로운 질문을 던질 줄 아는 것, 그리고 그 답을 찾아 새로운 사유를 해보는 것, 바로 그것이다. …… 페르마의 예측을 증명하는 과정에서 현대 대수학의 많은 새로운 방법론들이 생겨났으며 전혀 관련 없다고 믿어졌던 영역들 사이의 관련성들이 밝혀졌다. …… 페르마의 마지막 정리는 좋은 문제 하나가 얼마나 많은 생산적 결과를 만들어낼 수 있는가를 보여준 실례이다. ……한국 사회는 기본적으로 질문이 별로 없는 사회이다. 뭔가 다른 생각을 하는 것을 반기지 않는다. 이에 반해 정답은 '주여져' 있는 경우가 많다. …… 답은 내 생각과는 무관하게 이미 존재한다. …… 질문은 없고 정답만 존재하는 사회는 '사유'가 실종된 사회이다. …… 아이들의 싸가지를 욕하기 전에 우리 사회의 모습을 바꾸려고 노력하자. 그들의 싸가지 없음은 바로 우리 사회의 '사유 없음'의 결과물일 수 있기 때문이다.

수학은... 결국엔 '생각하는 방법을 훈련받는 학문'입니다. "삼각형의 세 내각의 합은 얼마인가?"라는 질문에 우리는 "180도"라 대답하지만, 수학자들은 이 대답을 틀렸다,라 말합니다.  왜 그럴까요? --- 한 마디로 수학의 발전사는 '왜?'라는 단순한 사고의 연속이었던 것이며, 그 '왜?'라는 질문이 결국 현재 우리가 누리고 있는 문명을 낳았다라는 사실... 이 간단한 진실을 이 책은 환상적인 지적 유희를 통해 저에게 알려주었습니다. (초반부에 나오는 그리스 철학과 수학과의 연계는 정말로 흥미로웠습니다만, 나중에 근대 철학만! 나오는 몇몇 부분들은 꽤나 어렵더군요. 읽고 다시 읽고를 해보긴 했지만, 그래도 이해되지 않는 부분들은 그저... 그렇게 이해되지 않는 것으로 남겨 두기로... --;;)

이 책은 '어떻게하면 수학을 더 잘할 수 있을까?'에 관해서는 단 한 마디도 하지 않습니다. 하지만!!! "내가 더 멀리 볼 수 있다면 그것은 내가 거인들의 어깨 위에 서 있기 때문이다."라는 아이작 뉴턴의 말을 직접 느껴보길 원하신다면, 주저말고 이 책을 펼쳐보시길... 이라는 말을 하게만 되는, 읽는 내내 저를 말 그대로 '미치게' 만들어주었던 이 책 「수학, 철학에 미치다」입니다. 이런 멋진 선생님께 수학을 배우는 숙명여고 학생들이 그저 부러울 뿐이지만, 한편... 이 쌤이 내는 수학문제가 결코 만만하지는 않을 것도 같기에, 이 감상문은... '1+(-)1=0'의 수식으로 마무리 짓는 걸로. ^^;;

※ 수학에 관한 읽어본 다른 책 : 「문명과 수학」

※ 경제학, 철학에 미치다 : 「아리스토텔레스, 경제를 말하다」