수학이 필요한 순간 - 인간은 얼마나 깊게 생각할 수 있는가

수학이 필요한 순간 - 인간은 얼마나 깊게 생각할 수 있는가
김민형 지음 / 인플루엔셜(주) / 2018년 8월

저자는 옥스퍼드대학교 커튼칼리지 수학 교수이다. 스스로를 일생 동안 일종의 아마추어 수학자로 살아왔다는 느낌이라고 고백한다. 수학자가 자신을 아마추어라고 부르는 것이 일단 신신한 충격이다. 저자는 수학을 하는 것보다 수학에 대해서 생각하는 것을 더 즐겼다고 말한다. 그 결과물의 일부가 이 책이 아닐까 싶다.

먼저 수학은 논리학이 아니라고 한다. 논리적이지 않은 수학도 있고 수학만이 논리를 사용하는 학문이 아니라는 것이다. 즉, 수학적 사고가 논리적 사고랑 같은 뜻은 아니라는 것을 짚고 넘어간다. 그렇다면 수학적 사고란 무엇인가? 저자는 '수학적 사고란 구체적인 예를 통해서 궁극적으로는 전체적인 틀이 형성되어가는 겁니다.'라고 대답한다. 즉, 문제를 해결해나가면서 공통점을 찾아가고 일반화시키는 과정이다. 이를 위해서는 추상적 사고도 필요하다고 설명한다.

"추상적인 개념적 도구를 사용해 세상을 체계적으로, 또 정밀하게 설명하려는 의도가 바로 수학이라고 할 수도 있겠습니다."

저자는 역사를 바꾼 3가지 수학적 발견을 소개한다. 페르마의 원리(빛의 경로를 택할 때 걸리는 시간을 최소화), 뉴턴의 운동법칙, 데카르트의 좌표계이다. 각 이론의 발전에 대하여 이야기하는데 흥미롭다. 특히, 뉴턴의 만유인력을 이야기하며 '어떻게 전달되느냐'의 문제를 제기하며 아인슈타인이 공간 자체를 물질로 해석해야 한다는 결론과 연결한다. 이처럼, 이론을 설명하며 꼬리에 꼬리를 무는 질문들을 통하여 과학이 어떻게 증명하고 설명하는지를 알려주는 방식은 자연스럽게 이야기 속으로 빠져들게 만든다. '공부는 이렇게 해야 되는구나'라는 생각을 하게 된다.

"과학에서의 중요한 계기들은 바로 이런 식으로 나타났습니다. 과학에서는 답을 주는 것뿐 아니라 그 답의 부족한 부분도 굉장히 중요하죠. 어떤 종류의 질문에 대한 명료한 답을 찾는 것도 중요하지만, 반면 굉장히 새로운 질문을 끄집어내고 난해한 문제를 점차 해결할 수 있는 실마리를 찾아내는 과정이 중요합니다. 즉 '부족한 부분'은 답을 찾기 전에 답을 찾는 데 필요한 틀을 만들 수 있는 실마리를 제공한다는 것입니다."

데카르트의 좌표계로 기하학을 대수적인 방법 즉 언어로 명료하게 표현할 수 있게 되었다. 이 좌표계 이론은 뉴턴, 아인슈타인의 상대성 이론에까지 이어진다.

"수학적으로 사고한다는 것은 우리가 무엇을 모르는지 정확하게 질문을 던지고, 우리가 어떤 종류의 해결점을 원하고 있는지 파악하고, 그에 필요한 정확한 프레임워크와 개념적 도구를 만들어가는 과정이라고 할 수 있을 것입니다."

확률론과 관련해서는 중요하고 재밌는 질문을 던진다. 바로 A와 B가 동전 던지기 게임을 하는데 동전 앞면이 나오면 A가 1점, 뒷면이 나오면 B가 1점을 갖게 된다. 총 7점을 먼저 딴 사람이 이기는 게임이다. 지금까지 스코어가 5:3인 상태에서 게임을 중단할 때 상금을 어떻게 배분할 것인가? 단순히 상금의 8분의 5는 A에게 주고 8분의 3은 B에게 주면 간단하게 해결되는 것일까? 그렇다면 700점을 내는 게임에서 500점 : 300점이라도 같은 식으로 배분해도 정당한 것일까? 이에 대해 확률은 과거가 아닌 미래에 대해 계산해야 한다고 저자는 설명한다.

즉, 5:3에서 앞으로 일어날 확률을 구해야 하는 것이다. 앞으로 B가 이길 경우는 ABBBB, BABBB, BBABB, BBBAB, BBBBA, BBBBB이다. 즉, 총 32가지 경우 중 6가지로 이길 수 있어서 6/32= 3/16이 B가 이길 확률이고 반대로 A가 이길 확률은 13/16이 된다. 이 확률만큼이 그들의 기댓값이 된다. 이를 기댓값 개념은 파스칼과 페르마의 서신에서 처음 등장했다고 저자는 설명한다. 이 개념이 받아들여지기까지 거의 200년이 걸렸다고 덧붙인다. 또한 수학적 사고가 도덕적으로 그릇된 사고를 피하는 데까지 나아간다고 이야기한다.

"확률론이 선하지도 않고 악하지도 않을 뿐 아니라, 선하고 악한 것도 확률론의 지배를 받는다는 것입니다... 선하다고 결정한 것도 악한 결과를 가지고 올 확률이 있고, 악하다고 생각하는 것들도 약간의 선한 효과가 있을 수 있기 때문이죠... 그러니까 오히려 질문을 거꾸로 돌릴 수도 있겠지요. 선하고 악한 것은 얼마나 확률적인가."

투표를 통하여 대표를 뽑는 방법이 얼마나 다양한지에 대해서도 이야기한다. 일반적인 방식은 바로 단순다수대표제로 표를 가장 많이 받은 사람이 선출되는 방식이다. 후보자 순위를 투표해서 1위는 n-1 점, 2위는 n-2 점 이렇게 쭉 점수를 주는 보르다의 방식도 있다. 니콜라 드 콩도르세는 2명씩 비교하는 쌍벌지교(짝비교) 방식을 제안한다. 문제는 하나의 투표가 기준에 따라 대표자가 다르게 선출되거나 대표자가 안 나오는 경우가 발생한다는 것이다. 결국은 이를 통하여 어떤 사안에 대하여 완전한 해답이 있을 수 없고 '근사approximation'해가는 과정이라는 시각을 가져야 한다는 점이다. 이 과정 자체를 학문이라고 저자는 말한다.

남녀매칭에 대한 이야기는 복잡해 보이지만 답이 있는 문제가 존재한다는 것을 보여준다. 남녀 선호도를 조사하는데 남자 둘 여자 둘이 있을 때 선호도를 나열한다. 세명이면 그 안에서 각자 순위를 나열한다. 그다음, 깨지지 않는 커플 조합을 한 명도 예외 없이 만들어 낼 수 있는지이다. 즉, 맺어진 짝보다 다른 상대를 좋아하는 남녀 쌍이 존재하면 불안정한 짝짓기가 된다. 이에 대해 수학적으로 답이 있고 답을 찾는 과정도 있다. 컴퓨터로 알고리즘을 만들면 엄청 빠르게 계산도 가능하다.

더불어, 이 알고리즘(청혼을 받아들일지 안 받아들일지 아닐지의 결정권의 여성에게 있음)에 따르면 남자들은 자기가 연결 가능한 여자 중에서 선호도가 가장 높은 여자와 결혼하게 된다. 반대로 여자들은 가장 선호도가 낮은 남자와 결혼하게 된다. 결정권이 여성에게 있는데 나중에 결과를 놓고 보면 남자에게 유리하게 작용하는 것이다. 저자는 이에 대하여 '좋아지면 먼저 고백하라'라는 교훈이라고 해석한다.

"거절당하더라도 자기 선호도의 우선순위에 따라서 행동하는 쪽이 더 좋은 결과를 얻으니까요. 남자의 경우 더 선호도가 높은 상대가 있어도 거절당했기 때문에 그보다 선호도가 낮은 여성과 짝을 짓습니다. 이미 거절당하고 왔기 때문에 파혼할 이유가 없는 거죠."

오일러의 수(면의 개수-선의 개수+점의 개수)도 흥미롭다. 오일러의 수가 같으면 위상이 같다고 표현한다. 이 부분을 읽으니 대학 때 머리가 아프게 만들었던 위상수학(Topology)가 떠올랐다. 더불어 내면 기하에 대해서도 이야기하는데 역시 대학 때 골치 아팠던 미분기하학이 떠올랐다. 무엇을 배우는지도 모르는 상태에서 위상수학과 미분기하학을 배웠던 것 같은데 그 당시에 과목과 관련된 조금 친절한 책을 읽었다면 어땠을까 싶기도 하다.

저자도 정리하며 다음과 같이 이야기한다.

"무엇보다 수학이 이제 특정한 논리학이나 기호학과 같은 학문이 아니라, 우리가 세상을 이해하고 설명하는 방식이라는 것을 이해했을 겁니다. 일상의 문제에서도 정답부터 빨리 찾으려고 하기보다 좋은 질문을 먼저 던지려고 할 때, 저는 그것이 수학적인 사고라고 생각합니다. 어쩌면 대범하게도 수학적 사고를 통해서만 우리는 좋은 질문을 던질 수 있고, 우리가 찾은 답이 의미 있는지 확인할 수 있다고 말할 수 있습니다."