인문 속의 수학

박경미의 수학N - 수학의 발칙한 상상, 문학.영화.미술.철학을 유혹하다
박경미 지음 / 동아시아 / 2016년 2월

수학은 단어 자체가 차갑다는 인상을 주지만 인문학적 견지에서 보았을 때, 우리 삶에 밀접하게 연결되어 있다는 사실만으로도 따스한 온기를 더할 수 있다. 다양한 분야에서 나타나는 수학적인 주제가 다소 산만하고 가벼운 느낌을 주지만, 수식없는 수학을 개념적으로 무리없이 읽을 수 있는 책이다. 책의 내용을 들여다보면 문학, 영화, 미술, 사회, 철학, 역사를 다루고 있다. 우리가 인문학의 중요성을 강조하며 인문학을 말할 때 여차여차 해서 인문학 범주에 넣을 수 있는 경계불분명한 학문은 많지만 수학이라면 글쎄 단연코 아니다 쪽으로 기울 것이다. 그러나 윗줄에서 말한 분야인 문학, 영화, 사회, 철학, 역사는 인문학의 가장 기본적인 학문이라고 할 수 있다. 이것들이 대체 수학과 어떤 식으로 관계맺을 수 있을까.

작품 속의 수학적 요소에 대해 이야기하기 위해 저자가 고른 문학 작품은 루이스 캐롤(1832~1898)의 <이상한 나라의 앨리스>와 <거울 나라의 앨리스>, 그리고 얼마전 멧데이먼 주연의 영화로도 대중에게 널리 알려졌고, 서점가에서는 베스트셀러 열풍을 불러왔던 앤디 위워의 과학소설 <마션>이다. 일본의 소설가 오가와 요코의 <박사가 사랑한 수식>, 베르나르 베르베르의 <신> 등이다. 특히 마션은 책으로 읽었다면 내용이 상세해서 이해했을 테지만, 영화로는 조금 힘들었을 미항공우주국과 와트니의 통신방법에 대한 설명이 있다. 화성의 모래밭에 원을 그려 16등분하고, 각 부채꼴에 아스키코드의 16진수를 그려넣음으로써 알파벳 하나 하나를 항공 사진으로 찍어 통신하는 방법은 인상적이었다.  <박사가 사랑한 수식>에서 오일러 공식을 묘사한 대목이 언급되는데 "하늘에서 pi가 e 곁으로 내려와 수줍음 많은 i와 악수를 한다. 그들이 서로 몸을 마주 기대어 숨죽이고 있는데, 한 인간이 1을 더하는 순간 세계가 전환된다. 모든 것이 0으로 규합된다'. 이것은 오일러의 공식 e^pii=-1이 박사가 젊었을 때 형수에게 보낸 편지 속에서, 이루어지기 어려운 둘의 관계와 상실을 의미하는 -1이 영화의 마지막에서 우변의 -1을 좌변으로 이항하여 e^pii+1=0으로 적음으로써, 식의 좌변에 있는 e pi, i, 1이 완벽한 0의 상태인 0으로 안정적인 상태로 결론을 이끌었다고 해석한다.

영화 속의 수학을 이야기하기 위해 고른 작품은 <페르마의 밀실>, <용의자 x의 헌신> <2012> 등이다. <페르마의 밀실>은 소수와 관련된 가장 유명한 미해결 문제라고 알려진 '골드바흐의 추측>을 모티브로 한다.  '2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다', '5보다 큰 모든 정수는 세 소수의 합으로 나타낼 수 있다'의 두 가지 버전이 있다. 영화는 이 증명을 둘러싼 수학자들의 심리 스릴러로,  페르마의 밀실에 초대된 수학자들은 퍼즐을 풀어야 살아남을 수 있는데, 책에서는 골드바흐의 추측 외에도 여기에서 다룬 퀴즈들을 수학적으로 상세하게 다룬다. <용의자 X의 헌신>은 한 남자를 죽인 야스코와 그 딸을 평소 연모해온 이시가미가 비상한 두뇌를 이용해 범행을 은폐할 수 있는 알리바이를 만들어주는 내용으로 대학시절 4색 문제 증명에 몰두하던 이시가미를 떠올리던 유키와의 모습을 포착하여 4색 문제에 대한 수학적 역사와 이론을 소개한다. 인류멸망설을 소재로한  <2012>는 2012의 멸망설이 고대의 마야 달력에서 기원하고 있음을 주목하여 고대 마야의 달력과 숫자, 그리고 수 개념의 발생에서부터 아라비아 숫자의 등장과 보급에까지 간략하게 소개한다.

미술 속의 수학에 등장하는 미술은 르네상스 시대의 화가 바르바리가 1495년에 남긴 <파치올라의 초상>, 작품 속에 수학 원리를 반영한 작품 세계로 유명한 에셔(1898~1972)(책에서는 에스허르로 표기)의 작품들이다. 파치올라는 이탈리아의 수학자이자 수도사였으며 그림의 탁자 오른쪽에 있는 정십이면체와 손에 들려 있는 유클리드의 <원론>중 13권에 주목하여 여러 가지 정준다면체들의 성질과 특성을 소개한다.  에셔의 작품에서는 테셀레이션 과 원의 극한을 발견하고 또한 <유클리드의 산책>이라는 작품에 주목하여 유클리드의 평행선 공준에 대한 비논리성과 비유클리드 기하학의 태동에 대해서도 소개한다. 또한 대표적인 비유클리드 기하학으로 리만의 구면기하학을 소개하고 구면 기하학에서의 평행선 공준의 위반 사례를 설명한다.

사회 속의 수학에는 미터법을 비롯한 도량형의 통일에 관한 내용, 선거 방법과 관련된 수학 이론, 그리고 게임이론이 소개된다. 미터법은  프랑스 혁명의 산물이지만, 세계적으로 통일된 미터법을 쓰지 않고 독자적인 야드법을 사용하고 있는 미국이 이로 인해 값비싼 댓가를 치른 사례를 짚고 있는데, 1999년 9월 화성 계도에 진입하던 화성 기후 탐사선이 대기와 마찰을 일으키며 추락한 사건의 배후에 미터법과 야드법의 혼동에 의한 원시적인 실수였다는 것이다. 이러한 혼란으로 1억 2500만 달러의 예산이 허공에 날아갔는데, 유인우주선이었으면 어쩔. 민주주의 사회에서는 다수결이 원칙이라고 알고 있지만 최다득표제는 한 번의 투표로 당선제를 결정할 수 있어 가장 보편적으로 이용되고 있음에도 불구하고, 모순적인 상황이 발생할 수 있고 이를 위해 대안으로 제시되고 있는 보르다 점수법, 최소득표자 탈락제, 쌍대 비교법 등을 설명하고, 예시를 통해 어떤 경우에 누가 당첨될 수 있는지를 살펴본다.

이 밖에도 철학 부분에서는 영화 <옥스포드 살인사건>이 다루고 있는 수리 철학을 비트겐슈타인의 저서 논리철학논고와 함께 고찰하고 영화가 수식을 사용하여 우리는 진리를 알 수 있는가라는 질문에 대한 답을 찾아나가는 과정을 소개한다. 영화에서 페러디하고 있는 괴델의 불완전성의 정리, 타니야마-시무라 추측, 페르마의 마지막 정리 등에 대해서도 언급한다. 호프스테더의 저서 <괴델, 에셔, 바흐>는 수리철학자 괴델, 미술과 에셔, 음악가 바흐를 넘나들며 통섭의 절정을 보여주는데, 이 책에서 언급되는 내용이 수학적으로 풀이되어 있다. 또한 유클리드의 원론의 공리적 체계를 설명하고 이에 따르는 뉴턴의 <프린키피아>, 그리고 스피노자의 <윤리학>, 미국의 <독립선언문>까지 소개함으로써 유클리드의 원론에서 완성한 연역적 증명과 공리 체계가 얼마나 수학적 논리적 추론을 통해 일상과 인문학적 접선을 가지고 있는지를 알려준다.

마지막으로 역사 부분은 고대 수학의 역사를 살펴보는데, 바빌로니아의 수학 노트 점토판의 탄생 배경과 숫자 체계, 피타고라스의 정리를 비롯하여 바빌로니아 인들의 수학을 살펴보고, 이집트의 파피루스에 새겨진 상형문자와 이집트 인들의 기하학적 사고, 그리고 수학사를 통털어 최고의 수학자 3인방으로 꼽는 사람 중 하나인 아르키메데스가 남긴 찬란한 수학적 유산에 대해서도 살펴본다.