안쓰던 뇌를 쓰게하는 사고력, 추론력의 시험장

이토록 재미있는 수학이라니 - 학교에서 가르쳐주지 않는 매혹적인 숫자 이야기
리여우화 지음, 김지혜 옮김, 강미경 감수 / 미디어숲 / 2020년 7월

수학을 업무의 일환으로 활용하는 직업군에 속하지 않는 이상 소정의 학업과정을 떠나게 되면 가까이 할 기회란 거의 전무하다해도 그릇된 이해는 아닐 것이다. 더구나 학과목 중에서 수학이나 혹은 이를 응용하여 생각게 하는 물리학 시간은 거의 고통에 가까운 시간으로 기억되는 것이 아마 보편적인 느낌이리라. 그러니 수학에 "이토록 재미있는"이라는 수식어는 왠지 기만적으로 들리기까지 한 것이 사실이다.

그런데 저자의 직업을 보면 IT업계 종사자인 수학 마니아로 소개되고 있듯이 수학을 학문적으로 가르치거나 연구하는 이가 아니라는 점은 일단 호감을 불러일으킨다. 더구나 프롤로그에서 그는 '페르마 정리'나 '리만 가설' 같은 심도있는 수학을 평이한 설명으로 대중 친화적 쓰기를 하려 했다면서 수학 공식의 아름다움을 역설하기까지 하며 유혹한다. 수학적 사고력, 논리와 추론 능력을 자가 테스트해 볼 절호의 기회라는 호기까지 생기게 하였으니 말이다. 그렇다고 이 책이 그리 호락호락한 것은 아니다. 어쨌거나 '수학'이지 않은가.

첫 장을 열면 17세기 프랑스 수학자 '마랭 메르센'의 성을 딴 '메르센 소수'가 등장하여 기를 팍 죽이기 시작한다. 자기 자신 이외의 수로 나누어 지지 않는 수인 평범한 소수도 내키지 않는데 메르센이라니? 그럼에도 "2ⁿ-1이 소수라면 n은 필히 소수"라는 정리까지 등장하고, 새로운 소수의 발견을 위해 지금 이 순간에도 이를 찾는 수학 마니아들이 있다는 말은 왠지 도전의 욕심을 자극한다. 또한 소수 순서 생성 공식을 아직 찾지 못했다면서 난제를 슬며시 던져 이를 부채질하기까지 한다.

페이지를 넘기면 인간의 불타는 질투심의 아주 작은 사례가 등장하는데, 케이크를 공평하게 나누는 방법이다. 세 사람이 공평하게 나눈다는 것이 과연 가능한가? 항상 남의 케이크가 더 커 보이는 이 심리적 본성을 어떻게 합리적으로 분할하여 만족 시킬 수 있는가의 문제다. 질투 없는 목표의 실현을 위해 수많은 수학자들이 도전하였던 모양인데 '셀프리지-콘웨이 분할'이란 방법의 설명을 골똘히 들여다보다 문득 아이구 이렇게 많은 반복의 칼질을 해야 하나 하고, 그냥 조금 양보하면 될 문제를 하고 미소를 짓게도 된다.

아무려니 우린 일상생활에서 마주하게 되는 문제에 대한 부분에 더 관심을 갖게 되는 것은 당연지사일 것이다. 직각 모서리를 가진 폭이 1인 복도를 통과할 수 있는 소파 단면적의 최대는 얼마일까? 현재까지 계산한 최대 면적은 조제프 게르버의 부분최적화법에 의한 2.2195란다. 그 발상 모형또한 문제만큼 흥미진진하다.

【 본문 49 쪽 부분 발췌】

이처럼 수학적 난제들로 빼곡한 이 책을 읽다보면 우리네 직관을 벗어나는 수학적 결과들을 보게 되는데, 조화급수의 발산 개념을 이용한 개미의 고무 고리 둘레를 도는 문제라던가 구의 한 지점에서 다른 지점의 최단경로가 결코 직선이 아님을 수학적 증명을 통해 발견하는 것은 즐거움을 넘어서 인간의 감각이란 얼마나 편향적이며 관습적 환경에 지배되는지를 되돌아보게도 한다.

그런가하면 SF 작가 류츠신의 소설『삼체』를 읽어 본 이들이 눈을 밝히고 관심을 가질만한 삼체 문제(three-body problem)라는 만유인력의 작용으로 서로 끌어당기는 세 개의 행성 궤도를 과연 계산 해낼 수 있는가에 이르면 저자가 수학에 대한 일반인들의 관심을 이끌어내기 위해 얼마나 많은 노력을 기울이고 있는지 사실 고마움까지 느끼게 된다. 일명 '라그랑주 평형점'이라는 "특정 초기조건에서 3개의 질점(소행성)은 정삼각형의 세 꼭지점 위에 있다."는 정리가 실제 태양과 목성, 목성 궤도상의 소행성이 이 같음으로 입증되었다는 것은 수학 이론의 우주 천체로의 확장이라는 측면에서 신비로움에 가닿기도 한다.

대수 나선, 에어디쉬 편차, 그레이엄 수, 괴델의 불완전성의 정리 등 지적 호기심, 아니 우리의 사고력을 시험하는 내용이 즐비하다. 여러번 반복하며 곱씹어도 사고력이 따라가지 못하는 내용도 물론 있다. 내 수학적 사고력의 쇠퇴 혹은 게으름 탓이겠거니 하며 후일 다시 도전할 과제로 남기기도 했다. 

모처럼 쓰지 않던 두뇌를 사용하느라 애쓰기도 했지만 결코 저자의 설명을 따라가며 사고하고 추론해보는 즐거움을 넘지는 못한다. 특히 책의 마지막장인 5장 「수학적으로 세상을 수학하라」는 이미 깊숙이 우리들의 생활 속으로 침투해 들어온 디지털 세계와 AI와 관련하여 '확률 알고리즘'에 대한 이야기는 어쩌면 수학은 남은 21세기의 언어가 될지도 모르겠다는 생각조차 갖게 된다. 삶의 믿음과 가치에 대한 편향으로 굳어진 사고의 틀을 잠시 조정하고 깨우기에 이 만한 책과 독서도 없지 않을까 싶다.