칸토어가 만든 바다에서 헤엄치기

무한을 넘어서 - 수학의 우주, 그 경계를 찾아 떠나는 모험
유지니아 쳉 지음, 김성훈 옮김 / 열린책들 / 2018년 10월

Aus dem Paradies, das Cantor uns geschaffen, soll uns niemand vertreiben können.
No one shall expel us from the Paradise that Cantor has created.
아무도 우리를 칸토어가 만들어낸 낙원에서 쫓아낼수 없다.
- David Hilbert 다비트 힐베르트 -

불가사의한 무한

숫자는 우리에게 너무나도 익숙하다. 유치원 때부터 1, 2, 3, 4를 배우기 시작하고 초등학교에서는 사칙연산을 배운다. 소수를 배우고 분수를 배울 때까지는 그나마 할 만하다. 하지만 무리수가 등장하고 드디어 허수까지 등장하면 이게 정말 숫자인가 싶다. 어떻게든 이해한 척하고 넘어가지만 마지막으로 도대체 수인지 아닌지 알 수 없는 끝판왕 '무한'이 등장하면 머리가 지끈거리기 시작한다. 많은 학생들이 수학을 공부할 때, 삼각함수에서 일차로 공격을 받고 미적분에 들어가면 치명타를 입은 후에 수학을 포기한 수포자가 되기 마련이다. 삼각함수나 미적분은 고등학교를 졸업하고 나면 관련 전공을 하지 않는다면 그다지 입에 올릴 일은 없지만 '무한'이라는 말은 평생을 입에 달고 다닌다. 하지만 정작 무한이 무엇인지 골똘히 생각해 보면 잘 이해하지 못하고 있다.

무한은 숫자일까? 아니면 한없이 커지는 상태일까? 밤하늘에 별이 무한하게 많고, 바다의 모래가 무한하다고 일상적으로 얘기하지만 그건 거짓말이다. 아무리 많아도 그 숫자는 '유한'하고 누구든지 별이나 모래알의 갯수보다 더 큰 숫자를 만들어 낼 수 있다. 갯수를 알면 1만 더해도 되고, 갯수를 몰라도 어떤 자연수(제발 1은 고르지 말기를..)든 하나를 골라 계속해서 제곱해 나가면 언젠가는 넘어선다. 끝이 없이 큰 수, 도대체 '무한'이 무엇일까?

《무한을 넘어서》는 수학적으로 엄밀하게 무한을 설명하는 책이다.

유지니아 쳉 Eugenia Cheng, 영국 햄프셔에서 태어났다. 셰필드 대학교 순수수학과 명예 선임연구원이자 시카고 아트 인스티튜트 스쿨 과학자.

힐베르트의 호텔을 이용한 무한 설명

《무한을 넘어서》는 무한의 정체를 파헤쳐 나가는 책이다. '무한'이라는 개념은 일상에서 많이 사용하고 있지만 수학적으로 엄밀하게 표현하는 것은 만만치 않다. 저자는 이해하기 힘든 무한의 성질을 설명하기 위해서 '힐베르트의 무한호텔'을 예로 들어 설명한다. '무한 개의 객실이 있는 호텔이 있어서 모든 객실에 손님이 가득차 있을 때, 1명의 손님이 오면 그 손님을 숙박시킬 수 있을까?'라는 단순한 질문에서 시작해서 무한의 개념을 설명하고 있다. (답은 모든 객실의 손님이 자기 방의 숫자에 1을 더한 숫자의 객실로 가고 새로 온 손님은 1번 방에 들어가면 된다.)

호텔에 오는 손님들이 유한할 때와 무한한 손님이 왔을 때 객실에 모두 투숙할 수 있다는 것까지 보여 준다. 여기까지는 알고 있었지만 무한 대의 버스에 타고 온 무한 명의 손님에게 객실을 배정하는 것까지 사고를 확장시킨 후 멋지게 그 방법도 설명해 놓았다. 책에서는 모든 무한 손님을 차례로 세운 후에 대각선으로 차례대로 배정하는 방법을 썼는데, 찾아 보니 소수(prime number)의 제곱을 이용하여 배정하는 방법도 있었다. 심지어는 이렇게 하면 객실이 남는다! 처음 봤을 때도 느꼈지만 '힐베르트의 무한호텔'은 무한의 개념을 설명하는데 정말 탁월하다.

힐베르트(David Hilbert 1862 ~ 1943. 독일의 수학자)는 무한한 객실이 있는 호텔을 예로 들어 무한의 개념을 설명했다. 이것을 힐베르트의 호텔(Hilbert's Hotel)이라고 한다.

무한도 크기의 차이가 있다

이후 자연수로부터 시작해서 정수, 유리수의 무한한 성질을 설명하면서 각각의 전체 숫자로 이루어진 무한집합의 개체 수가 같다는 것을 증명하는 법을 설명하고 실수가 유리수보다 숫자가 많다는 것까지 칸토어의 대각선 논법을 통해 설명한다. 알레프 (ℵ, Aleph)수를 설명하고 자연수, 정수, 유리수의 집합인 알레프0보다 실수 집합인 알레프1의 개체 수가 많다는 것까지 설명을 읽고 나면, 여기까지가 딱 내가 알고 있던 무한이다.

이후 저자는 사고를 확장시켜서 알레프의 단계가 더 늘어날 수 있음을 보여 준다. 유리수와 실수 사이에 넘을 수 없는 벽이 있는데 실수의 집합보다 더 큰 뮤한집합을 만드는 방법을 보여줌으로써 무한의 크기의 종류도 무한함을 보여 준다. 그러니까 알레프 수도 알레프0과 알레프1 뿐만 아니라 알레프2, 알레프3... 계속해서 확장해 나갈 수 있다. 나는 이 책을 읽기 전까지는 무한의 단계가 알레프0과 알레프1만 알고 있는 줄 알고 있었고, 딱히 두 단계라면 큰 의미가 없다고 생각하고 있었는데 역시 잘못 생각하고 있었다. 여기까지가 첫번째 장의 내용인데, 이해하기가 그다지 어렵지 않다.

게오르크 칸토어 Georg Cantor (1845~1918) 러시아에서 태어나 독일에서 활동안 수학자. 집합론의 창시자이다. 무한 연구하고 성질을 밝혀내는데 많은 노력을 쏟았고 성과를 냈으나 그가 밝힌 무한의 성질이 직관과는 너무 달라서 당시의 수학자들에게 인정받지 못하고 궁핍하게 살다가 불행하게 사망했다. 개인적으로 가장 좋아하는 수학자 중에 한 명이다.

무한, 그 이상을 다루는 두 번째 장

《무한을 넘어서》는 두 장으로 나뉘어 있는데, 앞서 첫번째 장에서는 수학적인 의미에서 '무한'에 대해서 설명하고, 무한을 다루는데 필요한 개념을 설명하고 있다. 독자들은 첫번째 장을 읽으면서 무한이라는 개념에 익숙해 질 수 있다. 두 번째 장에서는 안 그래도 기묘한 무한을 '수론'이 아닌 다른 관점에서 본다. 일상생활에서 볼 수 있는 무한으로부터 가볍게 시작하는 듯 하더니 차원에 대한 설명으로 넘어가 머리를 복잡하게 만든다.

무한의 개념을 어느 정도 머릿속에 넣어 놓으면 오랫동안 이해할 수 없었던 문제들의 해결책이 눈에 보인다. 무한을 생각하면 보통 머리에 떠오르는 이미지는 '무한대'인데, 무한에는 '무한소'도 있다. 대표적인 무한소에 대한 문제로 아무리 잘게 쪼개도 끝이 없는 무한소 때문에 발생하는 '제논의 역설'을 들어 설명한다. '제논의 역설'이 등장한 것이 굉장히 반가웠는데, 그동안 여러가지 설명을 들어도 딱 논리적으로 명확하게 설명할 방법을 보지 못했기 때문이다.(아니면 내가 명확히 이해를 하지 못했을 수도 있다.) 하지만 이 책 속의 설명을 읽어 봐도 제논의 역설에 대해서 말끔해 지지는 않았다. 좀 아쉬운 점이다. 이후 정적분에 대해서 안내를 하고, 수열의 수렴과 발산이나 무한을 거꾸로 바라보는 방식같이 무한을 보는 다른 방식에 대해서 설명한다. 두번째 장은 첫번째 장과는 달리 처음 보는 내용들이 많아서 이해하기 좀 만만치 않았다. 후에 다시 읽어 봐야할 것 같다.

무한소의 문제를 다루는 '제논의 역설'. 그리스의 철학자 제논은 여러 개의 역설을 주장했는데 결국 논점은 하나다. '두 점 사이의 거리는 무한하게 쪼갤 수 있기 때문에 통과할 수 없다'는 것이다. 결국 제논은 사람이 보고 있는 것은 모두 현상일 뿐이지 실제가 아니라는 것을 주장하고 싶었던 것인데, 이 질문에 대한 대답은 수천년간 아무도 해답을 내리지 못하다가 칸토어가 무한의 성질을 밝힘으로써 해결할 수 있게 되었다(고 하는데 난 아직 다른 사람에게 설명하는 방법을 잘 모르겠다.)

★★★★☆

무한은 재미있다. 무엇보다도 복잡한 수식이 없더라도 생각을 확장해 나갈 수 있어서 나같이 수학과는 전혀 상관없는 공부를 하고 수학기호만 보면 눈을 질끈 감아 버리는 사람도 조금만 머리를 쓰면 멋진 아이디어와 수학적인 사고를 즐길 수 있다. 또, 논리를 따라가다 보면 이상한 세계를 만나게 되고 현실과 상관없는 새로운 세계로 나도 모르게 발을 들이는 것도 기묘한 재미가 있다. 이 책은 무한에 대해서 생각할 수 있는 여러가지 아이디어를 어렵지 않게 설명하고 있어서 꼭 수학에 관심이 없는 사람이라도 재미있게 읽을 수 있을 것 같다.

수학에 관심이 있는 중고생들도 읽을 수 있고, 꼭 수학에 관심이 없더라도 읽으면서 수학에서 사용하는 논리의 재미를 느끼고 싶은 사람에게 추천한다. 수식같은 건 거의 필요없으니 안심하고 읽어도 된다.