수數의 황홀한 역사

수의 황홀한 역사 - 수의 탄생에서 현대 수학 이론까지 ㅣ 지식의숲 K
토비아스 단치히 지음, 심재관 옮김, 정경훈 감수 / 지식의숲(넥서스) / 2016년 10월

현재 중등 교육 과정에서 "말, 감성"이란 요소가 전혀 개입되지 않는 영역은 수학밖에 없지 않을까요? 하다못해 삭막한 물리만 해도, "빛은 과연 파동이냐 입자냐, 혹은 아인슈타인이 답을 정해 준 방식을 과연 답이라고 할 수 있느냐"를 놓고 하염없는 상념에 잠길 여지가 있습니다. 이런 걸 캐고캐다 보면 철학의 영역에 도달하고, 혹은 칸트, 헤겔, 마흐 철학만 깊게 파고들어도 꽤 소양 있는 수준의 물리학을 만날 수 있습니다. 반면 수학은 문제가 감춘 정답을 찾기 위해 최적의 경로를 모색하는 쾌감이 고작입니다. 이런 건 정적 속에서 깊은 상념에 잠기며 먼 궁극을 응시하는 겸손된 희열이 아니라, 말을 타고 사냥감을 쫓는 동적인 쾌감과 연결될 뿐입니다.

음 그런데, 대략 지금보다 백여 년 전에 활약한 이 책 저자님의 말씀에 의하면, 그의 시대(는 우리와 마찬가지)보다 일정 시점 앞선 때에는 수학 교과서가 그저 공식과 문제 풀이 위주로 쓰여지진 않았다고 하십니다. 수학 교과서에 품위 있는 문장으로 인문의 교양을 곁들여 가며 두툼한 분량으로 어린 독자와 소통하는 점잖은 책을 상상하니 괜히 마음이 설레기도 하는데요. 국가가 베푸는 시스템 아래서의 교육이 "보통 교육", 즉 출신과 신분에 무관하게 누구나 시민으로서 최소 소양을 쌓을 수 있게 배려하는 양상으로 변하고, 이의 확산이 이뤄지는 과정에서 보다 실용적인 편제를 차리다 보니 지금처럼 삭막한 모습이 되었다는 취지죠. 책을 다 읽고 난 지금, 아마도 토비아스 단치히 박사님께서 "10대들에게 읽혀야 할 진짜 교과서는 이래야 마땅하거늘" 같은 계획을 품고 써 내려간 게 이 책이 아닐까 하는 생각이 저는 드는군요.

수학도 무슨 신으로부터 느닷 태블릿에 새김 받은 십계명 같은 게 아니라면, 사연과 인물과 사건과 가치관과 철학이 (표면에 드러나지만 않는다뿐) 다 지난 내력에 서려 있게 마련입니다. 숱한 사람들(좀 특별한 두뇌를 타고난 이들이긴 하지만)의 노고와 피땀이 서려 이뤄진 학문적 성과 중 안 그런 게 어디 있겠습니까. 다만 괜한 감성의 개입이나 그로 인한 오해의 여지를 안 남기게, 깔끔하게 그 성과가 정리되어야 하는 영역이다 보니 그런 불친절한 모양새를 띨 수밖에 없었지요. 이런 수학의 진짜 모습을 어린 독자들에게 전달하기 위해, 수학의 역사를 쉽게 풀어 쓴 책도 있고, 원리를 잘 표현하는 퍼즐 여럿을 섞어서 "생각하는 힘"을 사연과 함께 길러 주려는 의도의 책도 있습니다. 이 책은, 인간이 "수(數)"라는 언어를 계발시켜 온 과정에 보다 초점을 맞춰, 인문과 수학이 아직 별개가 아니던 시절까지의 힘겹고도 장엄하며 위대했던 그 과정을 자세히 설명합니다. 세상에 존재하는 모든 사상(事象)에 사연, "스토리"가 빠질 수 없고, 토비아스 단치히 박사님이 파악하는 "수학이 살아 온 이야기"는 이런 내용인가 봅니다.

저자는 "수의 역사는 사유재산의 역사만큼 오래되었을 것이다"라고 추정합니다. 이에 반대하는 이들도 많겠으며, 다만 수가 일상의 생활에 그토록 절실한 필요가 있으려면, 재산의 취득과 관리, 증식에의 강한 욕구가 생기는 게 우선이었겠다는 정도는 충분히 단언할 수 있습니다(이른바 "필요는 발명의 어머니"). 수뿐 아니라 최초의 표음문자도 페니키아 상인들에 의해 고안되었으니, 수가 처음 생겼을(발견 혹은 인식되었을) 때만 해도 그저 사람의 경제 활동을 돕는 수단으로 퉁쳐 여겨졌을 뿐 오늘날처럼 세련되고 정교하게 구분되지는 않았겠죠.

p66에 보면 삼각수의 발견 과정이 단순한 그림을 통해 제시됩니다. 오늘날의 눈으로 보기에 의아할 정도인 피타고라스 학파의 "진지함"은, 자신들의 업적이 후세인들(현대인뿐 아니라 수 세기 후 세계문명 발전을 주도한 아랍인들 포함)에 의해 어떤 학문적 의의를 부여받으며 칭송될지 전혀 알 수 없었을 겁니다. 수학만큼 "종교"와 거리가 먼 분야도 없을 것 같은데, 이들 고대 그리스인들은 초월과 피안에의 열망 그 비의의 발견과 묵시를 오로지 수를 통해 이루려 들었으니, 세상 만사의 통성과 본질은 당최 그대로인 게 없이 변화무쌍할 뿐입니다.

저자께서는 아랍인들의 업적을 소개하며, "왜 이들이 그처럼 인도의 흔적과 영향을 배제하려 들었는지 알 수 없다. 헬레니즘의 계승자를 자처하느라 의식적으로 브라만을 멀리한 것일까?"라고 하시지만 그저 반어적 언명으로 받아들여야 할 것 같습니다. 아무래도 헬레니즘 세계는 (비록 적대적이었다고는 하나) 지중해를 사이에 두고 어느 정도는 공감대가 형성된 "바다 저편"이며, 반면 힌두이즘의 아대륙은 "알 수 없고 혼란스러운 다신교의 난장판" 정도로 혐오와 경멸이 어린 시선이 끼어들었던 이유가 아니었을지요. 여튼 기독교인들은 "people of the book"이라며 그 예언자가 일정 예우를 당부한 바도 있으니 말입니다. 아바스 왕조는 그 존속 기간 동안 대체로 비잔티움과 팽팽한 외교적, 군사적 긴장 관계에 놓여 있었습니다.

정수론은 매혹적이지만 그 이산적(discrete)인 성질 때문에 아직도 곳곳에 장벽이 가로놓인 분야이죠. 여기서 저자는 페르마의 정리를 잠시 독자에게 환기시키는데, 이처럼 이 문제는 수백 년 동안 "불가능에 가까운 문제"의 대명사처럼 인용되어 왔습니다. 감수자님의 주석에도 잘 나오듯, 1990년대 초반 옥스포드대 교수 앤드류 와일즈가 현대 수학의 성과를 총동원하여 결국 "옳음"을 증명해 냈죠. 외관상 그토록 간단해 보이는 정리, 명제가 그토록 까다로운 과정의 증명을 요한다는 게 경악스러울 뿐입니다. 소수(素數. prime number) 이슈도 "에라토스테네스의 체"부터 해서, 여전히 풀릴 공산이 희박해 보이는 여러 난제들과 함께 소개됩니다.

이 책은 저자분과 거의 같은 시대에 활동하던 버트란드 러셀이라든가, 수학에도 빼어난 재능과 소양을 지녔던 철학자 비트겐슈타인 등의 업적도 정성을 들여 서술합니다. 그뿐 아니라 푸앵카레도 여러 군데에서 다양한 맥락 속에 언급되는데, 이런 쟁쟁한 석학들과 같은 시대를 호흡한 저자의 책을 읽는다는 게 다소 신기한 느낌도 주는 대목이네요. 아무래도 시대가 시대이니만치, 수학은 무오류이며 언젠가는 이 수학의 영향 하에 모든 학문의 언어, 나아가 모든 일상어까지 모호함이 일절 배제된 체제로 재편될 것이라는 강한 낙관적 신념을 가졌던, 당시 지성인들의 공통된 분위기를 반영하는 문장이 눈에 많이 띕니다.

어떤 집합에 마지막 원소가 존재하지 않는다는 게 무슨 뜻일까요? 수학은 "무한"이 개입하지 않는 한 완전한 무오류의 패러다이스입니다(무한이 포함되면 양상이 어떻게 바뀔지, 여전히 일체의 오류를 몰아내어야 한다는 게 수학자들의 소명이지만 최근에는 비관적 전망이 우세하죠). "마지막 원소가 존재하지 않는다"란, 보기보다 엄청, 일반인이 구체적인 상상을 해 내기 어려운 문장입니다. 마틴 가드너는 "무한 호텔"의 비유를 들며 "마지막 호실이 없는 숙박업소"에, 꽉 찬 객실마다 동시에 "자신의 호수 다음 방으로 옮겨 가십시오"라는 통지를 보내, 손님 하나를 더 들이는 게 가능하다는 설명을 합니다. 손님이 무한히 많으면, 손님들에게 방을 옮기라는 통지를 하는 데도 무한한 시간이 걸릴까요?(경비실에서 한 동 모든 세대에 인터폰으로 메시지를 전한다고 생각해 보십시오) 한편, 손님들이 바로 옆 방으로 옮기는 행위를 동시에 벌인다면, 무한한 손님이나 1인의 손님이나 경우마다 소요되는 시간은 같을 것입니다. "무한"이란 이처럼 반드시 모든 연산, "행적"마다 무한을 끌고 다니는 게 아니라서 더욱 혼란을 줍니다. 0으로 나누는 게 정의되지 않는 이유도, 평이한 계산에 처음으로 "무한"이 끼어드는 대목이라서 그렇습니다.

8장에서는 수열을 다루는데, 그 중에서도 특히 중요한 건 "급수"입니다. 급수는 수학과 학생들보다는 공대생들이 머리빠져라 공부하고 외워야 하는 파트인데(증명 과정이 이해가 안 되면 크라이직 공업수학 책 통째 다 외워야 하죠), 테일러 급수 등 "초월수"의 근삿값을 기계적이고 직관적인 프로세스로 구해내는 그 모습이 매우 매혹적이죠. 이처럼 이 책은 점잖은 어조 속에, 수학만이 제공할 수 있는 매력과 신비한 아름다움을 곳곳에서 강조합니다. 수열이 흥미로운 이유는 독특한 패턴이 드러나기 때문이며, 현대 수학 중 가장 재능 있는 이들로부터 헌신의 대상이 되는 "프랙틀"도 이 "반복"의 묘(妙) 그 정수를 감상할 수 있는 분야입니다. 음.. p213을 보면 감수자께서는, 저자가 언급한 제곱근 계산 알고리즘에 대해 "개평법"이라 단언하시면서, "그 원리도 모르고 가르치긴 하나 계산 효율이 낮다"고 혹평하십니다. 아마도 이 언급은 컴퓨터 프로그래밍 과정을 염두에 두신 것 같고요. 기계가 아닌 사람이 수행하기엔 제법 재미도 있을 뿐더러, 하다 보면 제곱근의 원리까지 곱씹게 되기도 합니다. 저로서는 동의하기가 좀 어렵네요.

p139에 보면 국제 정치에 대해서도 깊은 관심을 가졌던 저자의 생각 편린이 엿보입니다. 여기 말고도 그는 루이 14세 본인이 직접 털어 놓은 속셈으로 "외교에 있어 병합만큼 좋은 수는 없어!"라고 했던 일화를 인용합니다. 실제로 루이 14세는 번영하던 소국 네덜란드와 어떤 교류, 협력을 이뤄 자국의 이익을 꾀하는 번거로운 방책보다, "그냥 삼켜 버리는" 고르디우스의 매듭 끊기 식 강경책을 구사했고, 이는 수백 년 후 나폴레옹 등 정치가의 선택도 다르지 않았습니다. 여튼 이런 국제 정치학상의 "병합"과, 저자가 역점을 두어 설명하는 "불변의 원리"가 서로 무슨 연관을 맺는지는, 독자들이 깊은 숙고를 하여 이해해야 할 것 같습니다.

p150을 보면 감수자께서 "이건 사실 당연하여 증명이 불필요한 명제이다"라고 하시는데, 수학적 센스가 있는 독자라면 이 감수자님의 지적이 타당하다고 다들 여길 겁니다. 그런데 구태여 누가 "왜 당연해?"라고 묻는다면 좀 설명이 궁색할 수 있죠. 이 책을 열심히 읽은 독자로서 제가 한 마디 덧붙인다면

만약 우변의 a가 유리수라면, 그 유리수는 어떤 유리수의 거듭제곱으로 당연히 나타낼 수 있습니다. 그 거듭제곱근 중 하나가 b라면 이 식은 이제,

로 바뀌는데, 좌변의 x나 우변의 b나 같은 유리수 집합 안의 원소이므로, 양변은 결국 문자만 바뀌었을 뿐 같은 의미이고, 따라서 아무 내용이 없습니다. 이런 걸 항등식이라고 하죠. 그런데 이 책 본문 바로 위를 보시면 이 식을 두고 "방정식"이라고 합니다. 항등식에 지나지 않는 걸 방정식이라고 하니 모순이 아닐 수 없죠. 감수자님의 지적이 이런 이유에서 타당한 겁니다. 이처럼 이 책은, 원저의 부주의나 오류도 한국어판 감수자께서 일일이 메타적으로 발견해 놓았기 때문에 더욱 가치가 있습니다.

p169에 보면 감수자님의 재미있는 지적이 하나 더 나옵니다. 주석에서 "그렇지 않다"고 하신 건 저자의 "... 원과 같은 넓이를 지닌 정사각형을 작도하는 게 불가능하다"가 틀렸다는 게 아니라(그럴 리가요), 본문에서 설명된 내용만으로 "불가능 증명"이 이뤄진 게 아니라는 뜻입니다. 2차뿐 아니라 4, 8, 16차,.. 모두에서 "불가능"이 밝혀져야, 본문처럼 "최종적으로 불가능"을 단언할 수 있죠. 일일이 모든 짝수차에 대해 개별 증명을 할 수는 없고(책 앞에서 나온 대로 무한이니까), 감수자께서 말씀 하신 대로 "대수(algebra)적 수가 아님"을 들어 일반화할 수밖에 없습니다.

"수"라는 도구가 대단히 편리하며, 한 치의 빈틈도 없는 정연한 체계를 보이지만 유일한 혼란이 바로 "무한" 논의에서 발생하므로, 이 책은 챕터 를 가리지 않고 이 토픽을 "전방위적으로 공략"합니다. 유한한 존재가 무한한 대상을 바라보며 분석하려 드니 여러 무리가 따르는 게 당연하지만, 역으로, 무한에 대해 이처럼 깊은 생각에 접어들 수 있다는 사실 자체가 근원적 낙관을 내포한다고 할 수도 있습니다. 게오르그 칸토어의 유명한 말 "수학의 본질은 자유에 있다"처럼, 수학에 몰두하는 인간은 사고와 사색의 위대한 힘으로 시공을 초월하여 절대를 근사(近似)할 수 있습니다. 이 책이 이런 심원한 주제를 숙고한 저자에 의해 쓰여졌다는 사실이, 이 고전을 읽는 행위에 더 깊은 의미를 부여한다고도 하겠습니다.