수학의 탄생에서부터 현대 수학까지

교양인을 위한 수학사 강의 - 수의 탄생에서 카오스 이론까지, 20가지 주제로 살펴보는 수학의 역사
이언 스튜어트 지음, 노태복 옮김 / 반니 / 2016년 1월

이제까지 수학사에 관해 읽고 조금이라도 기록해 둔 내용을 뒤져본다. 가장 최근 읽은 것은 클리퍼드 픽오버의 <수학의 파노라마>라는 책인데, 칼라 도판과 500쪽이라는 두께가 인상적인 책이었다. 연대순으로 기록된 이 책은 기원전 1억 5천만년전부터 시작된 수학의 기원부터 매 장마다 한 장씩 시간을 거슬러 올라오면서 주요한 개념이 발견된 시점과 발견자의 이름과 개념을 간략하게 소개하는 것이 특징이다. 레이먼드 플러드의<위대한 수학자의 수학의 즐거움>도 1년 전에 읽었는데 인류를 빛낸 수학자들의 삶과 그들이 발견한 수학적 개념을 함께 엮었다. 물론 수학자들은 고대부터 시작하여 각 연대기별로 싣고 이쓰므로 수학적 개념들이 어떻게 발전되어 온 경로도 알 수 있지만, 무엇보다도 여러 수학자들의 인생을 위주로 편집하였기에 각 수학자들과 수학적 개념들의  일화성 이야기들이 흥미로왔다. 수학사에 관련된 두 책 모두 흥미로왔으나 각기 장단점이 있었는데, 먼저 읽은 <위대한 수학자의 수학의 즐거움>은 수학자들의 일화를 위주로 소개하다 보니, 실제로 수학자들의 인생을 만들어 간 것이 수학이었기에 그들의 삶을 연구하는 데 있어서 수학적 개념들을 전달하는 것이 가장 중요한 일임에도 불구하고, 그 전달이 압축적이고 생략이 많아 알기 어려웠다는 아쉬움이 있었고, 그 다음에 읽은 <수학의 파노라마>는 인류의 발전순으로 연대기적이고 개념적인 설명이 좋았으나, 역시 수학은 그 수학적 근간을 이루는 디테일한 이해없이 개념만 이해한다는 것의 한계를 느낄 수밖에 없었다. 반면 이 책은 두 채의 아쉬운 부분을 채워주었다.

이 책이 앞서 소개한 두 개의 책과 다른 점은 선별된 주제별로 구성되어 있다는 점이다. 수학이라는 광범위한 바다 위에서 단지 20개의 주제만을 찾아서 그것을 대상으로 수학사를 이야기하기란 어쩐지 조금 허술하게 느껴질 지도 모르겠다. 그러나 지난 한 세기 동안의 주요 수학들은 이론적으로 어려워서 다루지 않았다고 한다. 독자로서 내가 느끼기에 뉴턴 이전의 수학까지는 다소간 이해가 가능한 것 같다. 미적분도 간간히 이해가 가다 말다 하는데, 그 이후의 비유클리드 기하학과 대칭, 리군과 리 대수 등의 대수학의 정교한 개념들, 고무판 기하학 등은 개념적으로도 수식으로도 읽기가 어려웠다. 책의 특징이 수학을 연대기순으로 일렬 종대한 것이 아니라 개념적으로 묶은 것이다 보니, 아무리 난해한 개념이다 하더라도 기본적인 설명을 읽고 초보적인 수준의 이해 혹은 읽기는 가능하다.

이 책 <교양인을 위한 수학사 강의>를 쓴 이언 스튜어트는 수학 관련 대중, 혹은 전문인을 위한 교양서를 많이 집필하였고, 국내에서도 많은 독자층을 거느리고 있어서, 번역서도 7~8권 정도 나와있다. <아름다움은 왜 진리인가> <위대한 수학문제들> <생명의 수학> <미로 속의 암소> <세계를 바꾼 17가지 방정식> <자연의 패턴> 등 모두 개별적으로  관심을 가지고 카트에 넣었다 뺐다 하면서 읽으려고 했으나, 어려워보여 망설이고 있던 중 만난 책이라 반갑기 그지없다. 앞서 읽은 두 개의 수학사 책과 비교해볼 때, 내용상으로는 수학적 개념이 충실하고 풍부한 책이면서도, 이언 스튜어트의 책 중에서는 가장 대중적인 서적으로 보여진다.  우리말 제목은 <교양인을 위한 수학사 강의>인데, 원제는 <Taming The Infinite>로 번역되면서 마케팅을 대중적인 교양서로 바꾼듯한데, 원제만큼 뽀대나지는 않지만 적절한 제목이라 여겨진다.

교양인의 범위를 함부로 정의할 수는 없겠지만, 이 책을 이해하는 데 어려움이 없었다면 매우 교양인이라고 해도 무방할 것 같다. 우리는 학창시절 수학과 과학을 닳고 헤지도록 배우고 익히지만, 막상 졸업과 동시에 가장 찬밥이 되는 분야도 과학이나 수학이다. 그나마 과학은 실생활과 연게되고 이런 저런 이름으로 다큐나 박물관 등을 통해 접할 기회가 자주 있겠으나, 수학은 그렇지 못하다. 실용성과 관련해서 덧셈 뺄셈 곱셈 나눗셈 단위의 산수만 할 줄 알아도 살아가는 데는 지장이 없으니 왜 수학을 공부해야 하냐고 아이가 물어도 대답할 말은 궁색하다. 하지만 최초의 글자는 수를 표시하기 위한 기호체계였고, 그만큼 수의 원초적 성격은 필요에 의해 생겨났으며, 우리가 오늘날의 과학기술, 컴퓨터와 스마트폰으로 전세계 네트웍으로 연결되어 있고, 화성 탐사를 할 수 있는 그 근원적인 체계가 수학에서 비롯되었다고 한다면 교양인으로서의 수학은 단순히 그룹이 밥을 먹고 더치 페이를 위해 밥값을 계산하고 거스름돈을 받는 수준에 머물러 있기에 억울한 감이 있다. 수학은 우리의 실생활에 필요한 과학 기술의 핵심 이론과 개념을 제공하기 때문이다.

아무리 복잡한 수학이 현대 문명을 가능하게 했다고 하더라도 수학의 탄생에 있어서 가장 첫 걸음은 수의 탄생이었다. 맨 처음 발견한 수학적 성취는 그것이 무엇이든 다음 단계의 수학을 가능하게 한다. 오래 전 선사시대 때 벽화를 기술 이륜 전차를 만들던 기술들과 문명이 시대를 거듭해가면서 사라지고 붕괴했지만, 수를 세고, 방정식을 계산하던 수학적 성취는 바빌로니아시대에 발견한 해법을 아직도 사용하고 있을 정도로 영원성을 지닌다. 페러다임에 의존하는 과학과 달리 한 번 발견된 진리는 변함없이 영원하고, 굳건하게 자리잡은 진리는 새로운 발견으로 이어져간다.

모든 문명은 수를 다루었고, 각기 다른 문명에서 다르게 발달했던 수의 체계, 즉 수를 나타내는 방법과 기호는 가장 일반적이고도 쉽게 읽히는 부분이다. 지금처럼 십진법에 의해 어떤 수라도 정확하게 표기할 수 있는 방법이 정착된 것은 고작 450년 밖에 되지 않았지만, 수를 다루기 위해 인류가 처음으로 사용한 기호는 1만년 전 서양에서 봤을 때 극동지방에 해당되는 곳에서 찰흙 물표를 사용한 것이었다고 한다. 어쨌든 그렇게 발달하기 시작한 수학은 고대 그리스인들의 생활 깊숙히 파고 들었던 것 같다. 동시대에 살았던 피타고라스와 유클리드의 기하학은 오늘날 초등 교과서의 많은 부분을 차지할 것으로 생각된다. 특히 유클리드는 <원론>이라는 총 13권짜리 수학책을 썼는데, 이 책은 공간 관계의  논리에 대한 종합 이론으로 성경 다음으로 많에 읽힌 베스트셀러라고 한다. 궁금해서 찾아보니, 영문 번역서 Pdf 파일이 돌아다녔다. 우리는 종종 2천 여년 전에 만들어진 그림, 미술품, 유적들을 감상하기 위해 지구 반대쪽까지 날아가지만, 코앞에서 클릭 몇 번이면 당대에 쓰인 수학책을 볼 수 있는 시대에 살고 있는 거였다. 내가 놀란건 새삼 검색의 유용성이 아니다. 유클리드 기하학이라는 그 고대의 책에 쓰여 있는 수학의 광범위한 내용이었다. 유클리드는 이전의 수학 자들과는 달리 '공리가 참이라고 주장만 하지 않았다 그는 증명을 내놓았다(p40). 유클리드를 비롯한 그리스 수학자들 인류에 두 가지 큰 기여를 했는데 그 첫번째는 기하학을 체계적으로 이해했다는 점이고 두번째는 논리추론을 체계적으로 이용해 주장을 증명했다는 점이다.

오늘날 쓰는 수학 기호는 어떻게 생성, 변화되어 온 것일까.  고대 수학이 아무리 찬란했고, 오늘날 사용하는 것과 다르지 않다고 하더라도 그 때 쓰인 수학 공식(?)을 지금은 이해할 수 없다. 현재 쓰고 있는 기호, +, -를 비롯한 각종 수학 기호는 수학의 역사상 비교적 최근인 15세기가 되어서부터야 기초적인 기호가 사용되었고. 16세기에 완성됐는데, 데카르트가 현재 쓰는 방법에 근사하게 제곱근을 미지수 x의 첨자로 사용하기 시작했고, 가우스가 이를 최종 완성했다. 

오늘날 찬란한 과학기술의 발전은 로그와 삼각함수를 발명한 수학자들, 삼각함수표나 로그함수표를 만든 수학자들에게 우리가 진 빚에 의존한다. '레이저와 전자칩의 구현 기술은 고대와 인도 아랍의 수학자들을 매혹시켰던 삼각법의 직계 후손이다(118)'. '데카르트는 곡선이 특수한 기하학적 도구로 그려진다는 고대 그리스 관점에서 벗어나 임의의 대수공식의 시각적 측면이라 보았다((129)'

정수론은 등장 이후 줄곧 수학 자체의 내적 개념에 관한 학문이었다. 화학적으로 더 이상 나뉘어질 수 없는 물질의 입자인 원자인 것처럼 소수는 정수론의 원자다. 그렇기 때문에 정수론은 소수를 많이 다루는데, 소수로 풀릴 수 있는 문제들은 모든 정수에서도 풀린다. 유클리드 원론 9권 명제 20을 예로 보면, 소수들은 소수들의 할당된 임의의 곱보다 많다. 즉 소수의 갯수는 무한하다. 이에 대한 증명은 이렇다. a, b, c... 등 임의의 목록 내의 모든 소수를 곱하여 1을 더하면 새로운 소수가 만들어진다. 디오판토스는 피타고라스의 정리 <a의 제곱 더하기 b 제곱은 c의 제곱>의 모든 방정식 해를 찾아 냈다. 그 해법은 임의의 두 정수의 1. 제곱의 차 2. 곱의 두배 3.제곱의 합 이 세수는 언제나 피타고라스 삼각형을 이룬다. 페르마는 디오판토스 이후 1천년간 정체기에 있던 정수론을 발전시켰다.  페르마의 정리 가운데 가장 영향력이 큰 정리는 페르마의 작은 정리라고도 불리는데 그것은 '만약 p가 임의의 소수이고 a가 임의의 정수이면 a^p - a는p의 배수다. 이것을 증명하는데 350년이 걸렸다. 페르마의 마지막 정리는 n이 3 보다 크거나 같을때 a^n+b^n !=c^n 즉 'n지수의 거듭제곱 수는 같은 지수의  거듭제곱 수의 합으로 나타낼 수 없다.'이다. 그가 증명했으나 종이의 여백이 충분치 않아 생략했다는 그 증명은 설사 사실이라 하더라도 틀렸을 가능성이 크다. 현재까지 알려진 유일한 증명은 1994년에 앤드류 와일드가 내 놓았는데 그것은20세기에야 나타난 추상적인 고등수학을 이용하고 있어서 당시의 수학으로는 불가능했을 것이라고 한다. 1801년에 펴낸 가우스의  <산술 연구>는 모듈러스 개념을 발견하고 이를 이용한 더욱 심오한 개념을 소개한다. 책에는 그렇게 설명되어 있지 않지만 우리가 x로 나눈 나머지라고 알고 있는 그 수다. 그는 4k+1 형태의 소수들은 두 제곱수의 합이며 4k-1 형태의 소수는 그렇지 않다는 페르마의 주장을 확장했다. 

미적분은 뉴턴과 라이프니츠가 독자적으로 발견했고 그 시기는 1680년경이다. 라이프니츠가 먼저 발표했으나, 뉴턴의 다른 저서를 본 사람과의 친분으로 라이프니츠가 표절했다는 뉴턴측의 주장과 관련한 흙탕물 싸움은 익히 알고 있었으나, 이를 계기로 영국은 대륙에게 수학과 과학의 선도적 위치를 건네주고 마는 계기가 된다. 어쨌거나 뉴턴의 정교한 미적분학 덕분으로 뉴턴 이후로는 '수학적 패턴이 지상 또는 천상에 있는 물체들의 운동, 공기와 물의 흐름, 열과 빛과 소리의 전달, 그리고 중력분 자연계의 모든 현상을 지배하게 되었다(162).  미적분은 순간적인 변화율의 수학이다. 기하학적으로 보자면 변화율은 값 x에서 f 그래프의 접선 기울기다. 라이프니츠는 한 곡선의 접선을 찾는 고전적인 문제를 연구하다가 접선 찾기란 사실상 넓이와 부피를 구하는 문제의 역임을 알아차렸다. 뉴튼의 프린키피아 속에 담긴 독창적 내용들은 뉴턴이 발명했지만 발표 하지 않은 미적분학 덕분이었다(179)

앞서, 이 책의 내용이 풍부하다고 말했는데, 수학을 개념적으로 어렴풋이 상상만 하는 것이 아니라 일일히 수식을 통해 확인시켜줌으로써 실제로 그 추상적 의미의 정교한 이해를 가능하게 한다는 점에서 그렇다. 하지만 그 점에서 또다른 불편함이 있을 수 있는데, 저자(혹은 국내 편집자)가 기대하는 만큼 교양을 갖추지 못한 독자에게는 그 수학적 정밀한 이해가 가능하지 않은 부분이 많다는 점이다. 우리가 어릴 때 배운 수학에 해당하는 고대의 수 체게와 중세까지의 부분 부분은 수식과 개념 모두 깔끔하게 이해되면서 관련된 역사적인 정보를 접할 수 있어 무척이나 흥미롭지만, 근현대 수학의 개념은 난해하고 생소한 개념들도 많아 시간을 두고 더 다시 한 번 천천히 읽어야겠다.