<문명과 수학> : 기하학과 대수학의 역사

문명과 수학
리처드 만키에비츠 지음, 이상원 옮김, 김홍종 감수 / 경문사(경문북스) / 2002년 2월

<문명과 수학>은 여러 문명권의 수학사 소개와 현대 수학과 여러 학문 분야와의 관계를 소개한 책이다. 특히, 유럽 문화권과 현대 문명에 미치는 수학의 영향을 중점적으로 다루고 있으며, 수학의 주요저서인 유클리드의 <원론> 과 뉴턴의 <프린키피아>의 내용 요약과 수학사적 의의등이 담겨 있는 책이다.

이 책에 소개된 주요 문명은 유럽 문명 외에 이집트 문명, 중국 문명, 인도 문명, 이슬람 문명, 마야 문명 등이 소개되고 있다. 그렇지만, 다른 문명에 대해서는 간략한 언급 또는 유럽 문명과 관련있는 부분으로 분량이 제한되기 때문에 이 책의 제목 중 하나인 문명(文明)의 비중은 매우 약하다.

 이 책에 흐르는 전반적인 흐름은 수학(數學)이다. 그중에서도 비(非)유클리드 기하학과 미적분학의 등장으로 인한 현대 수학으로의 발전이 주요 내용이 된다. 책의 주요 내용은 다음과 같다.

그리스 시대 이래 수학은 기하학과 대수학이라는 양대 부분으로 갈라져 있었다. 하나는 크기를, 다른 하나는 수를 다루었지만 완전히 분화될 수는 없었고, 문명의 관심에 따라 어느 한 부분을 강조할 수 밖에 없었다.(p104) 상호 밀접한 관련이 있는 수학의 두 분야는 기하학에 있어서는 비유클리드 기하학의 등장과 대수학에 있어서는 미적분학의 등장을 통해 혁신의 계기가 마련된다.

1. 기하학의 발전 : 비(非)유클리드 기하학

유클리드 <원론> 은 자와 컴퍼스라는 기본적인 도구로 전체 체계를 논리를 만들어냈으며, 그 중에서도 원과 직선은 가장 완벽한 형태였다.(p43). 유클리드는 5개의 공준과 5가지의 일반개념을 통해 그의 체계를 완성하였고, 유클리드 기하학은 오랜 기간 기하학의 중심에 있었으나, 데카르트 때부터 그의 기하학은 도전을 받게 된다.

데카르트는 <방법 서설>의 부록으로서 <기하학>을 저술했으며, 이를 통해 대수학과 오늘날 해석 기하학이라고 부르는 기하학 영역이 결합되는 기회를 제공했다.... 데카르트는 자와 컴퍼스를 통한 작도라는 제약으로부터 기하학을 해방시킨 것이다.(p110)

본격적인 유클리드 기하학의 극복은 그의 기본적인 공준 중 다섯번째 공준인 평행선 공준이 모순임을 밝히는 것으로부터 시작된다. 

'두 개의 직선 위를 가로지르는 직선에서 같은 쪽에 만들어진 내각의 합이 두 직각보다 작다면 두 직선이 무한히 연장될 경우 두 직각보다 작은 각이 생겨난 그 쪽에서 서로 만나게 된다.' - 평행선 공준 - 

로바체프스키가 <기하학의 원리>(1829)를 펴내면서, 비(非)유클리드 기하학이 본격적으로 태어나게 된다. 이후 가우스, 볼리아이, 리만 등에 의해 유클리드 기하학이 '절대 기하학'에서 '가능한 수많은 기학학' 중 하나의 위치로 내려오게 된다. 그리고, 비유클리드 기하학 중 하나가 '프랙탈 기하학'이다.

'유클리드 기하학에 비해 자연의 많은 유형은 훨씬 덜 규칙적이고 단편적이라고 말할 수 있다. 자연은 그저 더 높은 차원이 아닌 전체저으로 완전히 다른 복잡성 수준을 가진다. 다양한 자연 유형들을 실제 응용할 수 있는 가능성은 무한히 크다. 이들 자연 유형의 존재는 우리로 하여금 유클리드가 '형태 없음'으로 인식해 제쳐두었던 형태를 연구하고 '무정형(amorphous)'의 정형성을 탐구하게 했다. 나는 프랙털이라는 개념을 라틴어 형용사인 fractus에서 가져왔다... 과학자들은 이제껏 입상(粒狀), 히드라 형, 울퉁불퉁형, 분지(分枝)형, 해초형, 엉킨형, 비틀린 형, 주름형 등으로 불러왔던 많은 것들이 앞으로 양적으로 다루어질 수 있다는 사실에 분명 놀라고 또 기뻐하리라 생각한다.'(p251)  -브누아 만델브로, <자연의 프랙탈 기하학>,1977 - 

특히, 프랙탈 기하학은 비정형성을 연구하는 분야로 위의 글을 읽으면서 물리학의 하이델베르크의 불확정성 원리가 연상되었다. 19세기 이후 과학의 여러분야에서는 많은 변화가 있었다. 물리학에 있어서는 고전물리학의 확정성을 양자물리학의 불확정성이 대체했다. 천문학에서는 '신(神)에 의해 창조된 단일한 우주(단일우주론)' 대신, 11개 차원의 '다중 우주론' 이 새로운 이론으로 제시되었다. 이와 같이 기하학에 있어서도 '정형'에서 '비정형'으로 나가는 변화가 최근 이루어졌다는 생각이 든다.

2. 대수학의 발전 : 미적분학의 등장

미적분학은 라이프니치와 뉴튼에 의해 본격적으로 제시된 방법론으로 이를 통해 운동을 측정하는 개념인 속도, 무한 개념을 발전시키게 된다. (이 책에서 대수학은 기하학에 비해 할당된 내용이 적은 편이다.)

'18세기 중반부터 이루어진 미적분학의 발전은 물리 현상, 특히 운동에 대한 수학적 분석과 함께 연결되어 있다. 여기에는 열역학, 천체역학, 유체역학, 빛과 전기, 자기에 대한 연구 등이 포함된다.'(p186)

3. 기하학과 대수학의 통합

'윌리엄 로완 해밀턴( William Rowan Hamiton)이 가장 크게 흥미를 느꼈던 주제는 공간과 시간이 서로 분리가 불가능할 정도로 밀접하게 연결되었다는 것, 그리고 공간에 대한 학문인 기하학과 시간에 대한 학문인 대수학 또한 그런 관계라는 것이다. ' (p181)

해밀턴과 같은 이들의 연구로 인해 현대수학은 기하학과 대수학이 통합하여 발전하게 되었고, 이러한 변화는 여러 분야에 영향을 미치게 되었다. 대표적인 성과는 1873년 맥스웰의 <전기와 자기에 대한 연구>를 출판하면서, 전신과 무선 통신 분야에서 급격한 변화를 들고 있다. 이 책에서는 이러한 큰 흐름 이외에도 사회과학과 확률이론, 게임이론, 현대 미술, 알고리즘, 카오스 이론, 복잡계 수학 등을 책에서 사진과 함께 다루고 있다. 

이 책을 통해서, 유클리드 기하학과 비유클리드 기하학의 차이와 최근 수학 이론의 동향(프랙탈 이론 등)에 대해 알 수 있었다. <문명과 수학>에 소개된 내용이 교양 수준이기 때문에, 보다  깊이 있는 공부가 필요하겠지만, 수학사(數學史)의 개략적인 내용이 잘 정리되어 있다는 점에서 읽을만한 수학입문서라 생각된다.