현대수학 중요이론 소개

20세기 수학의 다섯 가지 황금률 ㅣ 경문수학산책 10
존 L. 캐스티 지음, 한태식 외 옮김 / 경문사(경문북스) / 1999년 2월

이 책은 20세기에 수학자들이 이룩한 놀라운 이론적 업적들 가운데서도 중요한 이론들을 몇 가지 추려서 비전문가 독자들이 쉽게 알아들을 수 있도록 소개하는 것이다. 여러 가지 중요한 수학적 업적들 가운데서 다섯 가지만을 골라냈는데, 그 선택 기준은 다음과 같다: 실제 현실 생활 응용에 미친 영향 및 관련된 이후의 다른 여러 가지 정리들을 촉발시킨 이론 자체에 대한 영향력 등을 중심으로 중요도를 평가하여 다섯 가지 중요 이론들을 선택했다.

이 책은 저자의 서문에 나온 집필 의도대로 현대 과학 전반에 걸쳐 중요하게 쓰이고 있는 정말 중요한 다섯 가지 수학적 정리들을 잘 선택하여 소개하고 있긴 하지만, '비전문가가 쉽게 알아들을 수 있도록' 설명하는 데에는 그리 성공적이지 못하다.

우선 1장에서는 존 폰 노이만의 최소최대정리에 의해 촉발된 게임이론을 소개한다. 게임이론은 경제학은 물론 합리적 선택 이론 등으로 사회학, 정치학 등 사회과학에서도 폭넓게 사용되고 있는 중요한 도구이다. 2장은 브로우베르의 부동점 정리를 소개하며, 위상수학과 부동점 정리가 어떻게 연결되는지 쉽게 보여주고 있다. 3장은 모스의 정리를 먼저 소개하며, 르네 톰 등에 의해 발전된 특이점 이론을 소개한다. 4장은 유명한 컴퓨터학자 겸 수학자 앨런 튜링의 정지정리를 괴델의 정리와 관련하여 다룬다. 5장은 단치히가 최적화 문제를 푸는 기계적 절차로서의 알고리즘 방법을 개발한 심플렉스법을 소개한다.

게임이론이나 부동점 정리는 경제학에서도 이미 중요하게 널리 쓰이고 있는데 가격 결정 이론은 게임이론 방법을 주로 사용하며 일반균형 이론은 균형 해의 존재를 증명하는 데에 위상수학을 사용하여 엄밀함을 높였다. 위상수학과 특이점 이론은 이미 물리학에서도 중요하게 사용되고 있으며, 특이점 이론은 생물학에서 배아줄기세포의 서로 다른 신체 기관 분화를 수학적으로 모델링하는 데에 결정적인 역할을 했다. 단치히의 심플렉스법 또한 최적해를 구하는 경영학에서의 OR에서 널리 쓰인다. 즉, 이 책에서 선정한 다섯 가지 수학 정리들은 현대 과학에 응용되고 있는 정말 중요한 핵심적인 이론들이라는 것이다.

1장과 2장, 5장은 초보자에 대해서도 게임이론과 부동점 정리를 포괄적으로 쉽게 잘 소개한 편인 반면에, 3장은 '비전문가'로서는 도저히 이해하기 힘들게 어렵게 내용을 소개했다는 느낌이다. 4장은 튜링의 계산 기계와 괴델 정리를 함께 묶어서 무난하게 소개했다. 브로우베르의 부동점 정리가 위상수학과 어떻게 연결되는지 소개하는 부분이 가장 흥미로웠던 것 같다. 반면에, 역자분들이 수학과 전공자이다보니 응용 학문의 용어를 잘못 번역한 곳이 몇 군데 눈에 뜨이기도 했다. 2장에서 '시장을 투명하게 한다' 부분은 '시장을 청산한다'라는 의미를 잘못 옮긴 듯하다(- 'clearing market'은 경제학에서 초과수요나 초과공급 없이 수요-공급이 정확하게 일치하도록 한다는 의미에서 '시장을 청산하는'이라는 뜻으로 쓰인다).

이 책의 의의는 뭐니뭐니 해도 20세기 폭발적으로 늘어난 수학적 업적들 가운데 현실적-학문적으로 정말 중요한 알짜배기 다섯 가지 이론들을 비전문가인 독자들도 그 내용이 무슨 의미인지 알 수 있도록 일상 언어로 쉽게 설명하고자 하는 저자의 의도에 있다. 다만, 저자의 노력과 열심에도 불구하고, 몇몇 주제들-그중에서도 특히 특이점 이론-은 비전문가인 독자 입장에서 이해하기 도저히 어려웠다는 면에서 저자의 훌륭한 의도가 성공적인 결실을 맺지는 못했다 할 수 있다. 갈수록 거의 모든 과학적 활동이 '응용 수학'적 모델링이 되어 가는 요즘 그러한 응용에 기초가 되는 중요한 이론들의 내용에 호기심을 가진 수학에 비전문가인 사람들은 한 번 읽어볼 만한 책이다.