大수학자가 보내는 아름다운 수학의 세계로의 초대장

수학이 필요한 순간 - 인간은 얼마나 깊게 생각할 수 있는가
김민형 지음 / 인플루엔셜(주) / 2018년 8월

이 책은 수학자가 오랜 연구 경험과 통찰력으로 얻은 수학의 정체에 관한 생각들을 담은 책이다. 수학자인 저자는 ‘수학이란 무엇인가?’라는 근본적인 질문에 대한 답을 찾는 과정으로서 수학이 실제 우리 생활 속에서 사용되어 작동하는 방식과 형태에 대해 구체적인 사례들을 가지고 설명해나가고 있다. 책의 내용은 수학이 세상에서 작용하는 대표적인 사례와 사건들을 5가지 형태로 나누어 다루고 있다:  

먼저 저자는 수학이 가지는 특성에 대해 말하는 것으로 시작한다: 수학은 논리와 밀접한 관련이 있지만 전부는 아니라는 점, 수학은 현실적인 세계뿐만 아니라 보이지 않는 추상적인 개념까지도 다루고 있으며, 수학적인 방법론은 과학과 인문학에도 적용되고 있다는 점을 기술하고 있다.

[역사를 바꾼 3가지 수학적 발견]으로 저자가 꼽는 수학 원리와 그 의미를 설명하고 있다: ‘페르마의 첫번째 원리’; 아이작 뉴턴의 저작 ‘프린키피아’; 데카르트의 기하학 ‘좌표’.

‘페르마의 첫번째 원리’는 ‘빛의 최단 경로’를 구하기 위한 공식으로 수학적인 사고 방식과 과학적 방법론의 철학적 차이를 만들어낸 중요한 사건이라는 것이다.

‘프린키피아’는 아이작 뉴턴이 저술한 물리학적인 주제를 다루는 책인데, 포함된 내용에 물리 운동법칙을 설명하기 위해 수단으로 사용한 미분과 적분 이론이 포함되어 있고, 물리 법칙을 기술하는 방식으로 소위 ‘공리’에 기반한 연역적 수학 이론 체계가 사용된 점을 이유로 꼽고 있다.

데카르트가 고안해낸 ‘좌표 체계’는 물리적 자연 현상을 바라보는 관점의 기준을 변동시킴으로써 새로운 수학적 방법론의 형성과 진화를 만들어내는 하나의 수단으로 작용했다는 점을 기술하고 있다.

[확률론의 선과 악]에서는 인간의 도덕과 윤리에 대한 판단에까지 수학적 원리가 개입하여 작용한다는 사실을 보여 주고 있다: 확률론 자체는 선악을 가지지 않지만, 선한 결과와 악한 결과는 확률론에 의해 결정될 수 있다는 것이다. 가장 대표적으로, 벤담의 공리주의가 가정하고 있는 결과론적 원칙은 자연 현상에 내재된 불확실성이 배제된 불완전한 가치관이라는 점을 지적한다.

[답이 없어도 좋다] 부분은, 수학적인 사고 방식을 동원하여도 문제의 해답을 찾지 못하는 경우에도 여전히 작동될 수 있다는 것을 말하고 있다. ‘사회 선택’이론처럼 찾고자 하는 해답이 없다는 사실을 발견할 때, 한계를 수용하고 제약이 되는 원인을 파악하고 극복할 방법을 찾는 것에서부터가 수학적 사고가 시작된다는 점을 강조한다.

[답이 있을 때, 찾을 수 있는가] 부분은, 문제에 해답이 존재하는지, 있다면 어떻게 찾는지에 대한 내용을 다루고 있다. 우선, ‘안정성 원리’에 의해 해의 존재가 확인되면, 문제 해결을 위한 ‘추상화’, ‘모델링’, ‘개선’ 등의 일련의 작업들을 통해서 해답에 접근해갈 수 있는 과학의 방법론을 설명하고 있다.

[우주의 실체, 모양과 위상과 계산]에서는 좀더 심오한 주제를 다룬다: ‘인간 두뇌의 인지 기능이 대수적이다’라는 주장을 언급하고 있다. 즉, 인간은 구체적인 모양을 먼저 파악한 다음에 기호로 표현하는 것이 아니라, 추상적인 개념을 먼저 만들어 낸 후에 도형의 모습을 상상한 다는 것이다. 이에 대한 사례로 그로탕디에의 연구를 제시하고 있다.

마지막으로 ‘수학은 발견이 아니라 발명에 가깝다’라는 저자의 의견을 피력하고, 결국 수학의 의미를 수학이 우리에게 사용되는 측면에서 이해하는 것으로 결론을 맺고 있다.

추가적으로, 암호화와 양자 컴퓨팅에 대한 이야기도 소개하고 있다. 

수학에 대한 정의를 내릴 수 있을까? 수많은 사람들이 도전했지만 실패했고, 러셀과 괴델에 의해 오히려 불가능과 한계라는 결론만 확인하게 되었다. 그럼에도 수학적인 사고와 연구방법론은 오늘날의 과학 기술 문명의 바닥을 받치는 튼튼한 바닥과 도구로 사용되고 있다는 것을 보면, 수학의 효용 가치는 절대적이라고 할 수 있다.

저자도 말했듯이, 수학이라는 도구를 사용하여 우리의 물리적 세계와 추상적 사고의 세계를 좀더 이해할 수 있다면 우리에게 수학이 가지는 의미는 충분하다고 본다.

이 책은 한마디로 수학자가 들려주는 아름다운 수학의 세계로의 초대장이다. 일독을 권한다.