수학적 사고란 무엇인가?, 숫자 없이 모든 문제가 풀리는 수학책

숫자 없이 모든 문제가 풀리는 수학책 - 복잡한 세상을 심플하게 꿰뚫어보는 수학적 사고의 힘
도마베치 히데토 지음, 한진아 옮김 / 북클라우드 / 2017년 1월

수학적 사고란 무엇일까? 문제를 빠르게 푸는 것일까? 프로그램을 짜듯이 순서적으로 잘 풀어 나가는 능력일까? 아니면 논리적 사고?

내가 수학을 전공하긴 했지만, 수학적 사고에 대한 명확한 개념이 없다 보니, 자신 있게 말할 자신이 없다.

마침 수학적 사고에 관련된 책이 있어서 보게 되었는데, 바로 '숫자 없이 모든 문제가 풀리는 수학책'이 바로 그것이다. 인지 과학자 도마베치 히데토가 쓴 책으로 수학, 컴퓨터 사이언스, 인공지능, 양자역학, 비즈니스 등 다양한 영역의 예를 통해 그가 생각하는 진정한 수학적 사고가 무엇인지 이야기하고 있다.

수학적 사고를 설명하기 위해 우선 수학이 뭔지 말한다.

수학은 문제를 풀기 위한 도구가 아니라 문제를 찾기 위한 것이다. 그런데 왜 인간은 많은 문제를 해결할 수 없는 것일까? 문제가 무엇인지 모르기 때문이다. 비즈니스를 예를 들면 비즈니스는 단지 돈을 버는 것이 아니라 타인의 문제를 해결해 주는 데 있다. 해결하면 돈은 자연히 따른다. 수학도 비즈니스도 '문제를 찾는 것'이 중요하며, 제대로 문제를 파악할 수 있다면 답은 저절로 나오게 되어 있다.

수학을 배우는 이유는 두뇌 트레이닝의 효과와 함께 형식논리를 사용하여 수식화가 가능하기 때문이다. 수학은 일종의 잘 정리된 표현 도구인 것이다. 즉 수학은 언어와 같다. 각종 부호와 표기법은 영어, 중국어와 같은 문자와 같은 것이다. 표기를 모두 잘 알면 좋지만, 모른다고 해서 좌절할 필요는 없다. 잘 아는 사람이 이해할 수 있게 통역해주면 되는 것이다. 증명을 하고 문제를 일일이 풀 필요는 없다. 중요한 것은 공식이 뜻하는 것이 무엇인지 이해하는 것이다.

책 안에는 어떻게 수학식을 이해할 수 있는지 양자론을 통해 설명하고 있다.

양자론이 없었으면, 스마트폰, PC와 같은 똑똑한 전자기기 대부분이 나오지 못했다. 핵심 부품인 IC 칩이 터널 효과, 불확정성 원리와 관련이 있기 때문이다.

불확정성 원리는 더 나아가 신의 존재에 대한 증명까지도 도달하게 된다. 아인슈타인은 '신은 주사위 놀이를 하지 않는다'며 양자론을 부정했으나 괴델의 '불완전성 원리'에서는 '완전한 것은 없음'을 말하며 '신도 존재하지 않는다'에 이른다.

이처럼 수학적 사고는 수학을 도구로 사용하여, 누구도 보지 못했던 세계, 진실을 찾기 위한 사고를 할 수 있게 해주며, 사고실험을 통해 생각을 도형화하고 비주얼화하는 능력을 말한다.

수학적 사고를 좀 더 깊이 이해하기 위해 책에서는 인간과 사회가 어떻게 움직이는 지도 알아 보고 있다.

논리에 기본이라고 할 수 있는 연역법과 귀납법 중 앞에 말한 절대성이 무너졌기에 사회는 연역법으로 움직이지 않는다고 한다. 비즈니스 자체가 어떤 절대적인 법칙으로 움직이지 않기 때문이다. 다만 인간 사회에는 법률이 있어서 연역법의 공리와 같이 쓰일 수 있다. 그렇기 때문에 세계가 연역법으로 움직인다고 할 수는 있다고 보고 있다.

그리고 현실에서의 적용되는 확률의 법칙은 동전 던지기와 같은 수치상 절대적인 확률을 가지는 베이즈 이론이 아닌 '모든 사건은 독립 사건일 수 없다'라는 앞서 발생한 사건이 다음에 영향을 준다는 '뎀프스터 셰이퍼 이론을 따른다고 것이다.

추가로 그가 말하는 또 한 가지는 인간은 귀납법, 연역법도 아닌 가추법 일명 휴리스틱처럼 가까운 답을 찾는 근삿값의 추론 방식을 따른다고 한다. 그만큼 인간은 완벽하지 않은 존재이며, 모든 행동에 이유가 항상 맞는다고 할 수 없다. 인간은 논리적이지 않으며, 불합리한 면을 가지는 한정 합리적 존재인 것이다.

이와 같이 인간과 사회 특징을 알아 본 이유는 수학적 사고를 위한 근본적인 한계 조건을 인지하기 위해서다. 어떤 문제를 해결하기 위해선 현재 조건이 어떤지가 아주 중요하기 때문이다. 

그리고 인간의 사고방식을 좀 더 알아보기 위해 그다음 장에선 인공지능을 다뤘으며, 이곳에서 그는 인간은 물리적인 자연 공간에만 속해 있지 않고, 생각을 통해서 물리 공간 밖을 자유롭게 드나들 수 있다. 그러므로 인간이 컴퓨터에 바둑을 졌다고 해서 두려워하고 충격받을 필요 없다고 주장한다. 논리적 사고는 컴퓨터 같은 계산기가 하면 되고, 인간은 좀 더 생각을 해야 한다는 것이다. 모든 기본 룰을 정하는 것은 인간이기에 기계 문명의 디스토피아는 인공지능이 아닌, 인간이 만드는 것이다. 따라서 디스토피아인가 유토피아인가는 인간에게 달려 있는 것이다.

마지막 장에는 비즈니스와 종교, 동일본 대지진 사건을 통해 수학적 사고를 통한 우아한 증명을 이끌어 내는 원리원칙을 이야기하고 있다. 앞에서 말한 명확한 룰을 만들기 위해선 제대로 된 원리원칙이 필요하다고 말한다. 잘못되거나 자주 변경되는 원칙, 해석을 제멋대로 하는 것은 전체적인 룰을 파괴하게 되고, 예측 가능한 결과를 만들기 어렵게 한다.

그리고 이런 완벽한 원리원칙을 발견하여 공리로 유지하려면, 자신의 경험과 지식을 쌓아야 한다. 지식의 카오스 속에서 새로운 것을 자유롭게 발상하여 현실화하는 과정에서 수학적 사고를 통한 새로운 문제를 찾음과 동시에 해결도 할 수 있다는 것이다.

어쩌면 이런 설명 과정이 오히려 복잡해 보이고 이왕이면 수학적 사고를 'A는 B이다'와 같이 간단히 정의해주면 좋을 텐데 할 수도 있을 것이다. 그렇지만, 이럴 경우 그 문장만을 보고 제멋대로 해석하는 오류를 범할 수 있다고 본다. 저자는 그런 오류를 범하지 않게 페르마의 마지막 정리, 양자론, 유클리드 기하학, 딥러닝 등의 예를 들어가며 설명한 것이다.

사실 저자가 말하는 수학적 사고의 개념은 맺음말에 잘 나와 있다.

수학적 사고는 예를 들어 어떤 상품을 보고 원가며 라이선스 비용, 속에서 돌아가는 부품과 원리까지 훤히 꿰뚫어 보는 것을 말하며, 전체적 이미지를 그릴 수 있는 것을 말한다.

단순히 계산을 잘하고 문제를 잘 푸는 것이 아닌, 자신의 지식을 동원하여 입체적으로 파악하는 것을 말하는 것이다.  모든 것이 가능하게 하는 사고가 바로 수학적 사고이며 문제를 찾아내고 해결하는 능력인 것이다. 수학자나 과학자가 아니더라도 자신의 분야에 꾸준히 경력을 쌓았다면 수학적 사고는 누구든 가능하다.

이 책은 170여 페이지 분량으로 그리 두껍지 않다. 내용도 쉬운 편이다. 하지만, 수학적 사고를 전체적으로 이해하기 위해선 신경 써서 읽거나 한번 더 읽어야 할 것이다.

나 역시도 두 번 읽을 수밖에 없었다. 하지만, 책을 곱씹는 재미가 아주 쏠쏠했다. 저자의 통섭적인 지식을 그대로 느끼기 충분했다.

그런데 이 책 제목 '숫자 없이 모든 문제가 풀리는 수학책' 때문에 읽어 보지 않은 분은 오해가 있을 수 있을 거 같다. 책 제목만 보고 수학 문제 잘 풀게 해주는 비법이 담겼나 할 수 있다. 절대 아니다. 하지만 수학의 재미나 흥미는 충분히 불러일으킬 수 있는 책이다. 양자론과 딥러닝과 같은 그의 설명은 아주 명쾌하고, 읽는 이에게 색다른 시각을 가질 수 있게 해준다. 수학, 과학을 즐기는 분에게는 더 할 나위 없는 책이고, 교양으로 보려는 분에게도 다양한 생각을 할 수 있게 해줄 것이다.