수학을 세계를 향한 탐헙으로 본다면

참회의 수학 - 32년형을 선고받은 크리스토퍼에게 수학은 무엇이었을까?
프랜시스 수 지음, 고유경 옮김 / 경문사(경문북스) / 2021년 8월

얼마 전에 “신학이 무슨 소용이냐고 묻는 이들에게”라는 제목의 책을 읽은 적이 있다. 신학이 우리의 삶에 직접적인 관련이 없다는 일각의 오해에 대한 대답이었는데, 이 책도 비슷한 성격을 지니고 있다. 단 이번에는 신학이 아닌 수학이다.

수학 역시 오랫동안 많은 사람들의 오해를 받아왔다. 특히 ‘수포자’라는 말이 나올 정도로 학생들을 괴롭히는 학문분야로 악명을 떨치고 있기도 하고. 심지어 일부는 수학이라는 게 일상적인 삶을 살아가는 대부분의 사람들과는 무관한 학문분야로 여기기도 한다. 이 책은 그런 오해에 대한 수학자의 반론이다.

저자인 프랜시스 수는 이름에서 짐작할 수 있듯 동양계, 정확히는 중국계 미국인이다. 이민자인 부모님은 자신들은 힘든 일을 하면서도 아들은 대학원을 졸업하기를 원했던 전형적인 동양적 사고의 소유자였다. 결국 그는 최초로 미국수학협회 회장에 오른 동양계 인물이 되었으니, 부모로서는 꽤 뿌듯한 일이었을 것 같다.

어린 시절부터 문제를 해결하는 과정을 즐겨했던 저자에게 수학은 꽤나 매력적으로 느껴지는 분야였을 것이다. 하지만 소수자로서 이런 성공을 거두기까지 난관이 없을 리가... 이 책은 자신을 비롯한 주변 사람들이 겪은 어려움을 극복해 나가는 과정과, 수학 그 차제가 가지고 있는 매력과 유익에 대한 저자의 찬사들로 채워져 있다.

또 하나, 이 책의 제목이 “참회의 수학”인 이유는 저자와 편지 교환을 하고 있는(그리고 그 일부가 책에도 실려 있는) 한 죄수 때문이다. 그는 고등학교도 졸업하지 못한 채 마약에 빠져 열아홉 살 때 무장강도 사건으로 32년형을 받은 젊은 중범죄자였다. 그런 범죄자가 교도소 안에서 수학을 공부하기 시작했다. 그게 무슨 소용이냐는 핀잔을 받을 수도 있었지만, 그는 이를 통해 세상 속에 담겨 있는 진리에 대해 하나씩 깨달아가고 있었다.

저자는 기본적으로 수학이 인류의 번영을 위한 학문이라고 말한다(이건 수학이 무슨 소용이냐는 질문에 대한 반론이다). 기본적으로 정확한 계산을 바탕으로 하는 수학은 우리가 어떤 일을 하든 우리에게 도움이 되지 손해를 일으키지는 않는다.

많은 사람들이 수학을 싫어하는 이유는 어쩌면 그걸 가르치는 방식에 기인하는 문제다. 수학은 단순히 많은 문제를 푸는 게 아니가, 세상을 체계적으로 이해하려는 일종의 탐험과 같다고 저자는 말한다. 질문을 던지고 그 답을 찾아나가는 과정으로 수학을 접하고 배운다면, 우리의 수학에 대한 공포증은 조금 줄어들었을가?

나아가 저자는 수학은 의미를 찾아내고, 일종의 놀이이기도 하며, 아름다움과 영원, 진실 같은 좀 더 철학적 주제들을 더듬어 따라가는 방식이라고도 본다. 하긴 흔히 최초의 수학자로 생각하는 피타고라스도 철학자이자 일종의 종교인이기도 했으니까.

하지만 모든 사람이 수학을 통해 그런 것들을 얻을 수는 없다. 그리고 여기에는 수학은 물론 우리 사회에 널리 퍼져있는 다양한 편견(여성은 남성보다 수학을 잘 못할 것이다, 동양계 학생은 수학 성적이 좋을 것이다 같은)과 힘의 논리 같은 것들이 사람들의 수학 탐험을 방해한다. 책의 후반은 수학의 진정한 가치를 더 널리 확장시키기 위해 갖춰야 할 부분에 관해 제안한다.

학창시절 나도 수학을 제법 어려워했던 것 같다. 온갖 수식들이 난무하던 고등학교 2학년 수학에서 길을 살짝 잃었던 것 같기도 하고. 사실 졸업할 때까지 배우는 내용이 이해가 되지 않는다는 생각이 들어본 적이 한 번 도 없었는데, 유독 수학에선 어려움을 느꼈다(그래도 수능시험에선 만점을 받긴 했다). 처음에 그렇게 두려움을 느끼니 이후에도 좀처럼 친해지지 않았다. 만약 수학을 단순한 계산이 아니라 세계를 이해하는 탐험으로 배우기 시작했다면, 조금은 달랐을까?

비단 모든 학문이 제대로 공부를 한다면, 결국 세상에 대한 이해로 넘어가는 것 같다. 그리고 그런 학문이라면 어느 것 하나 필요 없는 게 없을 것이다. 이게 배움이 주는 즐거움의 원인일 테고. 이 책에는 우리가 보통 생각하는 숫자나 수식보단 수학철학, 공교육과정에 대한 문제제기 같은 게 좀 더 많이 나온다. 조금은 다른 식으로 수학을 생각해 볼 수 있는 기회가 될 듯하다.