거대한 문명으로 만드는 귀중한 조약돌, 수학

문명과 수학 - 세상을 움직이는 비밀, 수와 기하
EBS 문명과 수학 제작팀 지음, 박형주 감수 / 민음인 / 2014년 1월

인류가 닭 2마리의 2와 숫자 2의 2를 같은 것으로 이해하기까지는

수천 년의 시간이 걸렸다.

- 버트런드 러셀 -

 Scene #1   “수학을 배워서 무엇을 얻을 수 있습니까?”

고대 그리스 수학자 유클리드의 유명한 일화로 글을 시작해본다. 그에게 기하학을 배우던 학생이 유클리드에게 질문했다. ‘이런 것을 배워서 무엇을 얻을 수 있습니까?’ 그러자 유클리드가 하인을 불러 지시했다. “저 친구에게 동전 한 닢을 주어라. 그는 자기가 배운 것에서 반드시 무엇인가를 얻어야 하니까 말이다.”

오늘날에도 똑같은 질문을 던질 사람이 많을 것 같다. 일상생활에서 간단한 계산 정도 만 할 줄 알면 됐지, 골치 아픈 수학을 왜 배워야 하느냐는 그 볼멘소리.

수학 공부 별로들 안 좋아한다. '수학은 공공의 적'이란 말이 나돌고 우리는 대개 학교 교육을 받는 동안 '적과의 동침'을 하게 된다. 이 무슨 해괴한 짓인가. 수학은 말하자면 인류가 일궈 놓은 문명의 정수쯤 될 텐데, 어찌하여 수학을 백안시하는 그런 엉뚱한 일이 벌어졌을까.

어렸을 때 수학 공부를 했던 기억을 더듬어서 정리해본 결과 수학을 싫어하는 이유는 두 가지 정도로 집약이 된다. 우선 사고의 단계가 많아지기 때문이다. 해보지도 않고 수학 교과서를 펼치자마자 미리 겁부터 먹어버리는 것이다. 그리고 극히 일부이기는 하지만 수학을 아예 포기하는 경우도 있다. 스스로 자신은 수학을 하지 못하는 사람이라고 생각해버리면 누적결손으로 학년이 올라갈수록 그 문제의 심각성을 커질 뿐이다.

그 다음 계산하는 것 자체를 싫어하는 점이다. 문명의 이기인 전자계산기나 컴퓨터에 익숙해져 있어 아예 사칙의 중요성을 의식하지 못한다는 점이다. 복잡한 계산은 컴퓨터가 해주는데 왜 머리 아프게 직접 풀 이유가 어디에 있겠느냐 하는 잘못된 생각이 가득하다. 자판만 누르면 모든 것이 해결된다는 안이한 생각이 수학을 어려운 과목으로 만들고 있다.

 Scene #2   '1+1=2', 증명이 어려운 수학의 세계

고대 그리스의 수학자 피타고라스는 만물의 근원을 수(數)로 봤다. 이 수들의 조화가 세상 만물을 만들어내고 우주의 질서를 유지시키는 법칙이라고 생각했다. 그래서 이 세상 모든 것은 숫자로 표현된다. 내가 혼자 있을 때는 숫자 1과 함께하는 것이다. 아기돼지 삼형제의 그림동화에서 숫자 3을 발견한다.

내가 친구와 둘이서 있을 때는 숫자 2와 함께 있는 것이다. 남과 여, 낮과 밤, 신발 두 짝, 양말 두 짝, 손바닥 두 개, 엄마와 아빠 등 이 세상에 두 개로 이루어져 있는 것들이 많다. 이 세상은 두 개로 되어 있을 때, 균형과 조화를 이룬다. 새가 하늘을 날 수 있는 것은 날개 하나가 아니라 양쪽에 날개를 갖고 있기 때문이다. 신발이 두 개인 것은 발 하나로는 걸어 다니거나 설 수 없기 때문이다. 우리들 마음에 두 개의 마음이 항상 있는 것은 조화와 균형을 갖기 위한 것이다.

괴테는 소설 『파우스트』에서 숫자의 속성을 가르쳐 준다. “하나로 열을 만들라. 둘은 떠나게 하고, 셋을 즉각 이루라. 그러면 그대는 부유하리라. 넷을 버려라! 다섯과 여섯으로, 이렇게 마녀는 말한다. 일곱과 여덟을 만들라. 그러면 성취하리라. 이리하여 아홉은 하나, 열은 영(零) 이것이 마녀의 구구셈이니라.”

인류가 문명을 발전시키는 과정에서 추상적 사고능력은 가장 위대한 사고능력이었다. 여러 가지 다른 사물들, 다른 현상들 속에서 공통점을 찾아내어 그것을 언어로 표현하는 언어적 추상능력, 그것을 숫자와 도형으로 나타내고 사고하는 수학적 추상능력, 그 공통점을 여러 가지 기호를 사용하여 법칙을 나타내는 과학적 추상능력 등이 바로 그것이다.

어린 시절 때 배우게 되는 ‘1+1은 2’는 누구나 이해할 수 있는 아주 기본적인 연산이다. 그러나 인류가 ‘자연수 1과 1의 합은 2’라는 과정을 이해하고 결론을 증명하기까지 수많은 사고능력이 필요했다. ‘1+1이 2인 이유’는 언뜻 당연한 것처럼 보이나, ‘1+1=2’를 증명하는 것은 생각만큼 쉽지 않다. 놀랍게도 이 단순한 질문의 답은 1913년에 러셀과 화이트헤드가 증명했다. 허나 워낙 전문적인 용어가 동원돼 일반인이 이해할 수 없다고 한다.

이렇듯, 수학은 답을 찾기 위한 과목이 아니다. 문명이 발전되어도 여전히 풀리지 못한 문제가 수두룩하다. 여러 가지 사물들 속에서, 자연물속에서, 사람들 속에서 숫자로 표현하고 나타내보게 하는 것이 추상적 사고의 출발이다. 그러므로 수학공부는 자연 속에, 사회 속에, 인간의 마음과 생각 속에 담겨있는 비밀을 발견하는 추상의 세계로 여행하는 것이다.

 Scene #3   문명사 속에 남겨진 수학의 흔적

어린아이들은 손가락을 구부리며 수를 헤아린다. 평범하지만 이 자연스러움에서부터 수의 개념이 시작되었고, 수 개념을 좀 더 확장된 수 체계로 넓히기 위해 ‘연산’을 정의하게 되었다.

수학은 문명이 생긴 이래 인류와 함께 발전돼 왔다. 수학의 역사는 곧 인류의 역사와 함께했다 해도 과언이 아니다. 인류는 논리적이고 수학적인 사고를 통해 문명을 발달시켰고 개척해 왔다. 오래전 사람들은 하나와 둘 외의 수는 단지 “많다”라고 했다. 그러나 기르는 가축 수가 늘면서 나무에 눈금을 새기기 시작했다. 이집트인은 물건의 개수를 셀 때 조약돌을 사용하여 물건 하나에 돌 하나씩을 묶어 셈을 하는 방법을 사용하였다. ‘셈하다’라는 뜻의 영어 단어 ‘calculus’는 ‘작은 돌’이란 뜻에서 나온 것이다.

또 수의 개념이 확장되고 연산을 하게 되면서 사람들은 손을 사용하여 셈을 하기 시작하였는데, 10개인 손가락을 자연스레 사용함에 따라 십진법이 현재 우리에게 가장 익숙하게 되었다. 10진법 탄생으로 아무리 많은 숫자도 쉽게 표시할 수 있어 우주를 탐구하려는 인간 호기심이 충족되기 시작했다. 과학 발달과 더불어 인간은 더 빠른 계산을 필요로 하면서 1과 0만을 사용하는 2진법을 이용했다. 이를 이용해 컴퓨터를 개발해 삶의 질을 높이고 우주탐험도 가능해졌다.

0이 우리들 삶에 미치는 영향력은 상상보다 훨씬 다양하고 강력하다. 0은 양수(+)도 음수(-)도 아닌 '무(無)'일 뿐이며, 현대 수학에서 나눗셈을 허용하지 않는 등 어떤 의미에서 0은 수학 합리성을 붕괴시키는 특수한 힘을 갖고 있다. 0은 아무리 들여다보아도 아무것도 보이지 않는다. 그러나 0을 통해서 수학이라는 우주의 언어를 파악하고 그것에서 우리가 알고 있는 우주의 막연한 질서를 정확히 계산할 수 있게 됐다.

결국 우주를 이해하는 모든 수학은 무라고 하는 0의 토대에서 시작되었다고 할 수 있다. 시간과 공간의 긴 세월을 거쳐 온 0의 탄생은 참으로 아름답다. 그런 의미에서 0은 단순한 숫자가 아니고 절망과 기쁨의 은유적인 상징이며, 없음이지만 실제로 존재하는 없음이다. 또 0은 우리 모두의 궁극적인 근원이자 영원한 수수께끼이기도 하다. 0은 끝이 아니라 새로운 곳으로 나아가는 출구로 수학과 철학, 종교 등 모든 분야에서 가장 중요한 의미가 있는 숫자다.

 Scene #4   수학, 인류의 과제를 풀기 위한 ‘가능성의 학문’ 　　 

인간이 무리를 이뤄 생활하기 시작하면서 수를 세는 것은 필수 불가결한 일이었고 문명이 발달하면서 수 집합의 종류가 다양하고 복잡하게 된 것은 당연한 일이다. 심지어 외계에 보내는 메시지조차 이진법의 코드로 되어있는 것을 보면 문명이 있는 곳에는 반드시 수가 있다고 생각해도 틀림없을 것이다.

우리가 흔히 쉽게 지나치고 살아가고 있지만, 우리 일상생활 속에서 숫자는 다양하고도 깊게 자리 잡고 있다. 굳이 돈 계산이나 어떤 대상의 측정과 같은 수치적인 표현을 생각하지 않더라도 여러 상황에서 수를 사용해 생각하면 이해하기 쉽고 편리한 여러 가지 생활의 지혜도 어렵지 않게 발견할 수 있다.

숫자는 산수를 비롯한 수리과학을 배우기 시작할 때 가장 먼저 접하게 되는 대상이고, 가장 이해하기 쉬운 수학의 도구이다. 이미 잘 알려져 있는 다양한 수의 성질을 이용한다면 그 명료하고 분명한 사고와 판단에 좀 더 논리적인 도움을 얻을 수 있다.

수학이 어느 시대에나 인간에게 이만큼 중시된 이유는 무엇보다도 현실 세계의 현상을 합리적으로 설명하기 때문이다. 신비스러운 천체와 자연에 대한 강력한 인식 수단으로서 수학은 절대 진리로 여겨지기도 하고, 때론 신성시되기도 했다. 고대 그리스인은 수학이 현상의 본질이라 믿었으며 ‘모든 것은 수’라는 피타고라스학파의 사상도 여기에서 나왔다. 이 사상은 시대와 더불어 확대 재생산됐다. 갈릴레이, 케플러, 뉴턴, 아인슈타인 등이 이룬 과학 분야의 최고 업적은 모두 수학 언어로 구성됐다.

세상과 문명이 변하는 것처럼 수학도 변하며, 새로운 수학이 계속 등장하고 있다. 물론 여기에는 성경이나 불전 같은 ‘절대 진리’란 없다. 옛 수학자들은 절대 진리를 탐구한다며 스스로를 채찍질했지만 자유로이 공리를 설정함으로써 수학의 가치를 재발견했다. 그 몸부림 속에서 끊임없이 발전을 도모하는 노력이 모든 것을 수학의 대상으로 삼는 지적 인간의 숙명이다. 인류 공동체의 과제는 지식의 바다에서 유연하게 헤엄쳐 나아가며 끊임없이 참다운 지식을 찾아내는 데 있다. 뉴턴과 같은 위대한 수학자도 자신을 거대한 진리의 대양 앞에서 더 예쁜 조개와 동그란 조약돌을 찾는 소년에 비유하지 않았던가.

새 문명은 수학을 자극하고 수학은 그것을 받아들여 새로운 수학을 낳았다. 또 그 열매를 다시 현실 세계에 투영함으로써 문명을 세웠다. 이 때문에 수학은 ‘가능성의 학문’이자 시대 자체이기도 하다. 각 시대마다 수학은 문명의 상징이었다. 인류 문명에는 수학 우주와 현실 세계를 잇는 우주왕복선이 수시로 왕래한다. 앞으로도 자연, 사회, 인문 분야를 넘나들며 새로운 문명을 만들어내는 수학을 기대해본다.