좋은 녀석들

수학기호의 역사 - 상징의 기원을 탐구하는 매혹적인 여정
조지프 마주르 지음, 권혜승 옮김 / 반니 / 2017년 3월

고등학생 시절에 배운 수학은 수능시험만 치르고 나면 거짓말처럼 머릿속에서 지워진다. 이공계 전공 학부생이 아니라면, 사칙연산을 제외한 고난도 수학 문제를 풀 일은 다시없을 것이다. 학창시절 수학에 진절머리 난 경험이 있는 사람들은 ‘수학’하면 복잡한 수식, 암기해야 할 정리, 그래프 따위를 떠올린다. 수학자가 아닌 보통사람들에게 수학이 어려운 이유는 수학이 고도로 추상적인 대상을 다루는 학문이기 때문이다. 숫자는 수를 나타내는 데 사용되는 기호다. 말하자면 ‘사과 두 개’에서 ‘두(둘)’라는 표현은 수이고, 이것을 숫자로 나타낸 것이 ‘2’이다.

숫자와 사칙연산 기호는 어느 순간 완전한 형태로 갑자기 탄생한 것이 아니다. 현재 우리가 사용하는 많은 기호가 모두 수백 년의 시행착오를 거쳐 채택된 것이다. 《수학기호의 역사》 (반니, 2017)는 교과서에 갇혀버린 수학기호와의 교감을 시도한 책이다. 교과서에 갇혀버린 수학기호는 현실과 괴리된 내용이다. 기호만 봐도 현기증이 난다. 그러다 보면 어쩔 수 없이 외우고는 넘어간다. 하지만 《수학기호의 역사》에 소개되는 수학기호는 독자들을 골머리 썩게 하지 않는다. 알고 보면 수학기호는 그 시대의 사고방식과 필요의 산물이다. 저자는 수학을 이루는 가장 기본적인 영역, 대수와 기호를 연관 지어 독자들을 수학의 세계로 이끈다.

대수 또는 대수학은 수나 수학 법칙을 문자로 나타내는 수학의 기초 분야다. 대수는 수학의 발생과 함께 시작되었다. 바빌로니아, 이집트, 중국, 그리스 등의 고대 수학에서는 기호가 사용되지 않았다. 그때는 간단한 계산에 이용할 수 있는 기본적인 숫자만 있었을 뿐이다. 고대의 숫자는 수의 크기가 커지면 복잡해지고 쉽게 알아보기도 힘들다. 수학자들은 자주 반복되어 사용된 수학 개념을 간단하게 표현하는 기호의 필요성을 인식했다. 그런데 획기적인 발상의 전환이 이루어지는 데 상당히 많은 시간이 걸렸다. 현재 우리가 쓰고 있는 숫자 체계에 거의 비슷한 인도 숫자가 유럽에 정착되기까지 300년이라는 어마어마한 세월을 흘려보냈다. 유럽인들의 발상 전환 속도가 지지부진한 이유가 ‘0’의 존재 때문이었다. 지금은 당연하게 0을 쓰고 있지만, 과거의 0은 ‘미친 존재감’이었다. 유럽인들은 아무것도 의미하지 않는 0을 받아들이기 어려워했다.

기호가 만들어지지 않았던 시절에는 ‘수사적 서술’ 방식으로 수학 개념이나 공식을 표현했다. 말 그대로 수학 공식이나 계산 법칙을 장황한 문장으로 풀어쓴 것이다. 인간이 수학이라는 것을 생각하고 발전시켰던 이유는 다름 아닌 구체적인 현실의 필요성 때문이다. 수학기호도 이런 필요성 때문에 생겨났다. ‘+, -, x, ÷, =’와 같은 친숙한 기호들은 15세기부터 등장하기 시작했다. 이 시기에 만들어진 연산 기호의 형태는 현재 우리가 사용하는 것과 모양이 달랐다. 초창기의 연산 기호는 그것을 만든 사람들의 생각을 반영하고 있다. 독일의 수학자 요하네스 비드만(Johannes Widman)은 1489년에 쓴 책에 ‘+’를 처음 소개했다. 그런데 그가 사용한 ‘+’는 우리가 생각하는 ‘더하기’를 의미하지 않았다. 비드만이 ‘+2’라고 썼다면, 그것은 ‘기대한 것보다 2가 더 많다’라는 뜻이 된다. 뺄셈 기호의 역사는 생각보다 짧다. 18세기까지 표준화된 뺄셈 기호는 존재하지 않았다. 데카르트(Descartes)는 철십자 모양의 빼기 기호를 썼다. 데카르트가 왜 종교적인 상징을 뺄셈 기호를 사용하였는지 이유가 분명하지 않지만, 수많은 수학자는 자기가 편한 대로 생각하면서 기호를 사용했다.

수학에 공포를 느끼는 분들에게는 전혀 상상이 가지 않을 테지만, 이 책을 읽으면 수학이 지극히 인간적인 학문임을 느낄 수 있다. 수학이 외형적으로는 참인 명제만을 다루는 논리적인 학문이지만 그 명제를 만들어 내는 수학적 활동은 많은 시행착오의 과정을 거친다는 점을 진솔하게 서술하고 있다. 수학과 관련된 문제를 접할 때 누구나 낯설고 어렵기 마련이다. 수학기호를 처음으로 접한 수학자들의 심정이 수학 문제를 접한 우리들의 심정과 비슷했다. 누구도 밟지 않은 눈 쌓인 길을 조심스럽게 천천히 걷는 마음으로 수학기호에 익숙해지려고 노력했다. 차분한 마음으로 문제의 핵심을 이해하고 나면 생각보다 쉽게 풀린다. 수학자 에릭 템플 벨(Eric Temple Bell)은 ‘혼란스러운 용어’나 다름없는 수학기호를 고통스럽게 생각했던 고대인들의 마음을 이해했고, 그들의 끈기 있는 참을성에 존경을 보냈다. 그렇게 볼 때 수학기호는 우리가 편하게 셈을 할 수 있도록 수학자들의 노력에 힘입어 꾸준히 변화되었다. 수학기호는 어느 날 갑자기 내 앞에 나타난 어려운 존재 아니라 우리와 함께 생활하면서 조금씩 성장한 좋은 녀석들이다.