수학의 언어

수학의 언어
케이스 데블린 지음, 전대호 옮김 / 해나무 / 2003년 5월

대체 수학이라는 것은 어떤 학문일까.

고등학교 때 배웠던 미적분 공식은 대학입시만 치르고 나면 거짓말처럼 머릿속에서 지워진다. 수학이나 과학전공자가 아니라면, 고교 졸업 뒤 10년이 지나서 함수를 계산하고 사인 코사인 곡선을 그릴 일은 없을 것이다. 어쩌면 평생동안, 4칙연산을 제외한 '고난이도' 수학 문제를 풀 일은 다시 없을 수도 있다. (내 경우로 보자면 요새는 4칙연산도 전자계산기로 두드린다. 두자리수 넘어가면 덧셈 뺄셈 불가능....)

'수학의 언어'라는 책의 제목만 보면, 대체 이 책이 수학의 어떤 측면을 어떻게 설명하려 하는 것인지 감(感)이 잘 오지 않는다. 저자는 '수학은 패턴을 연구하는 학문이다', '수학은 보이지 않는 것을 보이게 해준다' 라는 두 가지 '선언'을 내걸고 수학이라는 학문에 대해 아주 독특한 방식으로 접근한다.

학창시절 수학에 진절머리낸 경험이 있는 사람들은 '수학' 하면 복잡한 수식과 정리, 그래프 따위를 떠올린다. 수학자가 아닌 보통사람들에게 수학이 어려운 이유는(사실은 수학자들도 수학을 어려워하고 있을지도 모른다) 수학이 고도로 추상적인 대상을 다루는 학문이기 때문이다.

그 추상적인 대상을 저자는 '패턴'이라고 부른다. 패턴이라는 키워드를 놓고 수학의 다양한 분야를 통합시켜 나간다. 수의 패턴(산술학), 추론과 의사소통의 패턴(논리학), 운동과 변화의 패턴(미적분), 모양의 패턴(기하학)과 그것을 발전시킨 '대칭성과 규칙성의 패턴', 위치의 패턴(위상학), 우연의 패턴(확률), 우주의 근본적 패턴(물리학) 등 8개 분야로 나눠 각각의 패턴에 대한 연구성과들을 소개한다.

통합과학 내지는 통합학문적인 접근과 역사적 접근을 동시에 시도하고 있는데, 각각의 챕터들을 따라가다보면 수학에 대해 갖고 있던 고정관념과는 상당히 다른 그림이 머리 속에 그려지는 것을 느낄 수 있다. 하이퀄리티의 SF작가로 유명한 로저 젤라즈니는 '앰버연대기'에서 차원과 차원을 넘나들 수 있게 해주는 시공(時空) 이동의 통로이자 세상의 질서를 함축한 요체로서 '패턴'이라는 용어를 사용했다. 케이스 데블린이 말하는 패턴도 다소 모호하기는 하지만 비슷한 범주의 개념으로 다가온다.

저자가 말하는 '패턴'은 때로는 '누구누구의 정리' 하는 식의 정리로, 혹은 학생들을 골머리 썩게 만드는 공식으로, 벽지의 문양처럼 눈에 보이는 형태로, 또 어떤 때는 한 사람 한 사람이 갖고 있는 독특한 언어습관 같이 숫자와는 거리가 멀어보이는 모습으로 나타난다. 저자는 패턴 개념을 통해 무언가 시각적인 '이미지'를 주고 싶어하는데, 그 이미지를 명확하게 이해하기가 사실 쉽지는 않다. 패턴은 단순히 반복되는 법칙이나 규칙성 따위를 의미하는 것이 아니라 연구하고자 하는 대상 그 자체일 수도 있기 때문이다.

따라서 패턴을 이해한다는 것은 숫자들의 조합을 풀어가는 수식의 형태를 넘어선 작업이다. 우리 주변의 현상들을 관찰해 규칙성을 찾고, 그것을 '가장 단순하고 보편적인' 형태의 언어로 표현하는 일이다. "수학의 언어적 측면은 계산적 측면에 밀려 간과된다. 많은 사람들은 추상적 기호들이 없으면 수학이 훨씬 쉬울 것이라고 투덜댄다. 하지만 바로 그 추상적인 기호들을 통해 눈에 보이지 않는 현상을 '볼 수 있게' 만드는 것이 수학의 역할"이라고 저자는 주장한다.