수학의 구조주의가 끼친 영향

수학이 사랑한 예술
아미르 D. 악젤 지음, 이충호 옮김 / 알마 / 2008년 11월

소쉬르, 로만 야콥슨, 레비-스트로스, 바르트, 자크 데리다, 자크 라캉, 알튀세르, 미셀 푸코, 피카소... 한 번 쯤 들어봤음직한 이름들이다. 언어학, 인류학, 문학, 정신분석학, 철학, 회화 등 인문 사회학 분야에 한 획을 그은 이 사람들의 공통점이 있다. 그것은 바로 <구조주의>라는 사조에 영향을 받았다는 것이다. 난 말로만 들어봤지, 제대로 알지는 못하는 뜬구름 <구조주의>가 도통 모르겠어서 찾아보았다. <구조주의>란 어떤 사물의 의미는 개별로서가 아니라 전체 체계 안에서 다른 사물들과의 관계에 따라 규정된다는 인식을 전제로 하여, 개인의 행위나 인식 등을 궁극적으로 규정하는 총체적인 구조와 체계에 대한 탐구를 지향한 현대 철학 사상의 한 경향이란다. 그러니까 무언가를 하나 알기 위해서는 그 관계성에 기반을 두고 알아간다는 사상 체계라고 할 수 있을 듯 싶은데, 이렇게 보니 뭐 그리 대단한 것 같지 않은 걸 가지고 난리법석을 떤다는 생각이 들기도 한다. 뭐~ 난 그것을 논리적으로 증명을 할 필요가 없으니 아주 쉽게 느껴지겠지만 말이다.

 

그런데 이런 <구조주의>라고 하는 사상 체계를 처음 시도한 사람은 언어학자인 소쉬르이지만 그것을 이어받아 다른 분야에서까지 사용할 수 있게 의미의 확장을 일으킨 사람이 하나 있다. 그 이름은 '니콜라 부르바키'!! 그런데 실은 '니콜라 부르바키'가 한 개인이 아니라 프랑스 수학자들이 모여 만든 하나의 단체라고 하니 정말 재미있었다. 강의시간에 한 장난에서 착안한 프랑스 장군의 이름을 따와서 수학교재를 만드는 과정에서 재미나게 시작했다니 참 묘하다. 그 주축이 되었던 사람은 앙드레 베유.. 자유롭게 학문을 접하고 많은 여행으로 견문을 넓혔던 그는 개방적인 사상 체계를 가지고 부르바키를 주도해 나갔다. 처음엔 독일 수학에 비해 수준도 없고 강의시에 쓸 교재도 제대로 되지 않은 프랑스의 수학을 세우고 교재를 만들자는 목적으로 모였다. 앙리 카르탕, 클로드 슈발레, 장 델사르트, 장 디외도네, 르네 드 포셀, 알드레 베유가 그 첫 번째 회원들이었다. 그 당시 쟁쟁한 프랑스의 뛰어난 수학자들이었기에 아마도 그들은 무서운 것도 없었을 것이다. 거기에 폴 뒤 브레유, 장 르레, 숄렘 만델브로이트가 더 가담한 그들의 모임은 착착 진행되어 갔다. 모든 사람들이 만장일치로 동의를 하는 것을 원칙으로 정했는데, 회의를 진행하면 의장도 따로 없고 발언권은 아무나에게 주어지고 하니 정말 정신 산만할 정도로 시끄럽게 진행되지만 마지막에 가서는 만장일치로 합의가 되는 신기한 희의였다고 한다. 특히, 공동 소유권을 갖기 위해 하나의 저작이 나오면 계속 고치고 고치고 고쳐서 만장일치로 결정이 나야만 교재를 만들 수 있었다고 하니 정말 그 노력이 대단하다.

 

그 수학자들이 자신의 이름을 걸고 연구를 하고싶을 만도 한데 자신의 이름을 내세우는 것을 포기하고 공동의 연구를 위해 자신의 시간과 노력을 바친 것을 보면 정말 수학에 대한 애정과 헌신이 없어서는 있을 수 없을 듯 싶다. 그리고 그 회의에서 장 델사르트의 의견으로 중요한 원칙을 정하는데, 그것은 가장 추상적이고 공리적인 방식으로 시작해야 한다는 것이다. 몇 개의 최초 원리로 시작해 그 기초 위에 수학이라는 전체 학문을 쌓아올리는 엄청난 작업이지만 모든 사람의 뜻에 맞았으므로 그 원칙을 가지고 집합론을 가장 기초로 삼았다. 집합론에는 그 안에 엄청난 논리적인 모순을 내포하고 있기 때문에 나중에는 부르바키의 아킬레스건이 되어 버린다. 하지만 전후 수학 교재의 체계가 잡혀있지 않았을 때 그것을 세웠단 점에서는 대단한 의의를 가진다. 이 원칙이 전 세계로 뻗어나가서 각 나라의 수학의 기초가 되었다. 그래서 우리나라에서도 중학교에서 수학을 제일 처음 배울 때 집합을 먼저 배우게 되는 것이다. 공집합이란 기호도 앙드레 베유가 이 작업을 위해 만들어낸 것이라니 대단한 사람들이다.

 

그런데 이런 구조주의방법은 수학자들에겐 내재되어 있는 방법이었다. 그런데 이런 구조주의적인 방법을 부르바키 안에서도 발전해나가고 있지만 그 외 다른 사람들에게도 도움을 주게 된다. 그 사람이 바로 인류학이라고 하는 학문을 하나의 학문 분야로 체계를 세운 레비-스트로스이다. 그가 연구한 원시 부족들의 친족관계를 설명하기 위해서는 어떤 규칙이 도출되어야 하는데, 개별적인 사례만 있을 뿐 그것을 어떤 식으로 해야할지 감을 못 잡았을 때, 앙드레 베유가 그를 도와준다. 군(群)이라는 개념을 사용했던 것인데 개별적인 사례를 나열하지 않고 혼인 관계를 무리로 설명하자, 그것이 후손에게 미치는 영향을 도출해낼 수 있었다. 그러니까 부르바키가 추구하는 원칙이 인류학이라는 비수학적인 학문에서도 통용된다는 것을 증명할 수 있었던 것이다.

 

이와 같이 <구조주의>는 수학에서 나타난 사상 체계지만 - 소쉬르가 먼저 언어학에서 시작했어도 발전은 부르바키가 시켰으니까 - 그 외 비수학적인 학문에서도 큰 영향을 받아갔단 점을 중심으로 이야기가 전개된다. 하나의 분야가 나오면 꼬리에 꼬리를 물고 이어지는데, 참 복잡하게 느껴질 수도 있지만, 난 흥미로웠다. 피카소가 입체파를 연 것도 구조주의의 일환이고 몬드리안이 추상화를 시작한 것도 그의 일환이라니 단순히 글이 있는 것이 아니라 그림이라는 분야까지도 구조주의가 1960~70년대에 대세를 이루었다. 물론 지금은 부르바키가 예전만큼 큰 영향력을 주지 못해서 그 영광이 쇠하였지만...그 중 알렉상드르 그로텐디크가 부르바키에서 탈퇴한 것이 가장 안타깝다. 원래 혼자서 연구하는 것을 즐기긴 하지만 어린 시절 전쟁을 경험한 그에게는 다른 사람과 연구가 필요없을 정도로 인내에 강한 사람이었다. 그래서 다른 사람의 연구에 도움은 주더라도 자기 연구는 혼자서만 하는데 태평한 성격의 베유와 과묵한 그로텐디크가 안 맞았던 것이 화근이었다. 자신이 주도하고 싶었는데 자기보다 더 어린데다가 천재성을 발휘하는 그로텐디크가 맘에 안 들었겠지.. 아마 그가 계속 남아있었다면 부르바키는 더할 나위없이 지금까지도 그 명성을 누릴 것이다. 하지만 역설적으로 그것이 그로텐디크의 천재성을 더욱 발휘할 수 있게 했으니 불만은 없지만 말이다. 하지만 그 관계가 매끄러웠다면 그가 수학을 저버리고 산으로 들어간 것을 미리 막았을지도 모른다는 생각도 든다. 그의 마음을 이해하는 사람이 있었다면 말이다.

 

어쨌거나 인류사에서 전무후무하게도 수학이 거의 모든 다른 영역에 영향을 끼친 사연을 들어보았다. <구조주의>라고 하는 사상 체계가 수학 분야에서 활성화되어 그 힘으로 다른 학문의 영역에서도 해결을 해주었다니 정말 수학자들로서는 의미가 깊은 일이다. 사실 진리는 모든 분야에서 다 통한다고 생각한다. 그렇기에 하나의 학문이 다른 영역과 외따로이 떨어진 게 아니란 말씀... 과학에서도 물리학과 화학, 생물학자들이 다 한꺼번에 연구를 하면 더 독보적인 발전이 있을 거라는 어떤 과학자의 의견에 동의를 해보며 또다시 이런 심오한 학문의 세계에 들어가고픈 바람이다.