우주의 모양을 수학적으로 증명하다!

100년의 난제 : 푸앵카레 추측은 어떻게 풀렸을까? - 필즈상을 거부하고 은둔한 기이한 천재 수학자 이야기 ㅣ 살림청소년 융합형 수학 과학 총서 18
가스가 마사히토 지음, 이수경 옮김, 조도상 감수 / 살림Math / 2009년 8월

지구는 둥글다라는 주장은 굉장히 역사가 오래되었습니다. 그중 유명한 것은 BC 275년에 태어난 것으로 추정되는 알렉산드리아 도서관 책임자였던 에라토스테네스가 알렉산드리아와 시에네의 그림자 길이의 차이를 통해 지구 둘레는 42,000km일 것이다라고 계산한 일화입니다. 하지만 그 둥들다라는 것이 현재 우리가 인식하고 있는 지구의 모습과 일치하지는 않습니다. 지구는 둥글지만, 구형이 아닐 수도 있습니다. 북극을 포함한 모든 지역을 완벽하게 지도로 그릴 때까지는 우리 세계의 모양을 결코 확실하게 알 수 없습니다. 구형일 수도 있지만, 토러스torus(도넛 모양)일 가능성도 있습니다. 그리고 극지방과 일부 대륙의 중심부는 19세기까지 지도로 그려지지 않았습니다. 결국 사람들이 지구를 구형이라고 인식한 것은 지구의 모든 지점이 탐험된 이후, 우주선이 발사된 이후입니다. 우리는 3차원인 우주공간에서 2차원인 지구 표면을 보았기 때문에, 지구 표면의 지도를 쉽게 시각화할 수 있었습니다. 같은 관점으로 만약 3차원인 우주 전체를 시각화하려면 우리가 우주의 모양을 보려고 우주 밖으로 나갈 수 있다고 하더라도 최소한 네 개의 차원을 볼 수 있어야 할 것입니다. 하지만 수학자들은 3차원 공간의 모양을 기하학을 통해 상상했고, 그 중 가장 유명한 것이 푸앵카레의 추측입니다.

이런 기하학의 역사는 유클리드 기하학으로 거슬러 올라갑니다. 기원전 300년경에 탄생한 유클리드의 기하학 원본에는 5가지의 공리가 있는데, 그중 제5공리는 통상 평행선 공리라 불리며 많은 논쟁거리가 되었습니다. 한 직선이 다른 두 직선을 가로지를 때, 같은 쪽에 있는 두 내각의 합이 두 직각보다 작으면 두 직선을 무한정 늘일 경우, 그 두 직선은 내각의 합이 두 직각보다 작은 쪽에서 만난다는 이 공리는 다른 공리에 비해 간결하지 않았기 때문에 유클리드 자신도 공리로 채택하는데 주저함을 보였으며 그 후로도 이 공리를 더욱 간결하고 완전하게 만들기 위해 많은 수학자들이 도전합니다. 오랜 시간이 흘러 가우스, 로바체프스키, 보여이에 이르러 제5공리를 채택하지 않은 기하학이 가능하다는 비유클리드 기하학이 탄생합니다. 가우스는 3-공간 속 곡면의 곡률을 그 곡면의 수선들의 행동을 이용하여 정리했는데, 이런 정의는 곡면을 떠날 수 없는 존재에게는 무의미했습니다. 왜냐하면 곡면 위의 한 점에서 수선을 정의하려면, 그 수선을 3-공간 속에 놓을 수밖에 없었기 때문입니다. 그 후 가우스의 제자였던 리만은 수학적 실재와 물리적 실재를 구별할 필요가 있다고 말하며 n-공간인 n차원의 개념을 도입했고, 그때까지 지속되어 온 기하학을 통합합니다. 리만은 비유클리드 기하학이 수학의 주류에 입성하는 데 결정적인 역할을 했고, 리만 이후엔 위상학적 생각과 기하학적 생각이 해석학에 대한 더 깊은 이해에 필수적인 것이 되었습니다.

리만 이후 등장한 수학적 거인은 클라인과 푸앵카레인데, 클라인은 당대 가장 유명한 수학자 중 한명이었지만 푸앵카레의 논문을 보고 푸앵카레야 말로 진정한 리만의 후계자임을 인식합니다. 클라인과 푸앵카레는 편지를 통해 논쟁을 자주 벌였고, 그로 인해 그들 개인적으로는 심신에 무리가 왔지만 그 결과 많은 수학적 발전이 있었습니다. 그들은 임의의 곡면에 곡률이 일정한 기하학을 부여할 수 있음을 함축했고, 쌍곡기하학을 탄생시킵니다. 푸앵카레는 다섯번째 보충논문에서 어떤 다양체의 기본 군은 항등원이면서 그 다양체는 3차원 구면과 위상동형이 아닐 수도 있을까? 라는 질문을 던졌는데, 이것이 바로 푸앵카레의 추측입니다. 3차원 다양체는 3-구면뿐이며 3-구면은 유한하고, 경계가 없으며, 임의의 고리를 한 점으로 축소시킬 수 있다는 추측입니다. 3차원 다양체를 음식에 빗대자면 복숭아의 과육 부분이라 할수 있습니다. 씨와 껍질 사이의 영역은 경계가 있는 3-다양체이며, 이때 경계는 두 개의 2차원 구면으로 이루어집니다. 만일 안쪽 구면의 모든 점 각각을 가장 가까운 바깥쪽 구면의 점에 대응시켜 안쪽 구면을 바깥쪽 구면과 붙인다고 상상하면, 경계가 없는 3-다양체가 만들어집니다. 임의의 닫힌 경로가 한 점으로 축소될 수 있는 임의의 컴팩트한 3-다양체는 3-구면과 위상동형이라는 명제에 그후 많은 수학자들이 도전합니다.

푸앵카레 이후 여러 수학자들이 단계적으로 푸앵카레 추측의 해결의 실마리를 제공합니다. 수학자 존 밀노어는 7차원 구면에서 미적분학을 하는 근본적으로 다른 방식이 있다는 것을 증명했고 미분 위상수학이라는 분야를 창시합니다. 수학자 스티븐 스메일은 5차원 이상의 구면에 대해서 푸앵카레의 추측을 증명하는데 성공했지만, 그의 방법은 3차원이나 4차원에서 사용될 경우 무력해졌습니다. 그 후 수학자 마이클 프리드먼이 8년의 연구 끝에 4차원 다양체를 분류하는데 성공합니다. 수학자 서스턴은 3차원에는 여덟 개의 서로 다른 기하학들이 존재한다는 기하학화 추측을 제시함으로서 대부분의 3-다양체는 쌍곡구조를 가진다는 것을 증명했고 푸앵카레의 추측에 큰 진전을 이룹니다. 이 기하학화 추측은 푸앵카레의 추측을 포괄하는 더 광범위한 추측이였습니다. 수학자 리처드 해밀턴은 리만 메트릭을 가진 다양체를 금속으로 되어있고 온도가 다른 대상으로 생각해보자는 독특한 제안을 합니다. 해밀턴은 다양체가 리치 흐름을 따라 진화한다고 가정하고, 그 방정식들을 탐구하여 기하학화 추측을 증명할 것을 제안했는데 컴팩트한 2차원 곡면에서 리치 흐름에 따라 곡률을 변화시키면, 곡률이 일정한 곡면이 얻어진다는 것을 증명함으로서 임의의 2차원 다양체가 단 하나의 기하학을 가진다는 명제에 대한 증명에는 성공합니다. 하지만 3차원 다양체의 경우에 대입할 경우 다양체 속에 곡률이 0인 점들이 있으면 리치 흐름이 특이점들을 산출함으로서 푸앵카레의 추측이 증명은 실패하고 맙니다. 그 후 클레이 연구소는 밀레니엄 문제로 7개의 수학난제를 선정했는데, 그 중에 푸앵카레의 추측이 포함됩니다.

2002년 11월 11일, 러시아의 수학자 그리고리 페렐만은 웹사이트 http://arxiv.org/에 7년동안 연구한 논문을 올립니다. 그는 그 논문에서 해밀턴의 3차원에서 파열한계의 구조에 관한 특정 추측들을 확증하며 3-다양체에 대한 기하학화 추측을 함축한다고 말함으로서 푸앵카레의 추측을 해결했음을 암시합니다. 페렐만은 비-붕괴 정리를 증명하기 위해 엔트로피 개념을 도입했는데 해밀턴이 리치 흐름에서 분류한 특이점에 페렐만은 특이점 근처로 과감히 뛰어들어 다양체 속의 공간이 해체될 지경으로 곡률이 높을 때 예상치 못한 규칙성들이 나타난다는 것을 발견했고, 잠재적인 붕괴를 측정하는 새로운 수학적 기법을 도입합니다. 그는 어떤 유형의 특이점은 절대 발생할 수 없으며, 다른 유형들은 통제된 방식으로 행동한다는 것을 증명합니다. 그는 증명을 통해 극단적인 굴곡을 부드럽게 펴서 원래 다양체와 위상동형이면서 일정한 양의 곡률을 지닌 다양체를 산출해냈고 이것이 푸앵카레가 추측했던 것이였습니다. 그는 더 나아가 리치 흐름이 가진 몇 가지 속성들이 모든 차원에서 타당하다는걸 증명합니다.

2006년 올해의 최고의 과학 성과는 세계 7대 수학 난제 중의 하나인 푸앵카레의 추측을 증명한 페렐만의 작업이다. - 사이언스 

페렐만의 업적은 여러 가지의 추측을 낳게 하고 있는데, 4차원 다양체 연구에 리치 흐름이 이용될 가능성을 제시하고 있고, 다른 유형의 포물형 미분방정식에도 사용될 수 있으리라고 짐작하고 있습니다. 또한 더 나아간다면 리치 흐름이 척도에 따라 다른 위상을 가진 다양체를 통합할 가능성도 제시되고 있습니다. 수리물리학자 이본 쇼케-브뤼아는 페렐만이 공간과 관련해 구성한 이론을 변형시켜 시공에 적용할 필요가 있다는 점을 지적합니다. 이런 수학의 업적들은 다른 과학의 업적과 마찬가지로 계속 쌓여가는 토대 속에서 이루어집니다. 유클리드부터 시작된 수학자들의 여정은 많은 업적을 남겼고, 페렐만 또한 하나의 위대한 업적을 남겼습니다. 시간이 지나면 이런 페렐만의 어깨 위에서 또 다른 업적을 이룬 수학자들이 생겨날 것입니다. 이러한 진보는 인간의 위대함을 직관적으로 보여주고 있습니다.