[Review] 수학의 함정 (자비네 호젠펠더 著, 해나무)

수학의 함정 - 아름다움에 사로잡힌 물리학자들
자비네 호젠펠더 지음, 배지은 옮김 / 해나무 / 2020년 12월

“수학의 함정 (자비네 호젠펠더 著, 배지은 譯, 해나무, 원제 : Lost in Math)”을 읽었습니다.

최근의 과학 연구는 막대한 예산과 인력을 필요로 하는 거대과학 (big science)이 되어버린 지 오래입니다. 과거 한 사람의 천재성으로 과학의 패러다임을 바꾸던 시대가 이미 아니게 되어 버린 것이지요. 그렇기에 하나의 과학적 이론을 실험하기 위해서는 그 이론에 대한 판단이 들어가야 합니다. 물론 그 판단은 수학적 규칙이나 엄밀성이 바탕이 될 것입니다. 저자는 많은 과학자들과의 대화를 통해 그 수학적 규칙과 엄밀성은 이성이나 합리성 뿐만 아니라 주관적 척도나 판단이 포함된다고 이야기하고 있습니다. 바로 그 주관적 척도나 판단의 기준이 되는 것이 ‘자연스러움’ 혹은 ‘아름다움’이라는 것입니다. 

저자는 지난 30여년 간 과학계가 맛본 실패의 역사를 이야기합니다. 인류가 만든 가장 거대한 실험장치인 LHC (강입자충돌기, Large Hadron Collider)는 ‘새로운 자연법칙을 뒷받침할 근거를 보여주지 못했고 천체물리학자들은 암흑물질과 암흑에너지의 이론적 근거를 발견하지 못했다고 합니다. 이런 상황에서 물리학자들은 수학적 엄밀성을 추구하지만 실험으로 이를 뒷받침하지 못하기 때문에 그 이론에 대한 판단의 기준은 바로 수학적 ‘미(美)’로 삼고 있다는 것입니다. 

하지만 저자는 과학자들이 추(醜)하다고 판단했던 많은 이론들이 사실로 밝혀졌던 사례들을 이야기합니다. 하이젠베르그와 슈뢰딩거가 서로의 이론을 쓰레기라 비난했지만 나중의 연구 결과로 같은 이론임이 밝혀졌던 사례나 아인슈타인이 끔찍한 아이디어라고 표현했던 ‘빅뱅’ 가설, 맥스웰의 전자기장 같은 것들 말이지요. 또 과학자들이 아름다워 진리라 여겼던 많은 이론들은 지금은 사실이 아닌 많은 사례도 역시 이야기합니다. 

그러나 여전히 많은 과학자들이 ‘자연스러움’과 ‘아름다움’을 이론을 판단하는데 중요한 기준으로 삼고 있음을 지적합니다. 실험적 데이터가 부족한 상황에서 이렇듯 이론을 판단하는 기준이 우리를 실수로 이끌 수 있고 그 실수는 과학적 발전에 있어 막다른 곳으로 데려갈 수 있다고 저자는 걱정을 하고 있습니다. 또한 리하르트 다비트와 같은 일부 철학자들은 과학적 방법론의 엄밀성을 포기하기를 종용하기도 합니다. 

하지만 많은 경우 자연스러움, 그리고 수학적 아름다움은 관측이나 실험과 모순을 일으키는 경우가 많다고 합니다. 하지만 많은 과학자들이 추구하는 자연스러움, 수학적 아름다움은 관측, 실험과의 모순을 설명하지 않고, 심지어 어떤 과학자들은 설명할 필요도 없다고 생각하기 때문에 문제 조차 드러내지 않는 경우도 많다고 합니다. 

저자는 과학은 자연스러움, 완전함 혹은 미학이 문제가 아니라는 주장을 이어갑니다. 특히 저자는 우리가 현재 가지고 있는 자연법칙에 대한 이해가 불완전하다는 점을 이해하고 이러한 이해를 완성시키기 위해서는 과학적 방법론의 엄밀성과 일관성에 집중하여야만 한다는 이야기를 하고 있습니다. 

이 책은 많은 과학적 사실들이 등장하기도 하지만 추천사를 쓴 김민형 교수의 표현에 의하면 ‘과학사회학’에 대한 이야기입니다. 현대의 과학자들이 가지고 있는 관심사를 분석하고 이에 대한 비판과 대안을 제시한 책으로 비전문가 혹은 일반인으로서 대중과학책을 읽을 때 무비판적으로 읽는 것을 예방해주는 책이라 할 수 있을 것 같습니다.

#수학의함정 #자비네호젠펠더, #배지은, #김근영, #해나무

※ 출판사로부터 도서를 제공받아 직접 읽고 주관에 따라 서평을 작성하였습니다.