수학자의 몰입

수학자의 몰입 - 평범한 소년은 어떻게 수학사의 난제를 해결한 위대한 수학자가 되었을까?
오카 기요시 지음, 정회성 옮김 / 사람과나무사이 / 2026년 3월

*본 포스팅은 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다.

시험지를 내고 교실 문을 나서는 순간, 갑자기 알아버리는 것들이 있다. 긴장이 풀리는 바로 그 찰나, "아, 거기서 틀렸구나"라는 깨달음이 불쑥 찾아온다. 누구나 한 번쯤 겪어봤을 이 경험을 두고 일본의 수학자 오카 기요시는 범상치 않은 이름을 붙였다. 그는 그것을 대자연의 순수 직관이라고 불렀다. 틀린 것을 알아챈 것이니 실패의 순간처럼 보이지만, 오카에게 그것은 오히려 지성이 제대로 작동하는 증거였다. 긴장과 강박이 걷히고 나서야 비로소 마음이 맑아지고, 그 맑아진 순간에 지성의 빛이 스며든다는 것이다. 뜨겁게 달구고 차갑게 식히기를 반복하는 도검 장인의 방식처럼, 인간의 지성도 그렇게 단련된다고 그는 믿었다. 끊임없이 가열만 하는 것이 아니라, 식히고 쉬고 내려놓는 과정이 있어야 비로소 날카로워진다는 것이다. 오카는 몰입을 단순한 집중력의 문제로 보지 않았다. 오랫동안 우리는 몰입을 의지의 언어로 설명해왔다. 더 오래, 더 강하게, 더 끈질기게 버티는 것. 하지만 오카가 말하는 몰입은 그보다 훨씬 섬세한 무엇이다. 그것은 정서(情緒)를 통해 이루어지는 행위다.

오카 기요시는 다변수 함수론의 난제를 풀어낸 수학자로, 20세기 수학사에 굵직한 이름을 남겼다. 그러나 그가 남긴 글들을 읽다 보면, 이 사람이 수학을 대하는 태도가 보통의 과학자와 무언가 근본적으로 다르다는 것을 느끼게 된다. 그는 수학과 예술이 본질에서 같다고 보았다. 수학이 추구하는 것은 진리 안에서의 조화이고, 예술이 추구하는 것은 아름다움 안에서의 조화이며, 그 두 가지 모두에서 작동하는 것이 바로 정서라는 것이다. 정서를 지식의 반대편에 있는 것, 혹은 논리적 사고를 흐리는 감정 같은 것으로 이해하는 사람들에게 이 주장은 낯설게 들릴 수 있다. 하지만 오카에게 정서는 인간의 중심이었다. 논리나 계산이 아니라 정서야말로 인간을 인간답게 만드는 핵심 기관이었고, 수학도 예외가 아니었다. 그는 정서 없이는 수학조차 존재할 수 없다고 단언했다. 이것이 몰입과 어떤 관계가 있는가. 오카는 진정한 수학이란 칠판에 적힌 기호를 눈으로 읽는 것이 아니라, 자신의 마음 안에 있는 것을 마음의 눈으로 보는 것이라고 했다. 이 말을 처음 접했을 때 나는 한동안 멈추어 있었다. 마음의 눈으로 본다는 것이 무슨 뜻인가. 수학 문제를 계산하는 것이 아니라 본다고? 그것도 마음으로? 아마도 이것은 대상과 하나가 되는 경험에 가까운 것일 터이다. 퍼즐을 기계적으로 맞추는 것이 아니라, 문제가 살아있는 것처럼 느껴지고, 그것과 교감하고, 어느 순간 그것의 구조가 내면에서 환하게 드러나는 경험. 그 경험은 강제력이나 의지력으로 만들어지는 것이 아니다. 정서적으로 열려 있을 때, 마음이 고요하고 맑을 때 찾아온다.

오카는 들에 피는 제비꽃을 이야기했다. 제비꽃은 그저 제비꽃답게 피어 있을 뿐이다. 자신이 피어 있음이 좋은 일인지 나쁜 일인지, 누군가에게 도움이 되는지 여부는 제비꽃이 알 바가 아니다. 그는 수학을 배우는 기쁨이 그런 것이라고 했다. 유용성이나 결과와 무관하게, 그저 발견의 기쁨 자체를 먹고 산다고. 이 비유는 단순히 낭만적인 수사가 아니다. 몰입의 조건에 대한 예리한 통찰이 담겨 있다. 우리가 어떤 일에 깊이 몰입하지 못하는 이유 중 하나는, 그 일을 하는 내내 그것이 어디에 쓸모가 있는지, 결과는 어떻게 될지, 남들에게 어떻게 보일지를 계산하기 때문이다. 앞뒤로 분산된 시선은 지금 이 순간의 깊이를 빼앗는다. 그러나 제비꽃처럼 지금 피어 있는 것 자체가 전부일 때, 의식은 오롯이 지금 여기에 머문다. 수학의 역사를 돌아보면 가장 위대한 발견들이 종종 아무런 실용적 목적 없이 이루어졌다는 사실이 흥미롭다. 정수론, 위상수학, 비유클리드 기하학은 처음에는 그저 아름다운 추상의 놀이였다. 그것들이 나중에 암호학과 물리학과 컴퓨터 과학의 언어가 되리라고는 그 누구도 예측하지 못했다. 목적 없는 몰입이 오히려 가장 멀리 나아갔다.

오카가 이 글들을 쓸때, 기계가 계산과 논리를 대신하게 되리라는 것을 내다보았다. 그러니 앞으로의 수학, 더 나아가 인간의 역할은 기계가 할 수 없는 것을 하는 데 있어야 한다고 말했다. 그것은 조화의 정신을 가르치는 것이라고 그는 썼다. 60년이 지난 지금, 우리는 그가 말한 세계 한가운데 서 있다. 생성형 AI는 방대한 텍스트를 학습하여 인간의 언어를 통계적으로 모방한다. 논문을 요약하고, 코드를 짜고, 그림을 그린다. 그 능력은 날이 갈수록 인상적이어서, 인간이 할 수 있는 것과 기계가 할 수 있는 것의 경계가 점점 흐릿해지고 있다. 이런 시대에 오카의 말은 기묘한 울림을 갖는다. 기계는 계산하고, 기계는 패턴을 인식하고, 기계는 최적의 답을 찾는다. 하지만 기계는 마음의 눈으로 보지 않는다. 기계는 제비꽃처럼 피어 있음의 기쁨을 알지 못한다. 기계는 교실 문을 나서며 "아차" 하고 깨닫는 그 찰나의 정서적 경험을 할 수 없다. 오카가 말하는 몰입은 효율이나 성과의 언어가 아니라 정서의 언어로 이루어진다. 마음이 맑은 순간 찾아오는 깨달음, 강요 없이 솟구치는 발견의 기쁨, 대상과 조용히 교감하는 경험. 이것들은 기계가 모방하기 가장 어려운 것들이며, 동시에 인간이 가장 인간다운 것들이다.

우리는 종종 몰입을 생산성의 도구로 생각한다. 더 많이 집중하면 더 빨리 끝낼 수 있고, 더 좋은 성과를 낼 수 있다고. 하지만 오카의 이야기를 따라가다 보면, 진정한 몰입은 성과를 향해 달려가는 것이 아니라 오히려 그 반대처럼 보인다. 목적을 내려놓고, 긴장을 풀고, 대자연처럼 조용히 흐르는 것. 뜨겁게 달구는 것만큼 차갑게 식히는 것도 중요하다는 것이다. 책을 읽는 것보다 책을 읽고 싶은 마음이 먼저라는 그의 말도 같은 맥락에서 이해된다. 억지로 밀어 넣는 지식보다, 저절로 당겨지는 호기심이 더 깊이 새겨진다. 그리고 그 호기심은 논리가 아니라 정서에서 태어난다. 무언가가 아름답다고 느낄 때, 무언가가 신기하다고 느낄 때, 무언가를 반드시 알고 싶다는 마음이 일 때, 비로소 진짜 몰입이 시작된다. 수학자의 몰입은 결국 이런 것이 아닐까. 답을 향해 돌진하는 것이 아니라, 문제와 오래 함께 앉아 있는 것. 마음의 눈이 열릴 때까지 기다리는 것. 그리고 그 기다림 속에서 정서가 지성의 불빛을 불러들이는 것. 교실 문을 나서는 그 한 걸음이 때로는 가장 중요한 수학적 순간이 된다는 것을, 오카는 알고 있었다.