정답의 역사가 아니라 질문하고 증명해온 인간의 역사

수학의 역사 - 숫자로 묻고 세계를 증명하다 ㅣ 소소의책 역사교양서
스네자나 로렌스 지음, 고유경 옮김 / 소소의책 / 2026년 8월

 수학의 역사를 읽기 전까지 수학의 역사를 생각하면 피타고라스, 유클리드, 뉴턴처럼 교과서에서 배웠던 유명한 수학자와 공식들이 먼저 떠올랐다. 수학은 이미 완성된 지식을 배우는 학문이라는 인식도 강했다. 그러나 이 책을 읽으며 수학을 바라보는 시선이 조금 달라졌다. 우리가 지금 당연하게 사용하는 숫자와 기호, 공식 하나에도 수백 년, 때로는 수천 년에 걸친 인간의 질문과 실패, 논쟁과 발견이 축적되어 있었다. 결국 수학의 역사는 숫자의 역사라기보다 인간이 세상을 이해하기 위해 끊임없이 질문해온 역사에 가까웠다.

 40대 후반의 직장인으로 오랫동안 숫자와 자료를 접하며 일해온 나에게 수학은 비교적 익숙한 언어다. 하지만 일상에서 사용하는 숫자는 대부분 이미 만들어진 체계 안에 있다. 어떤 수치를 비교하고 변화의 원인을 찾으며 앞으로 나타날 가능성을 판단하지만, 우리가 사용하는 숫자와 계산법 자체가 어떻게 만들어졌는지를 생각할 기회는 많지 않았다. 그런 의미에서 이 책은 익숙하다고 생각했던 수학을 전혀 다른 방향에서 바라보게 했다.

 책은 선사시대 사람들이 남긴 흔적에서 시작한다. 인간은 오래전부터 수를 세어야 했고 땅의 크기를 측정해야 했으며 계절과 천체의 움직임을 이해해야 했다. 처음부터 추상적인 공식을 만들기 위해 수학을 연구한 것이 아니라 살아가기 위해 필요한 문제를 해결하는 과정에서 수학이 시작된 것이다.

 이러한 흐름은 고대 메소포타미아와 이집트, 그리스로 이어지고 다시 중국과 인도, 이슬람 세계를 거쳐 유럽으로 연결된다. 우리가 학교에서 배운 수학이 어느 한 문명이나 몇몇 천재의 머릿속에서 갑자기 탄생한 것이 아니라 서로 다른 시대와 지역의 사람들이 만들어낸 지식이 전달되고 수정되면서 발전했다는 사실이 인상적이었다.

 특히 ‘0’에 관한 이야기가 기억에 남았다. 지금은 0이 너무나 당연한 숫자이지만 인간이 처음부터 0을 하나의 수로 자연스럽게 받아들였던 것은 아니다. 아무것도 없다는 상태를 하나의 숫자로 표현하고 계산의 체계 안에 포함한다는 생각 자체가 당시에는 커다란 사고의 전환이었다. 인도에서 발전한 0과 숫자 체계가 이슬람 세계를 거쳐 전파되면서 계산 방식도 크게 달라졌다.

 생각해보면 인간의 중요한 발전은 이렇게 기존에는 존재하지 않았던 개념을 만들어내는 순간에 일어나는 경우가 많다. 눈앞에 보이는 것을 계산하는 것에서 보이지 않는 ‘없음’까지 숫자로 표현할 수 있게 된 순간 인간이 사고할 수 있는 세계도 넓어진 것이다.

 책에서 실제로 공개된 본문 가운데 특히 인상 깊었던 세 문장을 옮겨보면 다음과 같다.

“수학자들은 늘 어제의 발견을 토대로 오늘의 질문에 대한 답을 찾는다.”

“어떤 문제는 우리가 가진 도구로는 아직 풀 수 없다.”

“그 밑바탕에는 언제나 수학이 있다.”

 이 세 문장은 서로 다른 시대의 수학을 하나로 연결해주는 표현처럼 느껴졌다. 첫 번째 문장은 지식의 축적을, 두 번째 문장은 인간 지식의 한계를, 마지막 문장은 현대 사회에서 수학이 차지하는 위치를 보여준다.

 그중에서도 “수학자들은 늘 어제의 발견을 토대로 오늘의 질문에 대한 답을 찾는다”는 문장이 가장 마음에 남았다. 우리는 흔히 위대한 발견을 한 천재의 특별한 능력에 집중한다. 그러나 책을 읽어보면 아무리 뛰어난 수학자라도 완전히 아무것도 없는 곳에서 새로운 이론을 만들어낸 것은 아니었다. 이전 사람들이 남긴 문제와 발견을 배우고, 거기에 새로운 질문을 덧붙이면서 다음 단계로 나아갔다.

 이것은 직장생활에서도 크게 다르지 않다고 생각한다. 오랫동안 일을 하다 보면 경험의 중요성을 실감하게 된다. 처음에는 하나의 업무를 해결하는 것 자체가 어렵지만 비슷한 문제를 반복해서 경험하면서 조금씩 판단 기준이 생긴다. 과거의 경험이 현재의 문제를 바라보는 출발점이 되는 것이다.

 하지만 경험만으로 충분한 것은 아니다. 과거에 효과가 있었던 방법이 현재에도 반드시 옳다는 보장은 없다. 수학 역시 기존의 이론을 그대로 반복하는 것만으로 발전하지 않았다. 기존의 생각에 의문을 제기하고, 설명되지 않는 부분을 발견하며, 때로는 오랫동안 당연하다고 믿었던 전제를 버렸기 때문에 새로운 세계가 열렸다.

 비유클리드 기하학의 발전 과정은 이러한 점을 잘 보여준다. 인간은 오랫동안 유클리드 기하학을 공간을 설명하는 절대적인 체계처럼 받아들였다. 하지만 기존의 전제를 다르게 생각하기 시작하면서 전혀 새로운 기하학이 등장했다. 이는 ‘정답’이라고 믿었던 것도 어떤 조건에서는 다시 질문할 수 있다는 사실을 보여준다.

 나이가 들수록 이 태도가 더욱 중요하다는 생각이 들었다. 경력이 쌓이면 자연스럽게 자신의 경험을 신뢰하게 된다. “예전에도 이런 일이 있었는데 이렇게 해결했다”는 판단은 업무를 빠르게 처리하는 데 큰 도움이 된다. 그러나 경험이 많다는 사실이 새로운 상황에서도 항상 옳은 판단을 보장하는 것은 아니다. 오히려 오랜 경험 때문에 기존의 방식에서 벗어나지 못할 수도 있다.

 수학의 발전을 이끈 사람들은 기존 지식을 누구보다 깊이 이해하면서도 그 지식이 설명하지 못하는 부분을 끊임없이 질문했다. 경험을 존중하되 경험에 갇히지 않는 태도라는 점에서 나 자신을 돌아보게 했다.

 책에서 소개되는 수학자들의 인간적인 모습도 흥미로웠다. 우리는 수학을 매우 냉정하고 객관적인 학문이라고 생각하지만 수학의 역사 자체는 인간적인 갈등으로 가득했다. 삼차방정식의 해법을 둘러싸고 수학자들이 공개 대결을 벌였고, 뉴턴과 라이프니츠 사이에서는 미적분학을 누가 먼저 발견했는지를 둘러싼 치열한 논쟁이 있었다.

 결국 가장 논리적인 학문을 발전시킨 사람들도 명예와 경쟁심, 자존심을 가진 인간이었다. 이 사실이 오히려 흥미로웠다. 위대한 발견은 언제나 순수한 호기심만으로 이루어진 것이 아니라 때로는 경쟁과 인정받고 싶은 욕구가 발전의 동력이 되기도 했다.

 반대로 협력과 지식의 공유 역시 수학 발전에서 중요한 역할을 했다. 서로 다른 시대와 지역에서 만들어진 지식이 번역되고 전달되면서 새로운 발견의 기반이 되었다. 한 문명의 지식이 다른 문명으로 넘어가고, 그곳에서 새로운 아이디어가 추가된 뒤 다시 다른 지역으로 전달되었다.

 이 과정은 오늘날 조직에서 지식이 축적되는 방식과도 닮아 있다. 뛰어난 한 사람이 모든 문제를 해결하는 조직보다 서로 다른 경험을 가진 사람들이 정보를 공유하고 다음 사람이 그 지식을 발전시키는 조직이 장기적으로 강하다. 개인의 능력도 중요하지만 지식이 전달될 수 있는 구조가 그만큼 중요하다는 생각이 들었다.

 책에서 가장 흥미로운 부분 가운데 하나는 수학의 발전이 현실의 문제에서 시작된 경우가 많다는 점이었다. 확률론 역시 처음부터 거대한 이론을 만들기 위해 시작된 것이 아니라 도박 게임이 중간에 끝났을 때 판돈을 어떻게 공정하게 나누어야 하는가라는 현실적인 질문에서 발전했다. 인간의 아주 현실적인 문제가 새로운 사고의 출발점이 된 것이다.

 이 대목에서 좋은 질문의 중요성을 다시 생각했다. 우리는 흔히 좋은 답을 찾는 능력을 높게 평가하지만, 역사를 바꾼 발견들을 살펴보면 그 이전에 좋은 질문이 있었다. 아무도 의문을 가지지 않았던 것에 “왜 그런가?”라고 질문하고, 당연하다고 생각했던 현상에서 문제를 발견하는 사람이 새로운 길을 열었다.

 직장에서도 마찬가지다. 경력이 쌓일수록 답을 빨리 제시해야 한다는 압박을 느끼게 된다. 후배들은 경험이 많은 사람에게 답을 기대하고, 조직 역시 신속한 판단을 요구한다. 그러나 때로는 빠른 답보다 문제를 제대로 정의하는 것이 더 중요하다. 잘못된 질문에 아무리 정확한 답을 내놓아도 좋은 결과를 얻기는 어렵기 때문이다.

 그런 의미에서 『수학의 역사』는 내게 ‘답을 잘 찾는 사람’보다 ‘좋은 질문을 하는 사람’이 되어야 한다는 생각을 다시 하게 했다.

책의 후반부에서 수학이 컴퓨터와 인공지능으로 연결되는 과정도 흥미롭다. 오늘날 인공지능이 보여주는 능력은 마치 갑자기 등장한 새로운 기술처럼 느껴지지만 그 아래에는 수백 년 동안 축적된 수학적 사고가 자리하고 있다. 패턴을 찾고 데이터를 추상화하며 알고리즘을 통해 문제를 해결하는 과정 역시 오랜 수학적 발전 위에서 가능해졌다.

 최신 기술일수록 오히려 오래된 기초 위에 서 있다는 사실이 인상적이었다. 우리는 새로운 기술이 등장하면 이전의 지식이 빠르게 쓸모없어질 것이라고 생각하기 쉽다. 그러나 실제로는 새로운 기술일수록 탄탄한 기본 원리를 필요로 한다. 세상이 빠르게 변할수록 기초적인 사고 능력이 더 중요해질 수 있다는 의미다.

 또한 이 책은 실패를 바라보는 시각도 바꾸어준다. 수학의 역사에는 오랫동안 풀리지 않은 문제들이 수없이 등장한다. 어떤 사람은 평생 하나의 문제를 연구하고도 답을 찾지 못했다. 그러나 그 과정에서 만들어진 새로운 방법이 다른 문제를 해결하는 데 사용되기도 했다.

 19세기에 이르러서는 고대 그리스 시대부터 수세기 동안 사람들이 해결하려 했던 일부 작도 문제가 애초에 주어진 조건에서는 풀 수 없다는 사실이 증명되었다. 문제를 풀지 못한 것이 실패가 아니라 ‘풀 수 없다는 것을 증명하는 것’ 자체가 하나의 해답이 된 것이다.

 이 부분이 특히 인상적이었다. 직장에서는 결과가 나오지 않으면 실패라고 판단하기 쉽다. 그러나 충분히 검토한 끝에 어떤 방법으로는 목표를 달성할 수 없다는 사실을 알아내는 것도 중요한 성과일 수 있다. 중요한 것은 실패했느냐가 아니라 그 과정에서 무엇을 알게 되었느냐일 것이다.

 40대 후반이 되면서 나는 지식을 바라보는 태도 역시 조금씩 달라지고 있다.  젊었을 때는 많이 알고 정확한 답을 내놓는 것이 중요하다고 생각했다. 그러나 경험이 쌓일수록 내가 알고 있는 것보다 알지 못하는 것이 훨씬 많다는 사실을 알게 된다.

 그래서 책 속의 “어떤 문제는 우리가 가진 도구로는 아직 풀 수 없다”는 문장이 더욱 의미 있게 다가왔다. 자신의 한계를 인정하는 것은 무능함이 아니라 새로운 지식을 받아들이기 위한 출발점일 수 있다. 모른다는 사실을 인정해야 질문할 수 있고, 질문해야 새로운 답을 찾을 수 있기 때문이다.

 마지막으로 『수학의 역사』를 읽고 가장 크게 남은 소감은 수학이 정답을 가진 사람들의 역사가 아니라 끝없이 질문했던 사람들의 역사였다는 것이다. 우리가 교과서에서 만나는 공식은 너무나 완벽해서 처음부터 그 모습으로 존재했던 것처럼 보인다. 하지만 그 뒤에는 수많은 사람의 실패와 논쟁, 경쟁과 협력, 그리고 때로는 평생 해결하지 못한 질문들이 있었다.

 40대 후반의 지금 나 역시 그동안 쌓은 지식과 경험이 적지는 않다. 하지만 앞으로의 삶에서 중요한 것은 지금까지 알고 있는 것을 지키는 것만이 아니라 새로운 질문을 계속할 수 있는 능력이라는 생각이 들었다. 익숙한 방법을 반복하는 것은 편하지만, 세상이 변하면 질문도 달라져야 한다.

 특히 인공지능이 빠르게 발전하면서 앞으로는 정해진 계산과 정보 검색, 일정한 형식의 분석은 기계가 인간보다 훨씬 빠르게 수행할 것이다. 그렇다면 사람에게 더욱 중요해지는 것은 무엇을 계산할 것인지, 무엇을 의심할 것인지, 그리고 어떤 문제를 해결해야 하는지를 결정하는 능력일지도 모른다.

 책을 덮으며 나는 수학을 숫자와 공식의 집합이 아니라 인간이 세상을 이해하기 위해 만들어온 하나의 거대한 언어로 다시 보게 되었다. 누군가의 질문이 다음 사람의 출발점이 되고, 한 시대에 해결하지 못한 문제가 수백 년 뒤 새로운 발견으로 이어지는 모습을 보면서 지식이란 개인이 소유하는 것보다 세대를 이어 전달되는 것에 더 가깝다는 생각도 들었다.

 앞으로 나 역시 일을 하거나 삶의 중요한 결정을 내릴 때 빨리 정답을 찾으려고만 하기보다 내가 지금 제대로 된 질문을 하고 있는가를 먼저 생각해보고 싶다. 이미 알고 있다고 생각하는 것에도 한 번 더 의문을 가져보고, 답을 찾지 못했다고 해서 그 과정까지 실패라고 판단하지 않는 여유도 갖고 싶다.

『수학의 역사』를 읽으며 수천 년 전 이름조차 남지 않은 사람들이 던졌던 작은 질문들이 오늘날 컴퓨터와 인공지능으로까지 이어졌다는 사실이 묘한 감동으로 남았다. 내가 지금 던지는 질문의 답을 반드시 내가 찾지 못하더라도, 좋은 질문은 언젠가 다른 사람의 생각을 움직일 수 있다.

 정답을 많이 알고 있는 사람이 되는 것보다, 나이가 들어서도 새로운 질문을 던질 수 있는 사람으로 남는 것. 그것이 이 책을 덮은 뒤 내가 가장 오래 간직하고 싶은 소감이다.

출판사로부터 도서를 제공받아 주관적인 견해에 의해 작성한 리뷰입니다.