수학자 티모시 가워스(Timothy Gowers) 교수가 ChatGPT 5.5 Pro를 활용한 수학 연구 경험담을 공개했다. 가워스 교수에 따르면, ChatGPT 5.5 Pro는 거의 수학적 조언 없이도 박사 과정 수준의 조합론 연구 결과를 단 1~2시간 만에 도출해냈다.
AI가 푼 문제는?
가워스 교수가 시험한 문제는 정수 집합 A를 여러 번 더해 만들 수 있는 '합집합'의 크기에 관한 것이다. 쉽게 말해 "k개의 정수로 구성된 집합을 이용해 원하는 크기의 합집합을 만들려면 얼마나 넓은 범위의 정수가 필요한가"라는 문제다.
기존에 알려진 구성 방식은 필요한 정수의 범위가 지나치게 컸다. ChatGPT 5.5 Pro는 우선 h=2라는 기본적인 경우에 대해, 기하급수적이던 상한을 2차 함수 수준으로 개선했다. 이는 합의 결과가 서로 겹치기 어려운 '시돈 집합(Sidon sequence)'을 교묘하게 활용한 덕분이다.
기존 연구를 뛰어넘다
가워스 교수는 이후 더 일반적인 h 값에 대해서도 같은 개선이 가능한지 시도했다. 이 과정에서 MIT 학생 아이작 라자고팔(Isaac Rajagopal)의 기존 연구를 바탕으로 삼았다. ChatGPT 5.5 Pro는 이 논의를 기반으로 개선을 시도했고, 결국 지수 함수적이던 상한을 다항식 수준으로 낮추는 아이디어를 제시했다.
라자고팔은 이 결과를 확인하고 "거의 확실히 맞다"고 평가했다. 특히 중요한 점은 단순한 계산 대체가 아니라, "기하수열처럼 행동하면서도 요소의 크기는 다항식 수준으로 유지되는 집합"을 만드는 발상이 포함되었다는 것이다. 라자고팔은 "내가 생각해도 1~2주는 걸렸을 훌륭한 아이디어를 ChatGPT 5.5 Pro가 1시간도 안 되어 찾아냈다"고 놀라움을 표했다.
"박사 논문 한 장으로 손색없다"
가워스 교수는 이번 결과에 대해 "2시간도 안 되어 찾아낸 것 치고는 조합론 박사 논문의 한 장(chapter)으로 충분히 성립하는 수준"이라고 평가했다. 물론 수학사에 길이 남을 대정리는 아니며, 라자고팔의 기존 연구에 크게 의존한 것도 사실이다. 하지만 단순한 재진술이나 기계적 계산이 아니라, 기존 틀을 비자명하게 확장한 내용이라는 점을 강조했다.
가워스 교수는 "인간 박사 과정생이 같은 결과에 도달하려면, 먼저 라자고팔의 논문을 완전히 이해하고, 개선할 여지를 찾고, 필요한 대수적 기법에 익숙해진 뒤, 새로운 구성을 찾아내야 했을 것"이라고 설명했다. 즉, ChatGPT 5.5 Pro가 한 일은 "검색으로 기존 답을 가져온" 수준이 아니라, 연구자가 실제로 수행하는 독해·개선·구성의 과정에 매우 가까웠다는 것이다.
바뀌는 연구의 최저선
가워스 교수는 이로 인해 초기 박사 과정생에게 연구를 가르치는 일이 더욱 어려워질 것이라고 전망한다. 지금까지는 아직 누구도 풀지 않았지만 비교적 접근하기 쉬운 문제를 학생에게 주어 연구의 첫걸음을 떼게 할 수 있었다. 그러나 AI가 그런 "쉬운 미해결 문제"를 풀 수 있는 단계에 왔다면, 인간 연구자에게 요구되는 최저선은 "미해결 문제를 푸는 것"에서 "AI만으로는 풀 수 없음을 증명하는 것"으로 이동할 가능성이 있다.
하지만 가워스 교수는 "그렇다고 인간 수학자가 필요 없어지는 것은 아니다"라고 강조한다. 오히려 초보 연구자도 AI를 활용할 수 있게 된 만큼, 앞으로 중요한 것은 "AI가 단독으로 할 수 없는 연구를 AI와 협력해 진행하는 능력"이라고 본다. 가워스 교수 자신도 최근 AI와의 공동 작업을 적극 시도하고 있으며, 현재로서는 AI가 결정적인 대 아이디어를 내는 단계는 아니지만 확실히 유용한 기여를 하고 있다고 덧붙였다.
명예의 의미도 바뀐다
가워스 교수는 수학 연구의 의미 자체도 변할 것이라고 내다본다. 예를 들어 "앞으로는 자신의 이름이 정리나 정의에 영원히 남는 종류의 명예를 얻기는 어려워질 수 있다"고 말한다. 만약 어떤 수학자가 AI와 길고 긴 대화 끝에 큰 문제를 풀었다 해도, 기술적인 작업이나 주요 아이디어를 AI가 담당했다면 그것을 그 수학자의 대위업이라고 부를 수 있을지 의문이기 때문이다.
그럼에도 가워스 교수는 어려운 수학에 도전하는 가치는 남아 있다고 생각한다. 문제와 씨름하면서 단순히 다른 사람의 답을 읽는 것만으로는 얻을 수 없는 '문제 해결의 감각'이 길러지기 때문이다. 뛰어난 프로그래머일수록 AI 코딩을 더 잘 활용하듯, 실제로 어려운 수학 문제를 풀어본 경험이 있는 사람일수록 AI를 활용한 수학 연구에서도 강점을 발휘할 수 있다고 지적한다. 그러면서 "앞으로의 수학 연구에서는 과거 세대와 같은 보상을 얻지 못할 수도 있지만, 연구 수준의 수학에서 단련되는 능력은 미래 사회를 위한 강력한 준비가 될 가능성이 높다"고 글을 마무리했다.
