AI가 쉬워지는 최소한의 수학

AI가 쉬워지는 최소한의 수학 - 인공지능 문해력을 키우는 수학적 사고법의 힘 ㅣ 최소한의 지식 3
이동준 지음 / 지상의책(갈매나무) / 2026년 2월

[ 출판사로부터 도서를 제공받고 작성한 리뷰입니다. ]

하루가 다르게 발전하고 있는 AI, 이제는 언어를 넘어 수학, 과학, 프로그래밍 등 복잡한 사고와 단계적 문제하결 능력을 갖춘 AI 모델이 등장했다고 하네요. 프롬프트 몇 줄을 입력하면 복잡한 수식도 인공지능이 척척 풀어내는 상황에서 수학은 계속 배워야 할 학문일까요. 이 질문에 대해 답해주는 책이 나왔네요.

올해로 17년차 교사로 수학을 가르치고 있는 저자는, "다른 과학이나 공학은 새로운 게 계속 쏟아지는데, 수학도 새로운 게 나와요? 수학은 여전히 살아 있나요?" (12p)라는 질문을 받았고, 인공지능을 공부하면서 수학의 눈으로 새롭게 바라보게 되었으며, "수학은 인공지능의 신경이자 심장이다." (17p)라고 이야기하네요.

《AI가 쉬워지는 최소한의 수학》은 인공지능의 원리를 수학적 문해력으로 풀어낸 책이에요.

이 책에서는 어려운 코딩이나 복잡한 수식을 사용하지 않고, 이미 일상에서 사용하고 있는 챗GPT, 챗봇, 추천 알고리즘, 그리고 미래를 예측하는 인공지능 모델, 인공신경망, 자율주행차, 생성형 인공지능의 창작 과정 속에 어떤 수학적 원리가 담겨 있는지를 스토리텔링 방식으로 설명해주고 있어요. 챗GPT나 구글 어시스턴트 같은 챗봇이 우리 질문에 대해 적절한 답변을 생성할 수 있는 것은 조건부 확률이라는 수학적 개념이 숨어 있어요. 마치 확률을 계산하는 수학자처럼 주어진 상황에서 가장 적절한 다음 단어를 선택하며 문장을 완성해나가는 거예요. 어텐션 메커니즘을 활용해서 단순히 앞의 몇 단어만 보는 게 아니라 전체 대화 내용과 문장 구조를 종합적으로 분석하여 긴 대화도 처리할 수 있고, 대화의 일관성도 유지할 수 있는 거예요. 인공지능이 어떠한 값을 예측하는 것은 미분과 최적화라는 수학적 도구가 사용되는 것이고, 추천 시스템에는 벡터와 확률이라는 수학적 도구들이 작동하고 있네요. 인공지능 모델의 핵심은 현실을 가장 유사하게 나타내는 모델을 찾는 데 있기 때문에, 오차가 가장 작은 모델을 찾는 최적화가 중요하며, 수학적으로 설명하자면, 어떤 함수의 최댓값 또는 최솟값을 구하는 문제로 귀결되네요. 인공신경망은 주어진 데이터에 제시된 입력값과 결괏값 사이에 숨어 있는 규칙이나 결과를 스스로 찾아내도록 개발되었는데, 20년 정도는 상용화하는 데 많은 어려움이 있었다고 해요. 이 문제에 돌파구를 제시한 사람이 제프리 힌턴, <심층 신뢰망을 위한 빠른 학습 알고리즘>이라는 논문을 발표할 때 '인공신경망'이라는 단어가 사람들의 관심을 끌지 못할 것을 우려해 '신경'이라는 단어 대신 '신뢰'라는 용어를 사용했고, 이때부터 인공신경망, 퍼셉트론이라는 말 대신 딥러닝이라는 용어가 사용되기 시작했대요. 2000년대 들어 GPU의 등장으로 RBM의 도움 없이 딥러닝을 구현하는 일이 가능해졌고, 스마트폰의 얼굴인식, 자율주행자의 물체 감지, 수상한 행동을 감지하는 보안 카메라, 주변 환경을 이해하는 로봇까지 발전했네요. 생성형 인공지능에서 정규분포를 쓰는 이유는 복잡한 데이터(이미지, 텍스트)는 수많은 특징의 조합이고, 그 조합을 표현하는 잠재 벡터나 노이즈는 중심극한정리에 따라 정규분포로 나타나기 때문이에요. 억지로 정규분포를 만드는 게 아니라 데이터의 본질적 특성에 맞추다 보면 자연스럽게 정규분포를 따르게 되는 거예요. 즉 반복과 누적이라는 자연의 법칙이 곧 수학의 법칙으로 작동하고 있다는 증거인 거죠. 인공지능의 중심에는 수학이 존재한다는 것, 따라서 수학 없이는 인공지능을 이해할 수 없네요. 수학은 산수를 하려고 배우는 게 아니라 생각하는 법을 배우는 게 목적이며, 수학적 사고력을 키우지 않는 건 미래를 포기하는 것과 같네요. 수학의 쓸모를 명확히 알려주는 책, 더 나아가 수학의 아름다움을 발견하고 싶게 만드는 책이네요.