디지털 문해력을 키우는 수학적 사고법

AI가 쉬워지는 최소한의 수학 - 인공지능 문해력을 키우는 수학적 사고법의 힘 ㅣ 최소한의 지식 3
이동준 지음 / 지상의책(갈매나무) / 2026년 2월

* 출판사로부터 도서를 제공받았습니다

알고리즘의 블랙박스를 여는 마법의 열쇠 『AI가 쉬워지는 최소한의 수학』. 챗GPT가 시를 쓰고, 인공지능이 자율주행을 하며, 넷플릭스가 내 마음을 읽는 세상. "와, 신기하다!"에서 끝나지 않고 "도대체 저 기계 안에서 무슨 일이 벌어지는 거지?"라며 무대 뒤를 궁금해하는 탐구자라면 이 책을 펼쳐보세요.

학창 시절 "이걸 배워서 어디에 써먹지?"라며 한숨 쉬었던 수학 개념들이 어떻게 인공지능의 신경이자 심장이 되었는지를 드라마틱하게 보여줍니다.

포항공대 수학과와 서울대 수학교육과를 거쳐, 현재는 고등학교에서 수학과 정보를 동시에 가르치는 이동준 저자는 인공지능을 이해하는 가장 강력한 무기로 수학적 사고법을 내세웁니다.

챗GPT는 내 말을 알아듣고 답해주는 걸까? 넷플릭스는 내 취향을 어떻게 알고 추천을 해줄까? 자율주행차가 도로에서 행인을 찾아내는 방법은? 등 인공지능의 작동 원리를 고등학교 수학의 언어로 이해하는 시간입니다.

AI는 사과와 배, 자동차와 버스를 어떻게 구별할까요? 단어를 좌표 공간 위의 점으로 배치하는 방식으로 언어를 해석합니다. 인간에게 단어는 정서와 기억이 결합된 상징이지만, 인공지능에게 단어는 거리와 각도로 구성된 수치적 객체입니다.

인공지능에게 단어는 이름표가 아니라 주소인 셈입니다. 사과와 배는 비슷한 동네에 살고, 자동차는 아주 먼 동네에 사는 겁니다. 인공지능은 단어들이 어디쯤 사는지 좌표를 보고 "아, 이 단어들이 서로 친하구나!"라고 눈치를 채는 거였습니다.

이 과정에서 챗GPT의 대답이 마술이 아니라 계산의 결과임을 체감하게 됩니다. 놀라운 점은 이 복잡한 과정이 고등학교 수학의 벡터 개념으로 설명됩니다.

인공지능이 학습한다는 말은 어떤 의미일까요? 인공지능이 정답에 가까워지기 위해 처절하게 노력하는 과정을 손실함수와 경사하강법으로 설명합니다. 인공지능에게 학습이란, 마치 산 정상에서 안개 낀 골짜기 아래(최솟값)로 가장 가파른 길을 찾아 내려가는 과정과 같습니다.

예측이 틀릴수록, 인공지능은 더 많이 수정합니다. 오답노트를 쓰는 것처럼 인간의 학습 과정과 닮아 있습니다. 이쯤되면 수학이 정해진 답을 내는 기계적인 학문이 아니라, 상황에 맞는 최적의 도구를 선택하는 전략적 사고의 영역임을 깨닫게 됩니다.

유튜브와 넷플릭스가 내가 무엇을 보고 싶어 할지 나보다 더 잘 아는 이유는 무엇일까요? 수많은 사용자와 콘텐츠라는 거대한 데이터 표 안에는 우리가 미처 인지하지 못한 잠재 요인들이 숨어 있습니다.

액션을 좋아하는 사람이 SF도 좋아할 확률을 계산하고, 유사도라는 개념으로 비슷한 취향을 가진 사람들이나 비슷한 특성을 가진 영화들을 찾아냅니다. 행렬 분해로는 겉으로 드러나지 않은 숨은 취향 요소를 발견하고, 군집화로는 비슷한 사용자끼리 자연스럽게 그룹화합니다. 각각의 방법이 서로 다른 관점에서 같은 목표를 향해 나아갑니다.

우리가 취향이라고 부르는 모호한 감각은 알고 보면 거대한 행렬 데이터가 쪼개지고 다시 합쳐지는 과정에서 드러나는 수치적 경향성입니다.

인공지능이 대출 승인을 거절하거나 질병을 진단할 때, 그 판단 근거는 무엇일까요? 데이터를 분류하는 알고리즘인 SVM(서포트 벡터 머신) 등을 다루며 수학이 어떻게 공정한 판단의 기준선을 긋는지 보여줍니다.

딥러닝의 핵심인 인공신경망에 대해서는 활성화함수를 중심으로 설명합니다. 수많은 함수가 서로 연결되어 결과값을 전달하는 과정은 마치 인간의 뇌가 자극을 처리하는 방식과 닮아 있습니다. 저자는 인공신경망의 발전을 단순히 기술적 성취가 아닌, 수학적 난제를 하나씩 극복해온 역전의 드라마로 묘사합니다.

사실 여기에 등장하는 수학 개념에 대한 이해가 턱없이 부족해서 어렵게 느껴지긴 하지만, 인공지능이 해내는 일들이 마법이 아니라 원리가 있다는 것을 실감하게되니 AI를 대하는 태도가 달라집니다. 마법사에게 휘둘리는 관객이 아니라, 마술의 트릭을 어느 정도 짐작하는 스마트한 관찰자가 되는 느낌이랄까요.

자율주행차가 눈앞의 보행자를 인식하는 과정도 흥미진진합니다. 이미지를 숫자로 이루어진 행렬로 변환하고, 그 위를 필터라는 돋보기가 훑고 지나가며 특징을 추출하는 합성곱 연산의 결과물입니다.

우리가 눈으로 보고 뇌로 판단하는 지극히 자연스러운 행위가 인공지능에게는 거대한 수치 연산의 집합체라는 사실에 경외감을 느끼게 됩니다. 수학은 인공지능에게 시각을 부여하는 빛과 같습니다.

마지막으로 생성형 AI를 다룹니다. 아무것도 없는 백지 위에 그림을 그려내고 문장을 창조하는 힘은 어디에서 나올까요? 뜻밖에도 통계였습니다.

인공지능은 히스토그램으로 데이터의 분포를 파악하고, 정규분포로 그 특징을 수학적으로 표현하고, 오토인코더로 핵심 패턴을 압축하고, VAE로 잠재 공간을 정돈하고, 디퓨전 모델로 노이즈에서 선명한 결과를 만들어낸다고 합니다. 각 단계가 모두 데이터 속 패턴을 찾아서 새로운 것을 생성한다는 원리로 연결되어 있습니다.

생성 인공지능은 무작정 새로운 결과를 만들어내는 것이 아니라 통계로 철저하게 설계된 메커니즘을 따릅니다. 창의성조차 수학적 확률과 통계의 영역 안에서 정교하게 설계될 수 있다는 사실은 신선한 충격을 줍니다.

인공지능 발전사는 수학 문제를 해결해온 역사라고 합니다. 『AI가 쉬워지는 최소한의 수학』은 인공지능이라는 거대한 산을 정복하기 위해 챙겨야 할 개념적 장비입니다. 인공지능의 원리를 본질적으로 이해하고 싶은 이들에게 추천합니다.