[책끌 서평] 확률로 바라본 수학적 일상

확률로 바라본 수학적 일상 - 확률이 이끈 지성, 과학 그리고 인공지능의 세계
장톈룽 지음, 홍민경 옮김, 김지혜 감수 / 미디어숲 / 2025년 8월

이 포스팅은 미디어숲 출판사로부터 도서를 제공받아 주관적인 관점에서 살펴보고 작성했다.

확률(Probability)은 어떤 사건이 일어날 가능성을 0과 1 사이의 수로 나타낸다. 0은 절대 일어나지 않는 사건, 1은 반드시 일어나는 사건을 의미한다. 예를 들어 균형 잡힌 동전을 던졌을 때 앞면이 나올 확률은 0.5(50%)이며, 이는 무한히 많은 시행에서 앞면의 비율이 절반에 수렴한다는 뜻이다.

확률은 ‘미래를 예언하는 도구’가 아니라 ‘가능성의 크기를 측정하는 언어’다. 불확실한 상황에서 합리적인 결정을 가능하게 하는 지적 도구이기에 우리는 하루에도 여러 번 확률적 사고를 사용하고 있다. 하지만 인공지능(AI)의 시대에 우리는 종종 AI가 모든 해답을 정확히 계산한다고 착각한다.

『확률로 바라본 수학적 일상』의 저자 장톈룽은 “AI는 정답을 아는 존재가 아니라, 그럴듯한 답을 확률적으로 예측하는 존재”라고 말하며 이 믿음을 깨뜨린다.

p.33

비록 '확률'의 정의가 이해하기 어렵지 않고 누구나 사용할 수 있을 것처럼 보인다 해도, 확률 계산의 결과가 우리의 직관을 위배하는 경우가 많다는 사실을 간과해서는 안 된다. 확률론으로도 설명하기 어렵고, 그럴듯해 보이지만 사실과 다른 역설들이 곳곳에 존재하기 때문이다. 그렇다고 직관을 맹신해서도 안 된다.

p.110

확률에 대한 정의와 철학적 견해 차이 때문에 확률 통계 분야의 또 다른 파벌들이 점차 등장하기 시작했고, 그중 하나가 빈도학파와 대척점에 서 있는 베이즈 학파이다. 두 학파 사이의 논쟁은 확률과 통계의 발전 역사를 줄곧 관통하고 있다.

책은 ‘주사위를 던졌을 때 어떤 숫자가 나올까?’라는 단순한 질문에서 출발해, 베르누이 법칙·베이즈 추론·마르코프 체인·정보 엔트로피 등 핵심 개념을 차근차근 풀어낸다. 그리고 이를 알파고, ChatGPT, 추천 알고리즘 등 실제 AI 응용 사례와 연결 지어 설명한다.

‘쥐와 독약 문제’, ‘베이즈 당구대’ 같은 사고 실험은 독자로 하여금 수학 개념을 직관적으로 체험하게 한다. 또한 ‘도박꾼의 파산’처럼 직관과 다른 결과를 보여주는 사례를 통해, 무모한 투자나 베팅이 어떻게 필연적으로 파멸로 이어질 수 있는지 경고한다.

p.175

아인슈타인은 확률 통계의 수학적 개념을 브라운 운동을 연구하는데 적용한 최초의 인물이며, 그는 이 연구를 통해 브라운 운동 속에 숨겨진 심오한 물리적 본질을 탐구하고자 했다. 브라운 운동에 관한 엄격한 수학적 모델을 구축한 사람은 사이버네틱스의 창시자이자 미국 응용 수학자 노버트 위너이다. 그래서 브라운 운동은 수학에서 위너 과정이라고 불린다.

p.256

정보 엔트로피를 사용하여 수학 문제를 푸는 두 개의 사례에서 우리는 늘 '최적의 방법'을 사용하라고 말한다. 최적화된 조작 방법을 사용해야 비로소 정보론에서 예상하는 상한선에 도달할 수 있기 때문이다. 여기서 말하는 최적의 방안은 정보론에서 말하는 '최대 정보 엔트로피'와 관련되어 있다.

이 책은 단순한 수학 교양서가 아니라, 불확실한 시대를 살아가는 법을 알려주는 생존 지침서다. 확률은 ‘모르기 때문에 쓰는 방법’이 아니라, ‘모르기 때문에 더 현명하게 선택하는 방법’임을 깨닫게 한다. 읽고 나면, 확률이 얼마나 실용적이고 매력적인 학문인지 새삼 느낄 수 있을 것이다.

* 출처 : 박기자의 끌리는 이야기, 책끌