수학은 알고 있다

수학은 알고 있다 - 99퍼센트의 예측을 만드는 한 줄의 방정식
김종성.이택호 지음 / 더퀘스트 / 2024년 8월

생성형 인공지능 AI의 기본이 되는 수학적 모델과 이 모델의 수학적 증명, 향후 응용 방향에 대해서 수학적 접근 방법을 상세하게 이야기 해 주는 책을 읽을 기회를 가졌다. 인공지능의 기본 원리에 대해 수학적 기법으로 접근하기 떄문에 조금은 어렵지만, 향후 인공지능 어플리케이션의 주요 적용 분야가 될, 인공지능의 자연어 처리 및 생성형 알고리즘을 이용한 이미지 및 영상 처리 등에 대해 이해 및 응용을 위해서는 수학적 원리를 이해하는 것이 필수적일 것이다. 저자는 수학적 원리를 수학적 기법 뿐만 아니라 그림과 도식을 보조적으로 사용하여 설명하여 독자들이 보다 쉽게 이해할 수 있도록 접근하고 있다. 김종성의 <수학은 알고있다>였다.

인공 지능의 역사를 보면 그 부침이 많고 그 활용 측면에서도 활용도가 높은 분야가 있는 반면 아직까지는 그 이론 및 정확도 측면에서 개선의 여지가 많은 분야도 있다. 2차 세계대전이 한창일때, 영국의 천재 수학자인 튜링에 의해서 제시된 인공지능 기계의 탄생, 튜링테스트 제시(기계가 인간과 구별할 수 없는 지능적인 행동을 보일 수 있는지를 결정하는 기준), 전문가 시스템의 개발, 패턴인식 알고리즘 개발 등이 초기 인공지능의 역사이다. 인공지능은 머신러닝(Machine Learning)으로 발전하고 신경망 알고리즘의 개발로 또 한번의 도약을 한다. 이후 머신러인의 한계(XOR 논리 오류..등등)로 침체기를 격고 이후에 인공지능의 아버지라 이야기되기도 하는 제프리 힌튼 등에 의한 역전파 알고리즘(Back-propagation Algorithm)의 개발은 인공지능의 신경망 개발에 혁기적인 도약이 이루어 진다. 여기에 환경의 학습을 적용한 강화학습이론(Reinforcement Learning)은 인공지능 분야의 영역을 확대하였다.

​

인공지능의 발전이 이렇게 빨리 가능했던 이유 중 또하나는 데이터의 엄청난 증가(아이폰 등 핸드폰에 카메라 기능이 들어감에 따른 사진 이미지 데이터의 량의 급격한 증가는 인공지능의 입력 데이터를 충분하게 제공하여 인공지능의 학습량을 늘리는 계기가 되었다). 이 데이터들을 이용한 인공지능의 최고 알고리즘인 딥러닝(Deep Learning)이 개발되고, 여기서 Transformer 알고리즘이 개발되어 자연어 처리 및 생성형 인공지능이라는 영역을 창시하게 된다. 이러한 인공 지능의 역사를 알아야만 인공지능의 한계와 발전 방향에 대한 올바른 판단을 할 수 있을 것이다. 저자는 심플한 예를 이용하여 현재의 생성형 인공지능 AI의 원리가 되는 수학적 설명을 중학 수학 수준의 수학을 이용하여 쉽게 설명하고 있다. 우리는 인공지능의 수학적 배경에는 확률이론이 있다는 것을 명심해야 한다. 수학 이론 중 가장 최근의 이론인 확률이론이 인공지능의 수학적 배경인 만큼, 아직까지 인공지능의 미지의 영역이 많다는 것을 명심해야 할 것이다.

저자는 확률에서 유명한 몬티홀 딜레마를 제미있는 도식으로 쉽게 설명을 하고 있다. 몬티 홀 딜레마는 세 개의 문 중 하나에 자동차가 있고, 나머지 두 개의 문 뒤에는 염소가 있는 상황에서, 참가자가 문 하나를 선택한 후, 사회자가 염소가 있는 문 하나를 열어주고, 참가자에게 선택을 바꿀 수 있는 기회를 준다는 확률 문제이다. 이때, 선택을 바꾸는 것이 유리하다는 것이 정답인데, 많은 사람들이 이해하기 어려워하고, 반박하거나 의심하는 경우가 많다. 저자는 이 문제의 해법을 시각적으로 쉽게 설명해 준다. 몬티 홀 딜레마에서는 선택을 바꾸는 것이 유리하다는 것이 수학적으로 증명되었다. 왜냐하면, 처음에 우리가 자동차를 고를 확률은 1/3이고, 염소를 고를 확률은 2/3이기 때문입니다. 그런데, 사회자가 염소가 있는 문 하나를 열어주면, 남은 두 개의 문 중에서 자동차가 있는 문은 확정되고, 염소가 있는 문은 제외되기 때문이다. 따라서, 우리가 선택을 바꾸면, 자동차를 고를 확률은 2/3로 증가하고, 염소를 고를 확률은 1/3으로 감소한다. 즉, 선택을 바꾸면, 우리가 원하는 결과를 얻을 확률이 두 배가 되는 것이다. 저자는 이 몬티 홀 딜레마라는 유명한 확률 문제를 통해 자신의 선택을 과하게 의심하지 않는 것이 좋다고 조언한다. 상대방의 입장에서 이해하기를 더욱 힘써야 하는 것이다..

우리는 불확실성의 개념과 확률적 사고의 중요성을 인지하여야 할 것이다. 모든 일에는 불확실성이 존재하며, 이를 극복하기 위해서는 확률적 사고가 필요하다. 저자는 몬티홀 문제와 같은 일상적인 예제를 통해 확률적 사고의 필요성을 설명하고, 이를 통해 복잡한 문제를 해결하는 방법을 제시한다. 우리는 주로 선형적 패턴에 익숙하지만, 현실 세계는 지수적 패턴으로 이루어져 있는 경우가 많다. 저자는 지수적 패턴을 이해하고 이를 통해 미래를 예측하는 방법을 설명하며, 이러한 패턴을 이용해 성공한 사례들을 소개한다. 복잡한 현상을 이해하기 위해서는 수학적 모델이 중요할 것이다. 현실을 잘 반영한 모델은 불확실한 미래에서 살아남는 데 필수적인 도구이다. 저자는 전염병 예측 모델인 SIR 모델을 예로 들어, 좋은 수학 모델이 어떻게 다양한 분야에 활용될 수 있는지 설명해 준다. 마지막으로 수학적 모델의 범용성을 고민해 본다. 팬데믹 예측 모델로 유명한 SIR 모델이 '소문이 마케팅 효과를 만들어내는 과정'이나 '정보가 주가에 미치는 영향'을 예측하는 데 어떻게 사용될 수 있는지를 설명해 준다. 저자는 수학적 질서를 이해하는 것이 자연과 세상을 이해하는 첫 걸음임을 강조한다. 생성형 인공지능 AI와 로봇으로 대변되는 4차 산업혁명의 시대이다. 이 불확실성의 시대에 수확은 그 나름의 이론적 베이스와 수학적 모델을 통해 우리의 미래의 청사진을 명확하게 보여 줄 것이다.

*본 포스팅은 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다