수학의 쓸모

수학의 쓸모 - 불확실한 미래에서 보통 사람들도 답을 얻는 방법 ㅣ 쓸모 시리즈 1
닉 폴슨.제임스 스콧 지음, 노태복 옮김 / 더퀘스트 / 2020년 4월

이 책은 기존의 다른 수학 교양 도서에 비해 확실히 신선하다. 일단, 미국 시카고대 통계학 교수가 저자이기 때문에 다른 수학의 분야보다 확률과 통계에 초점을 많이 두고 있다.

​

미래의 핵심 알고리즘은 검색이 아니라 추천이다. 이를 가능케하는 것이 조건부 확률이다. 사람들은 의외로 P(A|B)와 P(B|A)를 혼동하기 쉽고 전자를 알면 후자를 알 수 있다고 생각하기 쉽지만 그렇게 단정할 수 없음을 쉽게 예를 들어 설명하고 있다. 어쨌든 이 조건부확률과 데이터 통계를 이용해 헝가리 수학자 왈드는 항공기 기종별로 생존 가능성을 제안할 수 있는 추천 시스템을 만들어 2차대전에서 연합군 폭격기 조종사가 목숨을 건질 수 있었다. 넷플릭스가 콘텐츠 제국이 될 수 있었던 것도 조건부확률을 이용한 방대한 데이터와 모형화를 통한 것이었다. 추천 알고리즘이 반드시 장밋빛 미래를 약속한다는 보장은 못하지만 이를 적절히 이용해 암연구(맞춤형 요법)나 신경과학 등에 쓰인다면 수학이 이보다 어떻게 더 실용적일 수 있을까.

패턴 예측을 수학적으로 멋드러지게 표현한 르장드르의 최소제곱법은 헨리에타 레빗이란 과학자가 맥동 주기와 밝기의 관계를 나타내는 직선을 알아내는데 쓰이기도 했고 정교한 AI 시스템을 구축하는데도 쓰인다. 구글번역도 결국 예측 규칙이다. 방대한 문장 데이터베이스에 걸쳐서 어떤 영어문장이 어떤 언어의 문장과 일치하는지에 대한 패턴을 기술하는 복잡한 방정식이 구글 번역이다.

자율주행차에 대한 해답은 베이즈 정리에 있다. 이것은 새로운 정보가 입수됐을 때 기존 믿음을 어떻게 바꿔야할지 알려준다. 자동차는 데이터를 받을 때마다 베이즈규칙을 이용해 위치에 관한 자신의 믿음을 갱신하는 베이지언 업데이트 과정을 거친다. 투자법에도 쓰이고 분실된 잠수함을 찾는데도, 로봇팔을 움직이고 스팸 메일을 걸러내는 데도 쓰인다. 실제로 고3 아이들이 확통에서 많이 접해본 문제 중에 어떤 질병에 대한 검사 결과가 양성일 때, 실제로 그 병에 걸렸을 확률 구하기가 바로 베이즈규칙이다.

우리가 '기하와 벡터'로 치를 떤 나머지 수능에서도 저 멀리 역사로 사라진 벡터는 단어 벡터로 새로 태어난다. 여기서 벡터는 숫자(수치)를 의미하는 것으로 스칼라의 반대의미로 쓰이는 것은 아니지만, 구글 보이스같은 음성 인식 소프트웨어가 다룰 수 있는 수학적 언어로 한 문장의 문맥을 부호화하는 것은 모두 단어 벡터가 있어서 가능한 일이다.

드무아브르라는 수학자는 예전 6차교육과정 시기에는 복소수와 삼각함수를 이어주는 기본 정리로 유명하지만 제곱근 규칙, 일명 드무아브르 방정식은 통계학에서 중요하다고 한다. 표본 평균의 변동성과 표본 크기의 제곱근 사이에 반비례 관계가 있다는 것으로 대량의 데이터 집합으로부터 알고리즘을 통해 이상을 찾는 역할을 하는데 예를 들어 가스 누출 탐지나 부정거래 적발 등에 쓰인다.

나이팅게일은 사실 수학하는 사람들에겐 통계로 더 알려져 있다. 나이팅게일의 '데이터의 시각화'와 새로운 통게 처리 방법으로 인해 세상은 좀 더 나아졌고 의료 데이터 수집과 분석에서 전문성의 새로유 표준이 세워졌다.

이 모든 것은 수학적 사고의 바탕 아래 가능한 것이다. 수학은 생명을 살리기도 하고 세상을 좀 더 편하게 만들기도 하며 발전시키기도 한다. 확률과 통계에만 한정지어서 보기만 해도 그렇다. 그럼에도 수학이 어디에 쓸모가 있냐고 물어보는 아이들은 아마 자신이 배운 지식이 활용되는 경험을 직접적으로 갖지 못했기 때문일 것이다. 아직도 동전과 주사위 던지기에 집착한 확률 문제가 아니라, 정형화된 통계 문제가 아니라 아이들이 데이터를 직접 수집하고 분석하고 처리하고 시뮬레이션할 수 있는 폭넓은 경험을 할 수 있는 교육이 필요하다. 시험에 나오지 않아도 즐겁지 않을까, 그런 경험은 ...?

여튼, 나는 이 책을 통해 수학을 배운게 아니라 수학 이외의 부분에 대해 더 많이 알게 되었다. 정확히 말하자면 나는 그동안 수학 내적 세계에만 빠져 있었단 얘기가 되겠다(쉽게 말해 문제풀이에만 빠져있었던 것이다). 그런데 이 책을 통해 수학 바깥 세상에서 수학을 만나게 된 것 같다. 이 책에는 복잡한 수식이 전혀 등장하지 않는다. 수학적 지식이 탄탄하지 않은 독자에게 지식을 강요하는 부분도 없다. 물론 조건부확률이나 베이즈 정리 등이 등장하긴 하지만 살짝 언급하는 정도로 부드럽게 넘어간다. 단지 수학이 이렇게 요모조모로 쓰이고 있는데 그래도 수학이 쓸모가 없다고 생각하는가, 4차 산업혁명 시대에 수학이 이렇게 중요하다고 반문하는 것 같다. 이 책에서 수학의 4대 가치가 모두 들어있는 것 같다. 가장 중심이 되는 실용적 가치와 더불어, 자연스레 정신도야적 가치가 빛을 발하고 데이터가 그래프로 표현되는 과정은 심미적이기까지 하다. 게다가 수학은 이제 하나의 문화이자 혁신가치다. 이 아름다운 학문을 많은 학생들과 사람들이 알아주었으면 좋겠다.