기계는 할 수 없는 수학적 사고

수학 지능 - 인공지능은 할 수 없는 인간의 일곱 가지 수학 지능
주나이드 무빈 지음, 박선진 옮김 / 까치 / 2023년 10월

수학이라니, 듣기만 해도 뒷걸음질 치고 싶은 이 단어와 ‘지능’이 결합하면, 지금 사회를 밀고 나가는 동력인 ‘인공지능’이 나온다. 하지만 ‘수학지능’이라는 제목을 단 이 책은 수학적 메커니즘에 기반한 인공지능의 원리나 인공지능의 기반이 되는 수학적 알고리즘을 설명하지 않고, 오히려 수학을 바탕으로 인공지능이 ‘할 수 없는 것’을 논한다. 수학은 곧 인공지능의 발판이라 여겼던 평범한 내게 정반대의 주장을 내놓는 이 책은 그래서 읽어 나갈수록 눈이 번쩍 띈다.

추정, 표상, 추론, 상상, 질문, 조율, 협동 등 일곱 가지 수학적 사고와 작동 방식을 예로 들어 인공지능이 할 수 없는 것을 조목조목 밝힌다. 이런 인지적 작동 방식은 재미있게도 인간의 인지가 오류를 일으키는 영역이기도 하다. 우리는 위와 같은 일곱 가지 영역에서 자주 혼동하고 오해하고 실수를 저지른다. 그렇게 복잡하고 순서와 원리 원칙에 따르지 않고 자주 빗나가는 유연한 상황에 대처하기 위해 필요한 것은 바로 이런 수학적 사고다. 엄격한 알고리즘과 경험에 근거한 인공지능이 대처할 수 없는, 인간처럼 오류를 저지르며 해결해 나갈 수도 없는 영역이기도 하다.

어딘가에서 인공지능이 이렇게 급속도로 발전하는데도 아직 고객센터 챗봇이 답답한 이유를 이렇게 설명하기도 한다. A를 질문했을 때 B를 대답해야 한다는 건 알지만, 인간은 A만 질문하지 않고, A를 질문하는 속마음이 다양하기도 하며, 그 질문에 연관된 배경에서 수많은 가지가 뻗어나갈 수 있다. 추정하고 추론하고 상상하고 스스로 질문하지 못하는 (아직은) 인공지능이 그렇게 단순해 보였던 비서 업무나 고객센터 업무를 완전히 대체하지 못하는 건, 우리가 인지하든 그렇지 않든 우리의 수학적 사고 때문이라는 것이다.

저자는 ‘인공지능이 수학 지능을 갖추지 못한다’라고 단언하지는 않는다. 언젠가는 수학자가 ‘마지막 과제’를 해결하고 인공지능에게 자리를 넘겨야 할 때가 올지도 모른다는 여지를 남긴다. 하지만 기계지능을 활용하고 기계만의 강점을 적극적으로 받아들이되, 판단의 권한과 주체성을 넘기지 않으면 된다는 희망을 준다. 인공지능이 점점 위협적으로 다가오고, 인간을 잠식하는 미래밖에 보이지 않아 암담하고 무력해질 때, 이 책은 그렇지 않다고, 그러기엔 아직 이르다고 말한다.