[서평] AI 버블이 온다 : 우리는 진짜 인공지능을 보고 있는가

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

※ 출판사로부터 도서를 제공받아 주관적으로 쓴 후기입니다.

인공지능(AI) 기술이라는 환상에 경각심을 일깨워 준다는 점에서 필요한 시기에 읽어둬야 할 책이 나왔다. 어쩌면 AI 기술이 인간의 고된 노동과 반복 작업으로부터 해방시켜줄 해결책으로 생각했는지도 모른다. 획기적인 신기술이 나올 때마다 AI와 접목하면 빅데이터를 기반으로 농장을 관리하고 위험하거나 건강을 해치는 작업을 하지 않아도 식으로 좋은 면으로만 바라봤다. 이미 AI 기술은 우리 삶과 산업 곳곳에서 큰 영향력을 발휘하고 있다. 우리는 플랫폼 기반 알고리즘의 노예가 된 지 오래되었고 방송가에선 몇 년 전부터 AI 영상을 보여주기 시작했다. 

AI의 발전 속도에 따라 앞으로 어느 수준까지 발전하게 될지 예측하기 어렵다. 워낙 빠르게 버전업되면서 기존의 단점이나 불명확한 점들을 보완하고 있기 때문이다. AI에는 머신러닝(ML), 딥러닝, LLM(거대 언어 모델), 프롬프트 엔지니어링, 할루시네이션, 컴퓨터 비전, 자연어 처리(NLP) 등 방대한 영역을 포괄하고 있다. AI를 예측형 AI와 생성형 AI로 나뉘는데 뱀기름과 과장 광고에 따라 유해한 분야를 보니 채용 영상 분석, 부정행위 탐지, 범죄 위험 예측처럼 예측형 AI에서 오류가 발생하거나 데이터 취합 과정에서 편파적인 분석에 따른 잘못된 결과를 내놓을 위험성이 다분하다는 것이다.

분명 AI 기술은 우리의 삶이나 산업 분야에서 적재적소에 잘 활용한다면 사고 위험률을 줄이고 유해한 환경에서 일하지 않도록 하게 할 것이다. 하지만 저자가 경고하는 건 지나치게 AI 의존도를 높이게 될 경우 AI가 야기하는 피해(제대로 작동하지 않을 경우)와 정확도의 과장, 예측 불가능성 등 과대하게 부풀렸을 때에 발생할 수 있는 모든 문제와 피해는 고스란히 당사자에게 돌아간다는 점이다. AI에게 모든 걸 맡기면 완벽하고 빠르게 처리할 수 있을 뿐만 아니라 그 결과에 대해서도 신뢰할 수 있다는 맹신과 착각에서 벗어나야 한다. 어느 분야든 인간 만이 할 수 있는 분야가 있기 마련이다.

이미 AI 기술이 지배해버린 세계다. 어느 곳에서나 AI 기술을 활용하지 않은 분야가 없다. 현재 개발 중인 기술도 미래엔 곧 상용화가 될 것이고 산업 현장의 모습도 많이 바뀌게 될 것이다. 이 책에서 여러 차례 문제점을 지적한 대로 AI로 인한 피해나 문제가 생겨날지도 모르겠다. 우리가 경계해야 하는 건 AI 기술 자체가 아니라 AI 과대광고로 위험해질 악영향이다. 도덕·윤리적인 문제와 위험성에 대해 개발자부터 자각하고 AI가 오류 없이 완벽할 것이라는 사실을 경계해야 한다. 최근 AI 기술 커닝이 한 대학교에서 문제가 된 것처럼 AI 기술 또한 인간이 어떻게 활용하느냐에 따라 달려있는 것 같다.