AI 버블이 온다

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

[출판사로부터 도서를 제공받아 작성한 주관적인 리뷰입니다.]

'뱀기름 사건'이 있다. 과거 19~20세기초 미국에서 벌어진 헤프닝이자 과학적 근거 없이 과장된 효능을 내세운 유사과학 및 사기의 대표적 사례로 꼽히는데, 만병통치약으로 불리우던 뱀기름이 실제로는 전혀 효능이 없던 가짜 약이었던 것이다. 이후 유사 제품 유통에 대한 경각심을 불러 일으키기도 했다.

그런데 이러한 뱀 기름이 다시 언급되는 분야가 있다. 놀랍겠지만 챗GPT로 대표되는 생성형AI와 최근에는 피지컬AI까지 최근 모든 이슈 중에서도 탑이슈로 관심을 끌고 있어 4차 산업혁명이라고까지 불리우는 인공지능 분야다. 다소 놀랄만한 비유이고 과연 맞는 것인지 의문이 들기도 하지만 이러한 비유를 통해 문제 제기를 하는 진영에서는 충분히 이유가 될만하다. 마치 챗GPT(요즘은 제미나이가 대세다)가 모든 문제를 해결해 주고 업무 프로세스만 놓고 볼 때 사람이 필요하지 않을 정도로 많은 정보와 업무 스피드를 올려준다고 하지만 정작 이 생성형 AI가 인간에 어떤 이익과 편의를 줬는지 냉정하게 보면 딱히 없다는 것이다.

이러한 현상에서 출발한 책이 <AI 버블이 온다>이다. 이 책은 지난 2000년 전후 닷컴 버블때를 연상시키듯 현재 전세계를 떠들썩하게 만든 인공지능(AI)이 실제로는 거품(버블)이 아닌가 하는 의구심에서 출발하는 책이다. 엄청난 양의 데이터센터가 필수인 인공지능의 영역은 그래서 많은 비용을 수반하지만 실제 수익은 찾아보기 힘들다는 것이다. AI를 대표하는 엔비디아의 주가가 최근 등락을 거듭했던 이유도 여기서 찾아봐야 한다는 것이다.

저자들은 결론적으로 AI는 거품으로 보고 있다. 그래서 AI가 가져오는 마법은 사실이 아니며 통계적 속임수에 불과하다는 것이다. 사뭇 충격적이기까지 하다. 그러면서 ‘뱀 기름’사건과 유사한 사례를 든다. 시카고의 총기 탐지 시스템은 수백억의 도입비용만 날렸을 뿐 범죄 예방효과는 없었으며 패혈증 예측 모델을 선보인 의료기업 에픽도 정확도가 형편없이 낮다고 한다. 아무래도 예측 불가능한 인간의 사회를 예측할 수 있다고 자신한 만용부터 틀렸다는 것이다.

사실이 아닌 내용도 그럴듯하게 만들어내는 이른바 '환각(허위 생성)'의 발생은 생성형 AI의 가장 큰 약점이자 사회적 신뢰를 흔드는 문제이기도 하다. 버블이라는 주장에 대해 동의여부를 떠나 현재 AI가 가진 약점을 명확히 지적한다는 점에서 유용하고 꼭 읽어봐야 할 책이 아닐까 싶다.