[서평] AI 버블이 온다

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

- 본 서평은 출판사로부터 책을 제공받아 읽고, 주관적으로 작성한 서평입니다.

AI의 미래에 대해 사회적으로 많은 논의가 수행되고 있다. 책으로 보아도 기술적 관점 뿐만 아니라 사회적, 정치적, 법률적 관점에서 AI와 인류의 공존과 미래를 다루는 책들이 많이 보인다. 이번에 읽은 책은 'AI 버블이 온다'란 책으로, 저자 두 분은 프린스턴대학교의 교수로 데이터 프라이버시와 알고리즘, AI가 사회에 미치는 영향에 대해 깊이 연구해 온 학자들이라고 한다.

책은 '탈 것' 에 대한 비교 사례를 시작으로, AI 또한 이와 유사하며 크게 AI를 미래를 점치는 예측형 AI, 콘텐츠를 만드는 생성형 AI, 유해 정보를 거르는 콘텐츠 조정 AI의 세 가지로 구분지을 수 있다고 규정한다. 이 중 생성형 AI는 실제 유용한 도구이지만 환각 오류를 내포하기에 검증이 가능한 약점을 지닌 도구이며, 채용이나 범죄 예측 등 실생활에서 미래를 예측하려는 예측형 AI는 본질적으로 불가능한 영역이기에 제대로 동작하지 않는 - 이 책에 따르면 Snake Oil 기술 - 이라고 비판한다. 날씨와 달리 인간의 삶에는 고정된 규칙이 없어 데이터만으로는 예측이 불가능하기 때문이다. 콘텐츠 조정 AI 역시 AI가 문맥을 정확히 이해하기는 어렵기에 혐오 발언을 놓치거나 무고한 게시물을 삭제하는 등 결국 완전한 조정은 불가능할 것으로 본다. 이러한 논거를 기반으로, AI가 모든 문제를 해결해 줄 것이라는 환상에서 벗어날 것을 촉구하고, 규제와 인간 중심의 제도적 보완을 통해 무너진 사회 안전망을 다시 세우는 것에서 부터 시작해야 한다고 제언한다.

인상적으로 읽은 부분은 AI 기술이 왜 많은 사람들이 기대하는 것만큼 실제로 이를 받쳐주지 못하는지 설명한 부분이었다. 저자는 2018년 있었던 오드에리크 군데르센과 시그비외른 솅스모의 AI 연구 재현성 조사 결과를 인용하며, 당시 조사 대상으로 선정된 400편의 논문 중 재현성 기준을 모두 충족하는 논문이 단 한 편도 없었음을 지적한다. 즉 논문의 연구 결과 그대로 AI 모델을 구현해도 성능이 그만큼 안 나올수 있다는 이야기다. 비단 논문의 재현성 문제가 AI에 국한된 것은 아니지만, 한정된 환경 혹은 조건하에서만 재현 가능한 AI를 진정한 AI라 부를 수 있을지 고민이 되는 지점이었다.

이와 함께 미국 기반 의료 서비스 회사 '에픽'의 사례를 통해 많은 곳에서 우리가 생각하는 것보다 AI 기술이 과대 광고되고 있을 수 있음을 지적한다. 에픽은 2억 5천만명이 넘는 미국인의 정보와 함께 미국 최대 규모의 건강 기록을 수집 및 보유하고 있는 회사로, 이 방대한 데이터에 기반해 2017년 패혈증을 미리 감지하는 AI 제품을 출시하고 자신들의 정확성과 기술력을 대대적으로 홍보했다. 하지만 상대정확도가 76~83%라고 자랑했던 것과는 달리, 후일 밝혀진 바에 의하면 63% 수준으로 동전뒤집기보다 조금 나은 정도의 정확도를 나타냈을 뿐이라고 한다. IT, 전자제품부터 몇천원짜리 소비재에도 'AI', 'AI 기술 적용'이란 용어가 무분별하게 사용되고 있는 지금을 돌아보게 만든 내용이었다.

저자는 이러한 '기술에 대한 과장'이 막대한 자본이 필요한 인공지능 업계가 그동안 봄과 겨울을 반복해 경험한 결과, 겨울이 오지 않도록 과장하려는 경향이 짙어졌고, 이익만을 중시하는 각 기업들, 벤치마크 기반의 성능 비교 문화, 인공지능이 인간의 모든 영역을 대체 가능하다는 과신과 같은 편향에서 비롯되었다고 비판한다.
전반적으로 AI에 관해 보수적인 관점에서 다루어진 느낌도 있지만, 저자의 비판은 실제 현장에서도 직접적으로, 여러번 반복해 겪은 내용들이었기에 굉장히 설득력 있게 다가왔다. AI의 활용과 미래, 발전 방향 등에 대해 많은 인사이트를 얻을 수 있는 책이다. 강력 추천한다.

#AI버블이온다 #아르빈드나라야난 #사야시카푸르 #강미경 #윌북 #인공지능 #생성형AI #예측형AI #챗GPT #알고리즘편향 #기술비평 #사회문제 #빅테크 #AI윤리 #데이터과학 #기술철학 #미래전망 #연말리뷰