[서평] 기술이 아닌 환상을 샀다?《AI 버블이 온다》AI시대 균형을 위한 2026 필독서!

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

본 포스팅은 출판사로부터 도서를 제공받아 작성하였습니다.

서점가를 뜨겁게 달구고 있는 화제작, 《AI 버블이 온다》를 만났습니다.
이 책의 제목은 닷컴버블을 떠올리게 하지만, 원제는 따로 있습니다.
《AI Snake Oil》 뱀기름입니다.
19세기 미국에서 만병통치약으로 팔리던 뱀기름은 실제 효능이 없는 가짜 약이었습니다.
중국의 뱀기름은 실제로 소염 효과가 있었지만, 그걸 보고 가짜 뱀기름을 만든 미국의 약장수가 문제였죠.
──────────────
AI도 진짜 효능이 있는 뱀기름이 존재합니다. 제미나이, 챗GPT 같은 생성형 AI가 그것이죠.
하지만 가짜 뱀기름 즉, AI 뱀기름이 있어서는 주의가 필요한데요. 바로 인간의 미래를 데이터로 점칠 수 있다고 믿게 만드는 예측형 AI입니다.
이 책은, 검증되지 않은 AI 기술을 과대포장해 팔아치우려는 일부 기업들과, 그 이슈몰이에 편승해 먹고 먹히는 주식 시장의 광기를 경고합니다.
기업과 연구자들이 연구비를 따내기 위해, 언론이 조회수를 위해 어떻게 공포와 환상을 세일즈하는지 적나라하게 보이는 책, 바로 《AI 버블이 온다》입니다.
AI시대, 이제는 현명하게 받아들이고 사용해야 합니다.
선무당이 사람 잡는다는 말처럼 어설프게 아는 것은, 모르는 것보다 위험합니다.
이 책은 AI에 대한 균형을 잡는데 큰 도움이 될 것입니다.
AI에 대한 막연한 환상, 맹목적 믿음, 추종, 의존을 버리고 진짜 기술을 구별하는 눈을 길러보시길 바랍니다.
──────────────
이 책을 덮을 쯤이면, 책의 부제처럼 AI가 할 수 있는 것과 할 수 없는 것, 그리고 그 차이를 구분하는 법을 알게 되실 거라 생각합니다.
여기서부터는 책에서 얻은 생각들과 문장들을 덧붙여보겠습니다.
프롤로그에서 이 책의 핵심을 관통하는 문장을 발견했습니다.
효율성과 다른 가치들 사이의 갈등이 불거질 경우 그 거래를 받아들일지 말지는 인간에게 달렸다.
《AI 버블이 온다》
검증되지 않은 예측형 AI는 미래를 예측한다는 명목하에 현재의 의사결정에 중요한 영향을 미칩니다.
효율과 실용성 때문에 잠재력이라는 가치, 실제 인간이 입는 피해가 무시되기도 합니다.
개개인의 삶의 성과를 예측하기가 얼마나 어려운지 보여주는 증거는 책의 3장에 수두룩합니다.
──────────────
AI 판도 직시하기
MS와 오픈AI 코파일럿
AI 판도에 대한 부분을 읽다가 평소 갖고 있던 코파일럿에 대한 궁금증이 풀렸습니다.
책에서 말하는 진짜 효능이 있는 생성형 AI의 대표적인 증거가 바로 코파일럿입니다.
챗GPT가 대중에게 알려지기도 전에, 프로그래머들은 이미 이 도구로 생산성을 높이고 있었습니다.
윈도우 PC에 딸려있는 코파일럿이 신기했는데, MS가 깃허브를 인수하고 오픈AI의 최대 주주라는 사실을 알게 되니 MS의 옷을 입은 챗GPT가 단번에 납득이 되더군요.
처음 등장했을 때만 해도 챗GPT나 구글의 바드(현 제미나이) 모두 엉뚱한 대답으로 굴욕을 겪기도 했었죠. 하지만 불과 몇 년 만에 이렇게 무서울 정도로 발전했다는 사실이 아직도 믿기지 않습니다.
──────────────
웹디자이너의 시선에서 본 이미지 생성 AI
사람들을 사로잡은 이미지 생성 AI에 대한 예시도 흥미롭습니다.
챗지피티, 제미나이뿐 아니라, 전문 이미지 기술인 미드저니, 파이어플라이에 대한 이야기입니다.
텍스트 한 줄만 입력하면 전문가 수준의 이미지를 뚝딱 만들어내니, 부정할 수 없는 혁신이 맞습니다.
저는 포토샵을 매일 다루는 현직 웹 디자이너입니다.
그래서 이런 변화가 더욱 피부로 와닿습니다.
실제로 최근 회사에서 겪은 일이 떠오릅니다.
업무적으로 포토샵과 미리캔버스(AI 생성 기능)를 혼용해서 쓰고 있는데, 얼마 전 대표님으로부터 "AI 사용을 자제하라"는 공지가 내려왔습니다.
이유는 바로 '왜곡' 때문이었습니다.
제품의 실물을 있는 그대로 보여줘야 하는 상황에서, AI는 학습된 데이터로 이미지를 생성하다 보니 원래 실물을 미묘하게, 혹은 완전히 왜곡해 버리는 문제가 발생합니다.
그런 결과물을 꼭 쓰고 싶다면 결국 포토샵으로 다시 손을 봐야 하니, 일이 줄어드는 게 아니었죠.
"완전히 손보지 않고 그냥 쓸 수 있는 수준이라면 써도 좋다. 하지만 그게 아니라면 아직은 시기상조다."
이게 회사의 입장이었습니다.
게다가 이 도구가 신기하고 재밌다 보니, 더 나은 결과물을 뽑아보겠답시고 디자이너들이 계속 시간을 투자하며 매달리는 모습도 고용주 입장에서는 탐탁지 않았던 것 같습니다.
효율을 위해 도입했는데, 오히려 주객이 전도된 셈이죠.
"정말 그렇게 기술이 발전해서 완벽해진다면, 여러분이 필요 없어질지도 모릅니다."
공지 끝에는 잊지 못할 대못도 함께 박혀 있었습니다.
책에서 말하는 '효율성과 인간의 가치 사이의 갈등'이 먼 미래의 이야기가 아니라, 당장 내 모니터 앞에서 벌어지고 있는 현실임을 깨닫게 하는 순간이었습니다.
"이런 도구들은 매우 유능하지만 한편으로는 믿을 수가 없기 때문이다. 마치 세상 사람 모두에게 날카로운 양날의 검이 공짜로 주어진 셈이다."
《AI 버블이 온다》
이렇게 일부분만을 사용하는 회사도 고민이 깊은데, 거대한 자본이 움직이는 대기업이나 빅테크 기업의 판도는 지금 얼마나 요동치고 있을까요?
──────────────
안면 인식 AI
AI는 이미 우리 삶 깊숙이 녹아있습니다.
자율주행이나 매일 쓰는 맞춤법 검사기만 떠올려봐도 알 수 있죠.
안면인식 AI는 스마트폰 잠금을 해제하거나, 앨범 속 인물을 분류해주기도 하죠.
하지만 이 기술의 양면성과 허점을 알면 깜짝 놀라게 됩니다.
불과 며칠 전 접한 뉴스 기사 내용처럼 말이죠.
"A4 용지로 출력한 얼굴 사진 한 장에 은행 앱이 뚫렸다."
최첨단 보안이라던 안면인식 시스템이, 고작 출력물 한 장에 허무하게 뚫려버린 것입니다.
이런 마당에 "휴대폰 개통 시 안면인식 의무화"라니...
과연 이게 꼭 필요한 건지 의문이 들 수밖에 없습니다.
오히려 해킹범들의 명의 도용에 밥이 되는 건 아닌지, 여간 찜찜한 게 아니네요.
AI가 보는 세상은 우리가 보는 입체적인 세상과 다릅니다.
그저 픽셀의 패턴을 읽을 뿐, 그것이 살아있는 사람인지 종이인지 구별할 직관이 없다는 치명적인 한계를 보여준 사건이죠.
──────────────
AGI(범용 인공지능), 실존적 위험, 공포 마케팅
책의 흐름을 잘 따라가다 보면 마지막 장의 팩트를 이해하는 데 도움이 됩니다.
──────────────
빅테크의 공포 마케팅, 환상 팔이
왜 세상은 이런 불완전한 기술에 열광할까요?
책은 그 이유를 빅테크 기업들의 공포 마케팅과 환상 팔이에서 찾습니다.
샘 올트먼(오픈AI)이나 일론 머스크 같은 빅테크 거물들은 "AI가 너무 똑똑해져서 인류를 멸망시킬 수 있다"고 경고합니다.
양심 고백 같지만, 저자는 이를 고도의 상술이니 조심하라고 알려줍니다.
'우리 기술은 인류를 위협할 만큼 강력하다!'
즉, 공포를 팔아 기술의 위대함을 과대포장하는 것입니다.
그래야 주가가 오르고 투자가 몰리니까요.
언론은 클릭 수를 위해 이 공포를 확대 재생산하고, 주식 시장은 그 환상에 편승해 거품을 키웁니다.
정작 지금 당장 벌어지는 저작권 침해나 차별 같은 진짜 문제는 사소한 일로 치부해 버리면서 말이죠.
클릭 수나 주가에 도움이 되지 않는 정보는, 옳은지 그른지가 중요한 게 아니라 그냥 배제될 뿐이고, 이렇게 생산된 콘텐츠들은 또다시 데이터로 활용되며 편향된 버블만 쌓여갑니다.
오류 범벅이고, 편향된 데이터가 만드는 AI.
이것이 바로 저자가 말하는 AI 버블의 실체입니다.
──────────────
기술을 공유하지 않는 AI, 작동하지 않는 예측형 AI
AI 연구는 모두가 공유하던 공공의 지식에서 이제 영업비밀로 변모했습니다.
이게 왜 문제일까요? 검증이 불가능해졌기 때문입니다.
기업이 안에서 무슨 데이터를 썼는지, 어떤 알고리즘을 굴리는지 꽁꽁 숨기기 때문에, 겉으로만 그럴듯한 가짜 뱀기름을 팔아도 소비자는 확인할 길이 없습니다.
예측형 AI의 문제는 더 심각합니다.
이익추구에만 매달리며 잘못된 결과에 책임은 지지 않습니다.
"많은 예측형 AI 도구가 아예 작동하지 않음에도 '정확성, 공정성, 효율성'을 약속하며 팔린다."
《AI 버블이 온다》
이 문장을 읽자마자, 제가 블로그를 시작하며 알아봤던 블덱스의 허점이 떠올랐습니다.
내 블로그의 지수를 판별해 준다던 그 프로그램 말이죠.
예측형 AI 시장을 전부 알 순 없지만, 블덱스의 사례만 봐도 예측형 AI가 얼마나 오류투성인지 알 수 있습니다. 지수 예측은 수시로 빗나갔고, 기준도 모호했으니까요.
결국 제가 포스팅을 올리고 얼마 지나지 않아, 우연처럼 블덱스는 블로그 지수 영업을 종료했습니다.
작동하지 않는 도구가 효율성을 약속하며 팔리다 사라진 것, 이것이 바로 책에서 경고하는 AI 버블의 현실 아닐까요?
──────────────
마치며
주식 시장은 원래 이슈를 먹고 자라는 버블입니다.
지금은 주식 투자를 쉬고 있지만 지난 경험만으로도 충분히 알 것 같습니다.
주식 시장은 핫한 테마가 뜨면 무엇이든 이용합니다. 장르만 빠르게 바뀔 뿐, 그 본질은 언제나 욕망이 만든 거품과 함께였습니다.
제 식탁 위로 배달된 음식이 사실은 개미들을 꼬드기기 위한 설탕 범벅의 철 지난 메뉴인 줄도 모르고...
조급한 마음에 사고팔았던 지난날들이 스쳐 지나갑니다.
환상을 걷어내고 현실을 직시해야 한다는 당연한 이치도, 이상하게 주식 창 앞에서는 예외가 되곤 하니까요.
이 책은 주식 종목을 추천하는 재테크 책이 아닙니다.
하지만 투자자라면 반드시 읽어야 할 기술 비평서라고 생각합니다.
지금 서점가에서도, 주식시장에서도 가장 뜨거운 감자는 단연 AI니까요.
AI가 내 밥그릇을 위협하는 적이 될지, 아니면 나를 도와줄 강력한 무기가 될지.
그 결과를 결정하는 건 AI가 아니라, 결국 도구를 쥔 제 손에 달려있을 것입니다.
──────────────
AI 버블이 온다 | 아르빈드 나라야난, 사야시 카푸르 | 2025 | 윌북
#AI버블 #AI버블이온다 #AI뱀기름 #인공지능 #AI감별 #리뷰어스클럽 #서평 #AGI #예측형AI #생성형AI #제미나이 #코파일럿