[리뷰] AI 버블이 온다

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

'우리는 진짜 인공지능을 보고 있는가'라는 부제를 가진 이 책의 원제목은 'AI Snake Oil'이다. 직역하면 뱀기름이다. 의미를 잘 모르겠다면 부제를 보면 된다. AI가 할 수 있는 것과 할 수 없는 것 그리고 그 차이를 구분하는 법이다. 뱀기름은 가짜 만병통치약이다. 제목으로 뱀기름이 쓰였다는 것은 작동하지도 작동할 수도 없는 AI를 말하는 것이다. 처음 이 제목을 봤을 때 도발적이라고 느껴졌다. 요즘 세상이 온통 AI 얘기뿐인데 뱀기름이라니.

저자는 이 책의 목표가 최근 동향을 이렇다 저렇다 논평하는 것이 아니라 진짜 발전과 과장 광고를 구별하는 데 도움이 될 기초 지식을 제시하는 것이라고 했다. 예측형 AI의 매력은 AI가 예측에 능하다는 집단 착각에 기반한다는 말이 충격적이었다. 우리는 AI가 미래를 예측할 수 있다고 믿고 있었다. 생성형 AI는 매우 유능하지만 믿을 수 없다고 한다. 세상 모든 사람들에게 양날의 검을 공짜로 준 셈이라는 표현이 정확하다. 나도 챗GPT를 쓰면서 느낀 점이다. 편리하지만 항상 의심하게 된다.

예측형 AI의 문제는 결정 주체들이 시스템을 자신에게 유리하게 조작하려 든다는 점이다. 이 책은 2장부터 6장까지 예측형 AI와 생성형 AI, 콘텐츠 조정 AI를 차례로 살펴본다. 그러면서 실제로 작동하지 않아 피해를 본 사례들과 AI가 왜 예측에 실패하는지를 보여준다. 읽으면서 우리가 AI를 너무 과신하고 있다는 생각이 들었다. 특히 6장에서 콘텐츠 조정 AI 이야기를 읽을 때 내가 SNS에서 경험한 불합리한 게시물 삭제가 떠올랐다. 원인은 AI가 아니라 플랫폼 정책인데 AI 탓만 하고 있었던 것이다.

7장에서는 기업들의 과대광고와 막대한 부와 권력 이야기가 나온다. 저자가 말하는 산업혁명 비유가 여기서 빛을 발한다. 산업혁명 때 공장과 광산에서 수백만 개의 새로운 일자리가 생겼지만 근무 환경은 끔찍했다. 노동권을 확보하고 임금과 안전을 개선하는 데 몇십 년이 걸렸다. 지금 우리가 맞이한 AI 시대도 똑같다. 기술은 발전했지만 그에 맞는 제도는 전혀 준비되지 않았다. 산업혁명 당시 노동자들이 착취당하며 일하다가 수십 년이 지나서야 노동법이 생긴 것처럼 우리도 지금 그 과도기를 겪고 있는 것이다. 저자는 이 책이 자동화에 맞서 노동권과 인간의 창의성, 존엄성을 확보하려는 하나의 움직임이라고 말한다. 이 부분을 읽으면서 우리가 AI 발전만 외칠 게 아니라 그 속도에 맞춰 제도와 안전망도 함께 만들어야 한다는 생각이 들었다.

현재 사람들의 삶을 둘러싼 중요한 결정이 AI로 이루어지고 있다. 그런데 결함 있는 결정에 이의를 제기할 창구는 거의 없다. 생각해보니 맞는 말이다. AI가 내 대출을 거부하거나 입사 지원을 탈락시켜도 우리는 항의할 곳이 없다. 예측형 AI 기술이 개선되기를 소극적으로 희망하기보다 오늘날 이미 널리 사용되는 뱀기름 AI에 저항하는 것이 중요하다고 저자는 말한다. 기다리지 말고 지금 당장 행동하라는 것이다.

과학 분야에서도 AI는 문제다. 과학에 사용되는 AI가 아직 초기 단계인 데다 작은 실수도 연구 결과에 심각한 영향을 미칠 수 있다. 그런데 이 위기에 대처할 체계적인 해결책이 거의 없다. 예를 들어 AI가 분석한 실험 데이터를 바탕으로 논문을 쓴다고 생각해보자. 그 AI에 오류가 있다면 그 논문을 믿고 따라 한 수많은 연구자들의 시간과 노력이 물거품이 된다. 더 심각한 건 그 연구 결과가 의료나 공학 분야에 적용될 경우다. 사람 목숨이 달린 문제가 될 수도 있다. 그래서 저자는 AI 기반 과학 연구 결과를 받아들일 때 극도로 신중해야 한다고 강조한다. 이 부분을 읽으면서 과학조차 AI를 맹신하면 안 되겠다는 생각이 들었다.

챗GPT가 등장하면서 교육 현장은 혼란에 빠졌다. 교사들은 학생들이 AI로 숙제를 했는지 감지하려고 또 다른 AI 도구를 쓴다. 하지만 작동하지 않는다. 감지 도구를 피하는 방법은 무수히 많고 억울하게 누명을 쓰는 학생만 생긴다. 더 문제는 AI가 재정난에 시달리거나 제대로 작동하지 못하는 기관에서 주로 채택된다는 점이다. 저자는 이런 기관을 고장 난 기관이라고 부른다. 이 표현이 씁쓸했다. 결국 돈과 시스템이 부족한 곳에서 AI로 때우려 한다는 것이다. 근본적인 문제는 해결하지 않고 말이다.

마지막 장에서 저자가 제시하는 변화의 방향이 이 책의 핵심이다. 첫째는 기업에 대한 규제다. AI 제품 제작과 광고를 규제해야 한다. 둘째는 AI를 사회적 문제로 가져와 민주적으로 의견을 모으고 합의를 이끌어 내는 것이다. 셋째는 뱀기름 AI의 공급보다 수요가 문제라는 인식이다. AI 문제를 AI로 해결하려 들면 안 된다. 결국 노동시장과 과학기술 발전에 대한 우려를 해소하려면 기존 안전망을 강화하거나 새로운 안전망을 개발해야 한다. 저자는 AI 발전 자체를 부정하지 않는다. 오히려 AI는 분명 더욱 발전할 것이라고 인정한다. 하지만 그에 맞는 제도를 구축하고 개혁해야 한다는 것이다. 일방적인 발전으로 끝나지 않도록 균형을 유지해야 한다. 기술 발전과 인간의 권리 보호 사이에서 균형을 찾아야 한다는 것이 이 책의 가장 중요한 메시지다.

AI에 대한 무조건적인 찬양이나 막연한 두려움에서 벗어나고 싶은 사람들에게 이 책을 추천한다. 우리는 AI 발전을 인정하는 것부터 시작해야 한다. 하지만 동시에 그 발전이 일부 기업의 이익만을 위한 것이 아니라 사회 전체의 균형 잡힌 발전이 되도록 제도와 안전망을 함께 만들어가야 한다. AI 시대를 살아가는 우리 모두가 읽어야 할 책이다.