AI 버블이 온다

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

*본 포스팅은 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다.

인공지능(Al)에 대한 담론은 오늘날 우리 사회 곳곳에 넘쳐난다. 이번에 읽은 <AI 버블이 온다>에서 아르빈드 나라야난 (Arvind Narayanan)과 사야시카푸르(Sayash Kapoor)가 지적하듯이, AI에 대해 쓰여진 것은 많지만 실제로 '말해진' 것은 얼마나 될까? 숨 가쁜 뉴스 기사들, 제품 출시 행사들, 그리고 그에 대한 격렬한 비판들은 AI 시스템이 실제로 어떻게 작동하는지, 진정한 과학적 진보가 이루어졌는지, 혹은 과대광고가 사라진 후 이러한 시스템들의 실제 활용 모습이 어떠한 지에 대해 거의 말해주지 않는다. 저자는 " 광고된 대로 작동하지 않고 작동할 수도 없는 AI"를 ' Al snake oil 로 정의하며, 특히 예측형 Al(predictive Al) 분야에서 이러한 헛된 약속들이 가장 집중되어 있고 가장 위험하다고 지적한다. AI가 만능이라고 오해를 불식시킬 수 있는 좋은 기회였다.

저자들은 예측 AI에 대해서는 매우 비판적이지만, 생성형 AI에 대해서는 놀랍게도 더 개방적인 태도를 보인다. 저자들은 2022년 11월 ChatGPT의 출시로 세계를 강타한 생성형 AI를 업무와 개인 생활 모두에서" 사용하는 "열정 적인 사용자들이라고 스스로를 묘사하며, 이를 많은 사람들에게 적당하지만 의미있게 유용한" 기술로 간주한다. 물론 저자들은 생성형 AI의 잠재적 및 실제적 해악들을 빠짐없이 나열한다. 허위정보, 딥페이크, 편향된 데이터셋, 프라이버시 침해, 노동 착취, 창작 산업 종사자들의 일자리 위협 등이 그것이다. 그럼에도 불구하고 저자들은 생성형 AI가 지속적인 연구와 투자를 받을 가치가 있다고 본다. 여기서 'snake oi'은 덜 농축되어 있는데, 생성형 AI 제품들이 "유용하지만 과대 평가된" 것이기 때문이다. 저자들은 편향을 완화하고 모델 출력의 사실적 정확성을 높이는 데 있어 정당한 진전이 이루어 지고 있다고 주장한다. 이러한 예측형 AI에 대한 강한 회의론과 생성형 AI에 대한 조심스러운 낙관론은 저자들의 미묘한 입장을 보여준다. 모든 AI를 일괄적으로 거부하거나 수용하는 대신, 그들은 각 기술의 특성과 적용 맥락을 고려한 차별화된 평가를 제시한다. 예측형 AI는 인간의 운명을 결정하려 하지만 근본적으로 실패할 수밖에 없는 반면, 생성형 AI는 인간의 창작과 지식 작업을 보조하는 도구로서 일정한 가치를 지닐 수 있다는 것이다.

저자들이 다루는 세 번째 AI 영역은 소셜 미디어의 콘텐츠 조정(content moderation)이다. 저자들은 콘텐츠 조정의 자동화가 " 두더지 잡기(whack-a-mole)" 같은 성격을 띠는 어리석은 시도라고 주장한다. 더 많은 사용자들이 불가피하게 너무 둔한 알고리즘 도구를 회피하고 이용하는 방법을 배우기 때문이다. 이러한 상황은 소셜 미디어 기업들 내에서 정치, 표현의 자유, 글로벌 시장의 문화적 차이와 연결된 문제들에 대한 더 큰 빈곤을 나타낸다. 이들 기업의 직원들은 콘텐츠 규제를 위한 정교한 원칙을 개발하는 데 있어 훈련받지도, 보상받지도 못한다. 이 경우, AI 도구의 명백한 한계는 그것을 사용하는 기업과 기관들의 한계를 조명한다. 중요한 통찰이다. AI의 실패는 종종 기술 자체의 한계가 아니라, 그것을 배치하는 조직의 가치관, 우선순위, 그리고 역량의 부족을 드러낸다. 소셜 미디어 기업들이 콘텐츠 조정을 자동화하려는 것은 복잡한 사회적, 문화적, 정치적 판단을 기술적 문제로 환원하려는 시도이다. 그러나 저자들이 보여주듯이, 이러한 환 원주의는 필연적으로 실패할 수밖에 없다.

​"기술에 대한 두려움은 자본주의에 대한 두려움이다." 저자들은 노조와 노동자 집단이 직장에서 AI의 미래를 형성하는 데 강력한 역할을 해야 한다고 주장한다. 특히 이러한 기술들이 다양한 종류의 직업과 관련된 업무의 균형을 급격하게 변화시키기 때문이다. 책의 가장 중요한 메시지 중 하나이다. AI 기술 자체는 중립적이지 않지만, 그것이 사회에 미치는 영향은 더욱 그것이 배치되는 경제적, 정치적 맥락에 의해 결정된다. AI가 노동자들의 임금을 낮추고, 고용 안정성을 감소시키며, 일자리를 줄이는 데 사용된다면, 그것이 아무리 생산성을 향상시킨다 하더라도 사회 전체에는 아무 의미가 없다. 역으로, AI가 어떻게든 다양한 조직들이 비용 절감보다 돌봄을 우선시하도록 돕는 데 역할을 한다면, 그것은 변혁적일 뿐만 아니라 기적적일 것이다. 저자들은 생성형 AI가 우리 세계에 유익한 효과를 가질 수 있다고 믿지만, 그것은 오직 제도적, 행정적 권력을 가진 사람들이 무엇보다도 이윤이나 비용 절감을 우선시하는 것을 멈출 때만 가능하다고 본다. AI 도구들은 난제적인 사회 문제들에 대한 빠른 해결책이 아니다. 고장난 제도를 고치고 공정한 노동 관행에 재헌신할 수 있는 것은 오직 사람들뿐이다.

책은 현재의 Al 열풍 속에서 냉철한 비판적 사고의 필요성을 역설한다. AI를 무조건 거부하지도, 맹목적으로 수용하지도 않는다. 대신 그들은 각 AI 기술의 실제 능력과 한계를 정확히 이해하고, 그것이 배치되는 사회적, 경제적 맥락을 면밀히 검토할 것을 요구한다. 특히 예측 AI에 대한 저자들의 비판은 설득력 있다. 인간의 삶과 운명을 통계적 패턴으로 환원하려 는 시도는 근본적으로 결함이 있으며, 특히 그것이 취약 계층을 더욱 취약하게 만드는 데 사용될 때 위험하다. 반면, 생성 형 AI에 대한 저자들의 조심스러운 낙관론은 기술의 잠재력을 인정하면서도 그 한계와 위험을 간과하지 않는 균형 잡힌 시각을 제시한다.

무엇보다 중요한 것은 저자들이 제시하는 근본적인 통찰이다. AI에 대한 우려는 본질적으로 자본주의에 대한 우려이며, 따라서 AI의 미래는 기술적 혁신만이 아니라 사회적, 정치적 선택에 의해 결정될 것이라는 점이다. 노동자들, 영역 전문가들, 그리고 시민들이 Al의 개발과 배치에 대해 발언권을 가져야 하며, 이윤 추구보다는 인간의 복지와 존엄성이 우선시되어야 한다.