AI 지도책

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

이 책의 저자 케이트 크로퍼드는  대학교수이면서 MS 수석 연구원이고, 20년간 AI 관련 일을 해왔습니다. 그녀는 말합니다. AI라는 이름은 기만적이라고.

그녀는 먼저 한때 사람의 말을 알아듣는 말이라는 오해를 받으며 세계적으로 명성을 떨쳤던 '영리한 한스'를 이용하여 우리가 지능에 대해 갖고 있는 '환상'을 지적합니다. 백지 상태의 시스템에서 인간의 지능을 만들어낼 수 있다는 환상. 지능이 사회, 문화, 역사, 정치등과 무관한 자연적이고 독자적인 존재라는 환상. 

이러한 환상이 마음이 컴퓨터와 같고, 컴퓨터가 마음과 같다는 잘못된 믿음을 줍니다. 또한, AI가 물질세계와의 관계가 모조리 단절된 비실체적 지능이라는 편협한 인식을 심어줍니다.

이 책은 인공지능이 '인공'적이지도 않고, '지능'도 아니라고 주장합니다. AI는 자율적이지도 합리적이지도 않으며 대규모 데이터 집합과 방대하고 집약적인 훈련 없이는 아무것도 분간하지 못합니다.

AI는 천연자원, 연료, 인간 노동, 물류, 분류를 통해 만들어집니다. 인공지능은 정치적, 사회적 구조에 전적으로 의존하며, AI를 대규모로 구축할 자본을 필요로 하며, 이러한 이유로 AI는 궁극적으로 기득권에 유리하게 설계됩니다. 이런 의미에서 AI는 권력의 등기부입니다.

저자 케이트에게 AI는 지도책입니다. 지도책은 별개의 조각들을 재편집하고 짜맞추어 세계를 다시 읽을 수 있게 해줍니다. AI에서 지형학적 접근법은 인공지능을 추동하고 지배하는 국가와 기업, 지구에 흉터를 남기는 추출식 채굴, 데이터 대량 수집, 이를 떠받치는 불평등하고 착취적인 노동 관행 등을 설명하는 새로운 관점을 제공합니다. 

이 책의 저자는 질문합니다. AI는 무엇인가? AI가 전파하는 정치는 어떤 형태인가? AI는 누구의 이익에 봉사하는가? AI의 피해는 누가 짊어지는가? AI의 이용은 어디에 국한되어야 하는가?

이 책은 읽기에 불편합니다. 문장은 불친절하고, 어휘는 혼란스럽습니다. 번역도 매끄럽지 못합니다. AI에 대해 잘 모르는 일반인 독자들을 위한 자세하고 친절한 맥락 설명이 부족합니다. 컴퓨터 용어와 일반 영어의 구분도 명확하지 못합니다. 번역은 그 혼란을 더해주는 것 같습니다.

그럼에도 불구하고 저는 이 책을 집중해서 읽어야 한다고 생각합니다. 저자는 자신이 객관적이거나 통달했다고 주장하지 않고, 특정 관점을 취하고 있음을 인정합니다. 그렇지만 그 관점은 매우 의미있고, 설득력 있습니다. 저자의 주장에 동의는 하지 않더라도 최소한 무슨 말을 하는 지는 들어봐야 합니다.

 2016년 이세돌과 바둑을 둔 알파고가 AI의 대유행을 불러왔다면, 2023년의 쳇 gpt는 그 유행에 불을 지르고 있는 것 같습니다. 제가 AI는 잘 모르지만, 과거 컴퓨터 관련 일을 했던 사람으로서, 저는 이 유행이 석연치 않고 불편합니다. 

수 많은 사람들이 AI의 신통력을 찬양하고, AI 개벽을 이야기하고, 심지어는 AI 종말을 말하기도 합니다. 그 사람들이 AI의 내부적인 동작원리에 대해 얼마나 알고 있는지, 얼마나 관심을 갖고 있는지 궁금합니다. AI의 존재 방식에 대해 어떤 생각을 갖고 있는지 궁금합니다.

저에게 그것은 마치 미신처럼 느껴집니다. AI 미신. 구글이니 MS니 하는 거대 기업들의 신전에서 제사 지내는 언론 미디어 무당들. 누군가를 흉내내어 말하고 싶어집니다. "하나의 유령이 세계를 배회하고 있다. 인공지능이라는 유령이." 

이 책은 인공지능을 '추출 산업'으로 규정합니다. 현대 AI 시스템을 창조하려면 지구의 에너지와 광물 자원, 값싼 노동력, 대규모 데이터를 추출해야 합니다.

1장은 현대 컴퓨터에 동력을 공급하는 행위들이 어떻게 지구를 대규모로 변화시키는 지를 살펴봅니다.

2장은 인공지능이 실은 인간 노동에 의해 만들어지고 있음을 보여줍니다.

3장은 AI의 데이터를 이용 관행이 개인정보 유출과 감시 자본주의 외에도 윤리적, 방법론적, 인식론적 우려를 낳고 있음을 알려줍니다.

4장은 AI 시스템의 분류 행위가 어떻게 위계를 강화하고 불평등을 증폭하는지 말해 줍니다.

5장에서는 속속 도입되는 감정 탐지가 많은 과학적 논란에 휩싸여 있으며, 불완전하고 부정확것임을 가르쳐 줍니다. 

6장에서는 AI 시스템이 국가 권력의 도구로 이용되는 방식을 살펴 봅니다.

7장에서는 인공지능이 어떻게 권력 구조의 역할을 하며 하부 구조, 자본, 노동을 결합하는지 평가합니다.