AI 지도책

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

《AI 지도책》 는 인공지능의 실체를 지도처럼 한눈에 들여다보는 책이에요.

저자 케이트 크로퍼드는 인공지능의 사회적 의미를 연구하는 선도적인 학자로서 지난 20년간 역사, 정치, 노동, 환경 등 광범위한 맥락에서 대규모 데이터 시스템, 기계학습, 인공지능을 이해하는 데 초점을 맞춰왔다고 하네요. 우리가 알고 있는 인공지능은 빙산의 일각일 뿐, 그 실체를 모르고서 이 세계를 이해할 수는 없어요.

이 책에서는 AI가 '인공'적이지도 않고 '지능'도 아니라고 주장하고 있어요. AI 시스템은 자율적이지도 합리적이지도 않으며 대규모 데이터 집합이나 기존의 규칙 및 보상을 동원한 방대하고 집약적인 훈련 없이는 아무것도 분간하지 못하며, 우리가 아는 형태의 인공지능은 훨씬 폭넓은 정치적, 사회적 구조에 전적으로 의존한다고 해요. AI 를 대규모로 구축할 자본과 AI 를 최적화할 방법이 필요하기 때문에 궁극적으로 기득권에 유리한 형태로 설계된다는 거죠. AI 가 어떻게 해서 기본적으로 정치적인지 이해하려면 신경망과 통계적 패턴 인식을 뛰어넘어 누구를 위한 최적화인지 누구에게 결정권이 있는지를 물어야 해요. 그래야 우리는 그 선택들의 의미를 추적할 수 있어요.

저자는 왜 AI를 지도책으로 보아야 하는지부터 설명하고 있어요. 지도책은 축척, 위도, 경도 같은 과학적 기준을 준수하며, 별개의 조각들을 연결하여 세계를 다시 읽을 수 있게 하는 역할을 해요. 지도학적 접근의 유용성은 물리학자이자 기술 비평가 어설라 프랭클린의 말로 대신할 수 있어요.

"지도에는 목적이 있다. 그것은 여행자를 도와주고 알려진 것과 알려지지 않은 것의 간극을 메우는 데 유용해야만 한다. 지도는 집단적 지식과 통찰의 증거다." (20p) 저자가 지도책 비유를 든 이유는 인공지능 제국을 이해할 새로운 방법이 필요했기 때문이에요. 인공지능 내에서 이루어지는 권력의 지각변동을 설명하기 위해 지형학적 접근법을 제시한 거예요. 인공지능의 온전한 라이프 사이클과 이를 추동하는 권력의 역학 관계를 파악하기 위해 AI 의 지구적 하부 구조를 추출 산업의 관점에서 탐구했고, 그 결과 현재 모습의 AI 를 만드는 체계적 불평등을 관찰했어요. 핵심은 기술, 자본, 권력이 깊숙이 얽혀 있다는 거예요. AI 의 실상을 이해하려면 AI 를 활용하는 권력의 구조를 들여다보아야 해요. 인공지능이 지닌 추출의 정치적 성격을 가장 적나라하게 볼 수 있는 땅속, 희토류 광물, 물, 석탄, 석유 등 하부 구조 연료에서 출발했고, 노동은 또 다른 형태의 추출을 대표하고 있어요. 작업장 AI 이용은 고용주의 손에 더 많은 통제권을 부여함으로써 권력 균형을 왜곡하고, 노동자를 옭아매고 있어요. 이러한 권력의 불균형을 줄이기 위해 AI 를 민주화해야 한다는 주장은 평화를 위해 무기 제조를 민주화해야 한다는 주장과 비슷해요. 저항을 위해서는 AI 가 강화하고 있는 권력 구조에 도전하고 다른 사회의 토대를 쌓아야 해요. 저자는 가치 추출을 넘어선 지속 가능한 집단적 정치는 분명히 존재하므로 우리의 임무는 지도 위에 새로운 길을 그리는 거라고 이야기하네요. 결국 AI 시스템 이면에서 이 사회를 움직이는 건 부와 권력이며, 모든 건 정치의 문제였네요. 책임지지 않는 권력이야말로 가장 끔찍한 비극이라는 것을 결코 잊으면 안 될 것 같아요.