지도는 잘 펼쳤다

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

아쉽다. 논문을 요약해 놓은듯해 읽기가 쉽지 않다. 번역의 문제인지 원래 문체가 그런지 글이 매끄럽지 않다. 대량살상 수학무기와 비교하면 더 그렇다. 그래도 플랫폼 자본주의보다는 나은 것 같고(그 책은 그야말로 논문이기에 얇은 책이건만 아직도 책장이 안 넘어간다).

그보다 아쉬운 점은 이 책이 말하는 AI가 뭔지 잘 그려지지 않는다는 점이다. 2021년에 쓰인 책이라 쳇-GPT 얘기는 당연히 없고, AI에 국한된다고 보기 어려운 문제들, 예를 들면 디지털 인프라의 환경파괴 문제, 고스트워크로 대표되는 노동착취 문제, 알고리즘 편향의 문제, 감시자본주의 문제 등 다양한 문제를 다 섞어버려서 정작 무슨 말이 하고 싶은지 잘 모르겠다.

물론 저자는 "이 책의 목표는 이 복잡한 덩어리를 투명하게 만드는 것이 아니다. 우리는 '내부'를 들여다보려고 애쓰기보다는 다양한 시스템을 '가로질러' 연결함으로써 이것들이 서로 어떻게 연관되어 작동하는지 이해하고자 한다'(63쪽)고 밝히고 있다. 하지만 너무 가로지른게 아닌가 싶은 아쉬움은 있다.

책은 1부에서 AI를 위한 희귀광물 추출, 기술을 위한 채굴과정을 그린다. 이 부분은 "좋아요는 어떻게 지구를 파괴하는가"에서 더 종합적이고 구체적으로 다룬다. 그 책은 "디지털 인프라를 둘러싼 국가, 기업 환경문제 간의 지정학"을 다루는데, 이 책의 1장에 속하는 내용도 AI에 국한되는 문제가 아니라 더 폭넓은 '디지털 인프라'의 문제로 접근하는게 옳겠다. 한마디로 AI는 디지털 인프라의 부분집합이다.

2장에서 노동문제를 다루는데, 이에 대해서도 "고스트워크", "아마존 디스토피아"를 읽어보는 편이 더 종합적이고 구체적인 정보를 확인하면서 자신의 입장을 세우는데 도움이 되겠다. 고스트워크는 2019년에 나온 책이고, 아마존 디스토피아는 2024년에 나온 책이다. 전자는 구글, 후자는 아마존(쿠팡)을 이해하는데 많은 도움이 된다.

이 파트에서 저자는 "인공지능은 인공적이지도 않고 지능도 아니다"(85쪽)라고 주장하는데, 챗-GPT를 경험한 사람들이라면 쉽게 동의하기 어려울 것 같다. 분명 가짜 인공지능(리멤버도 초기엔 수기입력이었다던데…)시대도 있었겠지만 이젠 진짜 인공지능의 시대로 넘어온게 아닐까 싶다.

어쨌든 저자가 강조하는 건 "광산노동자들의 고된 육체노동, 조립 라인의 반복적 공장노동, 외주 프로그래머의 정신적 노동착취공장에서 벌어지는 컴퓨터상의 두뇌 노동, 메커니컬 터크 노동자들의 저임금 외주노동, 일반 이용자의 자질구레한 무급 노동 등에 대해 이야기할 수 있으며 그래야만 한다. 이 장소들에서 보듯 지구적 연산은 추출의 모든 공급사슬에 걸쳐 인간노동의 착취에 의존한다"(85쪽)는 점이다.

3장에서 데이터를 다룬다. "데이터를 그저 발견되기를 기다리는 '천연자원'에 빗대는 은유는 식민주의 열강등이 수백 년간 써먹은 탄탄한 수사적 수법이다. 원시적이고 '정제되지 않은' 출처에서 온 것이라면 추출은 정당화된다. 데이터를 그저 추출되기만 기다리는 석유로 치부한다면 기계학습은 마땅히 필요한 정제 과정으로 간주할 수 있다."(135쪽)는 부분은 인상적이었다. 산업계가 어떤 시각으로 데이터, 개인정보에 대해 접근하는지 잘 요약하고 있다. 갈수록 약화되는 개인정보 자기결정권의 문제는 좀 더 들여다 볼 예정이다. "개인정보보호법"(최경진 외 12인)교과서도 읽는 중...

4장에서 분류, 5장에서 감정을 다루는데 이부분은 "대량살상 수학무기"가 대표작이고 더 잘 읽힌다. 조금 더 오래된 책이기는 하지만 알고리즘의 '블랙박스' 문제를 더 이해하기 쉽게 풀어준다. 6장에서 국가를 다루고 에필로그에서 권력을 다루는데 이 부분은 "감시자본주의"를 참고하면 좋겠다. 팔런티어를 팔런티르로 옮겨서 적응이 필요했다.

지금까지 살펴본 것처럼 이 책은 1권의 책에 많은 내용을 요약하다보니 각 장의 연관성이 잘 눈에 띄지 않는다. 지도를 펼치듯 문제를 펼쳐놓는데는 성공했는데 지도을 해석하는 일, 각 장의 연관성을 종합하느누잉은 독자의 몫으로 남겨진 느낌이랄까.

요컨데 AI에 대해 더 넓은 관점에서 생각해볼꺼리를 던져주는 책은 맞다. 하지만 나는 이 책을 참고하되 각 분야별로 몇권의 책을 각자 정리해보는 게 더 좋은 공부가 될거라 제안하고 싶다.