바야흐로 찬란한 AI의 시대다. AI는 예술을 창조하고, 음악을 작곡하며, 시를 쓴다. 온 세상이 AI가 우리에게 가져다 줄 편리하고 풍요롭고 혁신적이고 창의적인 세상을 노래하고 있다. 그야말로 환희에 빛나는 세상이다.
그러나 빛은 늘 그늘과 함께 한다. '스스로 작동하는 자동화'라는 허구를 지탱하기 위해 그늘 속에서 AI를 만들고, 유지하고, 수리하는 수 많은 사람들이 있다. 그들은 저임금의 단조로운 노동을 반복하고 있다.
오늘날 많은 논평가들이 AI의 미래에 대해 추상적인 논쟁을 벌인다. 그러나 지나치게 미래 지향적인 논의는 AI 산업을 실제로 지탱하고 있는 '현재'를 가린다. 특히 '터미네이터' 같은 극단적 디스토피아를 상상하는 논의들은 AI 산업을 둘러싼 현실적인 권력 관계를 감추고, 그 속에서 착취당하는 노동자들의 존재를 지워버린다
먼 미래를 향한 시선을 현재로 돌리면, AI 시스템이 가진 실제적이고 심각한 문제점들이 선명히 드러난다. AI는 추출 기계다. 인간의 노동력을 추출하고, 개인 정보와 사생활을 추출하고, 편견과 불평등을 추출하고, 지구의 자원을 추출하고, 인간의 지적 자원을 추출한다. 편향성과 차별을 재생산하는 속에서, 여성과 소수자들과 저개발국가 노동자들은 배제된다.
이 책은 AI의 발전에 기여하는 '보이지 않는 노동자'의 이야기를 중심으로 쓰여졌다. 데이터 주석 작업자, 머신러닝 엔지니어, 기술자, 예술가, 물류 노동자, 투자자, 노동 운동가의 일곱 사람을 보여준다. 이들의 이야기를 따라가보자. 그들의 이야기는 쉽고 명확하다.
우간다 굴루의 '애니타'는 AI 훈련 시간의 80 퍼센트를 차지하는 데이터 주석 작업을 한다. 애니타를 비롯한 비정규 노동자들은 강력한 감시 아래에서 극한의 노동 강도를 견디며 데이터에 주석을 붙이고, 시간당 대략 2달러를 번다. 데이터 주석 센터의 노동 관리 방식은 과거 식민지 시대에 확립된 후, 유럽과 미국으로 확산된 경영 기업을 그대로 이어받았다. 공식적인 식민주의는 끝났지만 불평등한 구조는 전혀 달라지지 않았다.
영국 런던의 머신러닝 엔지니어 '리'는 AI 모델의 매개변수를 최적화하는 일을 한다. 리의 팀은 모델의 성능을 개선하는 동시에 안전성과 윤리성을 유지할 보호 장치를 마련하려 애쓰고 있지만, 팀원 누구도 모델이 특정 질문에 잘못된 답을 내놓는 이유를 정확히 알지 못하고, 이를 해결하는 방안도 불분명하다. 리는 회사의 AI 모델이 상당한 편향과 한계가 있다는 점을 알고 있지만, 결국 수익 창출이 AI의 안전성과 윤리적 고려보다 우선시될 것이라는 현실도 잘 알고 있다.
아이슬란드의 기술자 '에이나르'는 데이터 센터의 시설을 관리한다. AI 모델이 동작하기 위해서는 막대한 연산 자원이 필요하다. AI 시스템이 하나의 두뇌라면, 해저 광섬유 케이블은 혈관이다. 이 혈관에 AI의 심장부를 이루는 데이터 센터들이 전 세계적으로 연결되어 있다. AI 개발 생테계는 엄청난 전략과 막대한 물과 희귀 광물들을 소모한다. 앞으로 이 자원들은 공급 부족에 직면할 가능성이 크다.
아일랜드의 배우 '로라'는 어느 날 온라인 아바타에서 자신의 목소리를 듣는다. 로라의 목소리는 로라의 동의없이 추출되어 로봇의 목소리로 쓰이고 있었다. 로라는 자기 목소리의 합성 버전과 일자리 경쟁을 해야 한다는 사실을 깨달았다. AI 혁명이 예술에 가져올 진정한 위험은 인간이 창작한 예술이 사라지는 것이 아니라, 이 기술이 권력자에 의해 남용되어 창작자를 착취하고 기업의 이윤을 극대화하는 수단으로 전락할 지 모른다는 것이다.
영국 코번트리의 '알렉스'는 아마존의 물류 노동자다. 그는 하루 종일 똑같은 자리에 서서, 그 누구와의 대화도 없이, AI 시스템의 지시에 따라 똑같은 작업을 반복하며, 매 순간 감시와 추적, 관리를 당한다. AI 감시 기술은 폭발적으로 확산되었고, 시스템은 감시에서 데이터를 만들어낸다. 그러나 아무리 정교한 경영 기법이라 해도 노동자들이 싸울 수 있는 능력을 완전히 제거하지는 못한다.
미국 실리콘밸리의 '타일러'는 벤처캐피털의 파트너다. 타일러가 수익을 실현하는 방식은 세 가지다. 첫째, 스타트업이 주식시장에 상장하면서 보유 주식을 매각하는 경우. 둘째, 빅테크 기업에 인수되는 경우, 셋째, 다른 투자자에게 지분을 되파는 경우. 투자자들에게 중요한 것은 AI가 현실적으로 얼마나 실용적인 기술인지가 아니다. 중요한 것은 '미래 수익성에 대한 기대'를 정당화할 수 있는 성장과 혁신의 서사를 만드는 것이다.
케냐 나이로비의 '폴'은 메타 외주 업체의 콘텐츠 검수자였다. 근무 환경 개선을 요구했다가 해고된 수백 명의 동료들과 함께 아프리카 최초의 콘텐츠 검수원 노조(ACMU)를 만들었다. 이들은 앞으로 어떻게 나아가야 할지 고민하고 있다. 기업들이 전 지구적 노동시장을 이용해 노동자들을 압박하는 것처럼, 노동자들 또한 국경을 초월한 전략 수립과 행동을 조직화해야 한다. 바로 연대와 연합과 초국적 노동조합이다. 룰론 수많은 난관이 따를 것이다. 하지만 노동자들의 투쟁이 쉬웠던 적은 단 한번도 없다.
책에 등장하는 사람들을 따라다가 보면 우리는 구름 위에 신기루처럼 떠있는 AI가 아니라, 현실의 물리 세계에서 존재하는 AI를 깨닫게 된다. AI 시스템이 어떻게 세계적인 불평등과 권력 불균형을 초래하는 지를 알 수 있다. 주변부에서 자원과 노동력을 추출해 선진국의 중심으로 부를 이동시키는, AI 생산 네트워크에 드리워진 오랜 제국주의적 유산을 만날 수 있다.
또한 AI 시스템의 본성과 구조도 알게 된다. AI 시스템은 우리가 '사유'라고 부를 만한 과정 없이도, 사고와 비슷한 결과를 만들어 낼 수 있다. 오늘날 AI가 일반 지능처럼 보이는 것은 데이터셋의 크기와 연산 능력이 비약적으로 증가했기 때문이다. 챗 GPT같은 LLM은 데이터 기호의 통계적 관계만을 분석할 뿐, 그 기호의 의미에 대한 참조점을 전혀 갖고 있지 않다.
LLM은 종종 명문대를 졸업한 정치 엘리트층과 비슷하다. 겉보기에는 유창하고 그럴듯한 정보를 늘어놓지만, 자세히 들여다보면 부정확한 내용이 많으며, 사회의 편향과 권력 불균형을 그대로 반영한다.
AI 생태계의 노동자들은 로봇처럼 일하면서 정작 기술의 혜택에서는 소외되어 있다. 지금 필요한 것은 기술의 진보 뿐만 아니라 그 기술이 누구를 위한 것인지에 대한 근본적인 질문과 새로운 상상력이다.
저자들은 AI 네트워크 안에서 일하는 노동자들의 경제적 조건을 개선하기 위해 다섯 가지 실전 전략을 제안한다. 이 전략들이 함께 실행된다면, 인간이 AI를 위해 일하는 세상이 아니라, AI가 인간을 위한 도구가 되는 사회를 만들 수 있다. 최소한 저자들은 그렇게 믿는다.
1. 노동조합과 노동자 조직의 힘을 강화한다.
2. 시민사회가 조직적으로 기업을 견제하고 책임을 묻는다.
3. 엄격한 규제를 도입한다.
4. 노동자들이 기업을 직접 소유하거나 경영에 참여할 수 있는 구조를 모색한다.
5. 기업을 넘어서 전체 시스템의 불평등과 부정의에 맞선다.
AI 시스템은 우리의 노동, 아이디어, 예술, 물, 에너지, 데이터, 그리고 필수 광물을 원한다. 이 모든 것은 거대한 AI 추출 기계에 투입되어 생산, 권력, 이윤으로 전환한다. 시스템을 만든 것은 자본주의이며, 자본주의는 경제를 소수가 사적으로 소유하고 통제하는 사회다.
AI 시스템은 자본주의의 본질을 선명하게 드러낸다. 권력을 소수에게 집중시키고, 식민주의의 권력 구조를 새로운 형태로 재구성한다. 노동을 단순화하고 강도를 높여, 노동자들로부터 더 많은 이윤을 추출한다. 가장 저렴한 노동력과 자원을 찾아 생산지를 세계 곳곳으로 끊임없이 이동한다. AI는 글로벌 자본의 도구를 넘어, 이제는 자본주의 체제의 필수적인 일부가 되었다.
그러나 우리는 다른 방향의 기술 활용을 상상할 수 있다. AI가 노동을 자동화하고, 희소한 자원을 효율적으로 배분하며, 과학 연구를 발전시키는 세상 말이다. 그러나 이런 미래는 몇몇의 선의로 만들어지지 않는다. AI 시스템을 가능하게 해온 사회적 관계 자체를 재구성하기 위한, 전 세계적인 연대가 필요하다.
2023년 'AI 지도책'을 읽었다. 내가 읽었던 여러 AI 관련 책 중에서 가장 명쾌하고 인상적인 책이었다. AI에 대해 많은 의문을 품고 있던 나에게 AI 시스템 세계의 속성과 구조와 본질을 보여주는 '지도책'이었고, 나의 2023년 최고의 책이 되었다.
그리고 나는 오늘 'AI는 인간을 먹고 자란다'를 읽었다. 'AI 지도책'에서 만났던 많은 문제의식을 다시 만났다. 이 책은 많은 부분 AI 지도책과 겹치는 문제 의식을 가지고 있다. 그러면서도 두 책은 각자 자신만의 관점을 가지고 있다.
두 책 모두 AI의 속성과 사회적, 정치적 구조를 다루면서도, AI 학자인 '케이트 크로퍼드'가 지은 'AI 지도책'이 AI의 본질에 대해 좀 더 깊고 넓게 다루는 반면에, 'AI는 인간을 먹고 자란다'는 AI의 노동 문제에 초점을 두고 있다. 그러면서 이야기를 쉽고 명확하게 쓰고 있다.
'AI 지도책'은 AI의 본질을 꿰뚫는 심층적인 깊이와 명료함에도 불구하고 사람들에게 강하게 추천을 할 수 없었다. 문장은 불친절하고, 어휘는 매끄럽지 못했다. IT 관련 상식을 어느 정도 갖추지 못한 사람에게는 헷갈리고 혼란스러운 글이 될 수 있다고 생각했기 때문이다.
그에 비해 이 책은 매우 쉽고 명료하다. 노동의 관점에서 AI를 이야기하면서도, AI의 다른 여러 모습들을 설명한다. 그러면서도 일상의 언어를 사용하며 쉽고 간단하게 이야기를 풀어간다. IT 적인 상식과 지식이 부족하더라도 편하게 그 맥락을 이해할 수 있다. 이 책의 커다란 장점이다.
쉽고 편하게 설명하면서도 예리한 통찰력을 놓치지 않고 있다. 때문에 부담 없이 추천한다. 꼭! 읽어 보시라.
