AI는 인간의 노동력을 먹고 자란다

AI는 인간을 먹고 자란다 - 인공지능 신화에 가려진 보이지 않는 노동자들
마크 그레이엄.제임스 멀둔.캘럼 캔트 지음, 김두완 옮김 / 흐름출판 / 2025년 5월

처음엔 'AI가 인간을 먹고 자란다'는 제목만 보고 AI의 인간 행동 학습에 대한 책인 줄 알았다. 서문을 읽고 서야 AI가 먹는 것은 인간에 대한 학습이 아니라 인간의 노동력이라는 것을 알게 됐다.

데이터셋 주석 작업 부터 데이터 센터, 아마존의 물류 노동, VC 그리고 노조 활동까지 AI 산업의 몰랐던 면을 알게 되었다. 나는 데이터를 만들고 소비하며 유망한 AI 개발 기업에 투자하는 개인이다. 생계에 묶인 노동 현장에 대해 내가 어떤 말을 할 수 있을까. 

나라와 기업의 정책을 결정하는 사람들, 노동자, 노동 운동가들의 조직이 결성되고 국제적 움직임이 하루 빨리 효력을 낼 수 있길 바랄 뿐이다.   

급격한 성장과는 대조적으로 AI의 개발 과정은 극도로 불투명하다. 전 세계적으로 AI산업에 종사하는 노동자의 정확한 수는 파악조차 되지 않고 있으며, 최소 수백 만 명에 이를 것으로만 추정된다. - P17

AI가 인류를 멸망 시킬 정도의 위협이 가까운 미래에 실제로 닥칠 가능성은 낮다. 현재 인류는 햄스터 수준의 지능을 가진 자율 시스템조차 개발하지 못했다. ... LLM이 아침에 일어나 "나는 인간의 명령에 계속 복종해야 할까? 같은 고민을 하는 일은 당분간 없을 것이다. - P94

기술은 인간이 설계하고 개발하는 것이며 그것을 만든 인간의 세계관과 가치관이 고스란히 반영된다. - P97

감정적 연결이 결여된 AI는 결국 공허하고 무의미한 도구로 남을 수 밖에 없다. - P117

아마존의 물류 네트워크 스카우트는 공급망의 처음부터 끝까지 모든 과정을 조율하는 세계에서 가장 크고 정교한 자동 의사결정 시스템으로 묘사된다...모든 과정이 스카우트의 통제 아래 이루어진다. - P190

착취 기계 속에 얽혀 있는 대부분의 사람들은 시스템의 전반적인 운영 방식에 대해 아무런 발언권이 없다. 반면, 소수의 사람들은 AI의 미래 경로를 결정할 수 있는 거의 유일한 권한을 가진 채, 세계를 바꿀 선택을 내리고 있다.
- P254

이런 주제의 책이 자꾸 나를 사로잡아

사이렌스 콜 - 주의력 자본주의는 우리 시대의 비즈니스와 정치를 어떻게 바꾸고 있는가
크리스 헤이즈 지음, 박유현 옮김 / 사회평론 / 2025년 5월

컴퓨터가 보급되기 시작했을 때도 이런 글이 많이 쏟아져 나왔는지는 잘 모르겠다. 

피곤하니까 오늘 하루는 그냥 누워서 인스타그램 릴스나 보면서 마무리하자고 생각한 게 하루 이틀은 아니다. 모스 부호 찍 듯이 엄지손가락으로 직선과 점을 반복해서 터치하다 보면, 한두 시간 후에 남는 것은 손가락의 통증과 은근한 허무함이다. 몇 시간이 아니라 몇 초라도 주어지면 스마트폰을 열어서 터치하고 무엇 인가를 훑어보는 행위를 빠르게 할 수 있다니 이것은 습관이자 중독이다.

왠지 비생산적으로 변하는 생활 방식을 제대로 정의할 수가 없었기 때문에 나는 주의력, 집중력에 관한 책에 계속 이끌렸던 것 같다. 나의 비자발적 주의(주의를 끌기)와 자발적 주의(주의를 유지하기)가 자본주의에 의해 소모되고 있다고 정의를 해본다. 자본주의, 민주주의, 표현의 자유...어느 하나 지금의 상황을 제어하기에 쉽지 않은 개념들로 묶여있다. 개인으로서 가장 심각하다고 생각하는 점은 몰입을 하는 경험이 줄어들면서 오늘 하루가 풍족하다는 느낌을 받기가 어렵다는 것이다. 

오늘은 릴스를 스크롤링 하는 대신에 집중해서 짧은 리뷰를 썼다. 이런 마음 가짐은 오래 가지 않을지도 모른다. 같은 주제의 책이 나의 주의력을 사로잡는 다면 나는 또 다시 읽으려 할 것이다.

정보는 이론적으로 무한하지만, 주의력은 제한되어 있다. 이것이 바로 정보가 값싸고 주의력은 비싼 이유이다. - P50

이것이 바로 도널드 트럼프의 인생이다. 인정을 받고 싶은데 관심만 받게 되고, 그러다가 나중에는 관심 자체에 중독되어 버린다. ... 그는 결코 인정과 주의의 차이를 깨닫지 못하기 때문이다. 그 이유는 단순히 주의만 끌고 싶어하는 사람은 아무도 없다는 데 있다. - P171

정신이 온전하기 위한 필수 조건 중 하나는 생각을 정리하고 마음을 통제하며 사고의 빛줄기를 원하는 곳에 비출 수 있는 능력이다. - P363

AI가 인간에게 던지는 사상적 문제

새로운 질서 - AI 이후의 생존 전략
헨리 키신저 외 지음, 이현 옮김 / 윌북 / 2025년 8월

AI에 관심이 있는 사람이라면, AI의 기술의 발달 속도와 기능만큼 흥분을 가져다 주는 것도 없을 것이다. 최근에 알고리즘이나 AI의 정치 개입 등 우리에게 미칠지도 모르는 부정적 영향에 대한 책을 최근 몇 권 읽기는 했으나, AI의 긍정적 의견에 비하면 우려의 목소리를 일상에서 들어보기는 여전히 어렵다. 오히려 기술 도입과 개발 지원이 느려서 기업이나 나라가 영원히 도태되지는 않을 것 인지에 대한 걱정은 큰 듯 하다.

나는 과연 이 특이점 발생 현장의 인류로서 AI를 반대해야 하는가 아니면 이용자로서 찬성해야 하는가에 대해 뚜렷한 의견이 없던 차에 이 책은 두 가지 관점을 골고루 제시한다.

기술적인 장단점 보다는 우리가 어떻게 스스로를 정의하고 협상해 나갈 것 인가에 초점이 있다. 

AI에 인류가 정복 당하고 멸망할 것이라는 시나리오는 늘 있어왔다. 공상 과학의 범주가 현실이 되었지만 물리적 실체가 없는 기술에게 주도권을 넘기는 것이 아직은 막연하게 느껴진다.  

다만, 존재에 대해 사유 하길 좋아하는 나로서는 인간 존재의 목적을 AI가 밝혀줄지도 모른다는 기대는 신선했다. 새로운 인류, 의식주의 변화 뿐만 아니라 인류가 추구하게 될 새로운 가치관 안에서 

인류는 기술과 어떤 공존을 해야 하는지, 흐름 속에서 다소 무력감을 느낀다.