『AI 지도책』 AI의 빛과 그림자

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

경제관련 기사를 접하면서 AI단어를 수도 없이 접했다. 나도 모르게 오늘도 AI를 수도 없이 접하고 있으니 앞으로의 시대는 AI를 빼놓고 이야기할 수 없다고 생각한다. 어렴풋이 알고 있는 AI에 대해 제대로 알고 싶어 읽은 책이다. AI가 우리에게 주는 이로움에 대해 기대를 했는데 이 책을 읽으면서 세상에는 이로움의 빛이 있으면 반드시 해로움의 그늘이 있음을 알게 되었다. 모두가 AI로 변할 세상을 생각할 때 저자는 AI로 인해 우리 삶의 터전을 잃게 됨을 적날하게 드러내고 있다. 책의 제목이 AI 지도책인 이유는 AI를 둘러싼 부와 권력을 지도처럼 한 눈에 들여다볼 수 있다는 것이었다. 저자는 지구, 노동, 데이터, 분류, 감정, 국가 그리고 마무리 끝맺음과 덧붙임 우주로 나누어 AI 제국에서 무엇이 진행되는지, 무엇이 결부되어 있는지 파악하게 하고, 미래의 모습이 어떠해야 하는지 설명한다.

1장 지구에서는 컴퓨터에 동력을 공급하는 여러 광물을 채취하면서 탄소발자국을 키우는 탐욕스러운 단면을 보게 되고, 이러한 행위들이 어떻게 지구를 대규모로 변화시키고 있는지 알게 된다. 히토류, 리튬 등을 채취하기 위해 환경의 파괴가 심각하고, 그 일에 앞장서는 것이 정치권임을 알게 된다. 더 이상 채취를 하지 못하게 될 때 그 어느 누구도 책임을 지지 않으며 잊혀지는 고요한 장소가 됨을 알게 되었을 때 삶의 터전으로 살았던 사람들을 생각하게 된다.

2장 노동에서는 인간의 행동을 로봇과 조립라인 기계의 반복적 동작에 맞게 조율하기 위해 오히려 인체를 시공간적으로 통제함을 설명한다. AI기술이 점점 세분화되고 정확해지는 시간 관리 메커니즘의 조건을 필요로 하기에 사람이 AI의 메커니즘에 맞혀지는 사례를 통해 AI의 역할을 다시 생각해보게 된다.

3장 데이터에서는 데이터의 역할을 설명한다. 우리가 생활하는 모든 것이 데이터가 되며, 데이터 집합들은 더는 사람들의 개인 자료가 아니라 개인정보 유출과 감시 자본주의라는 심각한 문제를 야기하며 윤리적·방법론적·인식론적 우려를 낳고 있음을 알게 된다.

4장 분류는 이러한 모든 데이터가 어떻게 쓰이는지 설명한다. 데이터와 데이터를 다루는 기술이 어떻게 위계를 강화하고 불평들을 증폭시키는지 이해된다.

5장 감정에서는 기술 기업들이 감정을 인식 시스템에 적용하고 있으며, 감정 탐지 및 인식 분야는 170억 달러 이상 규모의 시장이 될 수 있다고 한다. 그러나 감정 탐지가 과학적 논란에 휩싸이며 사람들을 오도할 우려가 있음도 이야기한다.

6장 국가에서는 AI 시스템이 국가 권력의 도구로 어떻게 이용되고 있는지 설명한다. 과거와 현재의 인공지능의 기술이 군사적 활용을 넘어 우리 일상생활에 널리 퍼져있으며, 이러한 기술들이 국가의 의도에 들어맞도록 통제하고 있음을 알게 된다.

마지막 권력에서는 AI가 권력 구조의 역할을 어떻게 수행하고 있으며 하부구조, 자본, 노동과 어떻게 결합되는지 설명한다. AI시스템은 자본, 치안, 군사화의 논리에 따라 구축되며, 기존의 권력 불균형을 더욱 확대하고 있음을, 저항할 힘이 가장 약한 사람들에게서 정보와 자원을 더 많이 추출하고 있음을, 그렇기에 우리는 이의를 제기하고 억압을 영구화하는 시스템을 거부해야 함을 설명한다. 우리의 개인정보 보호, 노동권, 기후 정의, 인종 평등에 대한 요구에 귀를 기울여야 함을 강조한다.

이 책을 읽으면서 새로운 기술의 장점을 그대로 받아들이기보다 이면을 들여다보는 노력이 필요하며 모든 권력과 정의의 문제를 연결해야 생각해야 함을 알게 된다. AI가 정치와 경제에 깊이 관여하고 있으며 지구의 환경을 위협하고 있음도 확인하게 된다. 우리가 AI를 인공지능이라고 말하는데 지능이라는 말에 맹목적인 신뢰를 갖고 있는 것은 아닌지 되돌아보게 된다.