-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월
평점 :
AI는 일단 알겠고, 지도책이라함은 지형을 볼 수 있는 체계를 나타내는 책. 우리말 제목을 원제인
Atlas of AI 를 그대로 번역해서 제목만으로는 내용을 짐작하기 사실 어렵다.
따라서, 저자 케이트 크로퍼드의 서문을 봐야한다. 왜? AI라는 4차 산업혁명의 핵심기술을 논해야 하는가?
AI는 어떻게 개념화되고 구성되어 있을지, 세계를 이해하는 방식에는 어떤 정치가 관여하고 있는지, 여러 가지 사회적 의사 결정 체계와 AI 관련 알고리즘 시스템을 접목하려는 시도들은 어떤 결과를 낳고 있는지를 살펴보고 연구하고 있는 저자는 인공지능은 인공지능은 단순한 기술이 아니라고 말한다. 세계의 부와 권력을 재편하는 수단, 스스로 합리적 이성을 가진 개념이 아니라는 것을 증명하고자 한다.
네바다의 리튬 광산에서 채굴되는 희토류, 석유, 석탄이 AI업계의 주요 먹잇감이고 어마어마하게 필요한 에너지를 흡수함으로서 AI의 탄소발자국을 만들어내는 세력들이 존재한다. 1장 지구 편에서, 산업혁명 이후 주범으로 지목된 천연자원 뿐아니라 21세기에도 여전히 광산에 의존하는 인류 때문에 지구의 죽음은 재촉되고 있다는 무서운 사실을 지적하는 것이다.
그리고 2장 노동,3장 데이터로 연결하며, 과거 인간의 노동에 의존하던 산업 구조가 소위 자동화 시스템으로 고용주의 착취가 '규모의 경제'로 합리화 되었는지를 재조명한다.
AI를 흉내 내는 것은 고달픈 일이다
인공지능의 덜 알려진 측면 중의 하나는 AI 시스템 구축하고 유지하고 검증하기 위해 저임금 노동자가 얼마나 많이 필요한가. 공급사슬 업무, 주문형 크라우드(위탁). 전통적 서비스업 등 여러 형태의 착취적 작업들이 이루어지고 이는 ghost work(그림자 노동)이라고 불리며 인간을 연료로 쓰는 자동화의 과정이다. 크라우드 노동자들이 수천 시간 분량의 훈련 데이터에 라벨을 붙이고 미심쩍거나 해로운 컨텐츠를 검토하는등 AI 시스템의 토대가 되는 반복적 디지털 업무를 수행한다고 한다.
나와 같이 아이들을 키우며 전직 IT 직종을 가졌던 지인은 이러한 '디지털 라벨링' 일에 대한 이야기를 해준 적이 있다. AI를 지탱하기 위해, 컴퓨터를 '수많은 데이터로 훈련시키기' 위해 노동 시장에서 하위층에 속하는 사람들에게 주어진 일이 있다는 이야기를 떠올리게 했다.
실리콘 밸리의 스타트업이 지금도 신화로 남아있고 광물과 전기에너지가 '청정 기술'이라는 환상을 만들어냈지만 자연 친화적 녹색 산업과는 너무나 멀다는 사실을 이 책을 통해 알았다. 그리고, 미국드라마나 헐리우드 영화에서 간접적으로 본 인텔리전스 들이 가진 데이터베이스는 심각한 인권 침해라는 문제를 안고 있다는 것. 평범한 이들, 한번도 범죄를 저질러 본적 없는 이들까지 인종 성별 비주류라는 불리한(?)조건을 가졌다는 이유로 동의, 서명된 증서나 윤리 감사 없이 데이터로써 포함되어 미국 육군과 국립과학재단의 지원을 받아 중대한 국가 사업으로 소유되고 관리되고 있다고 한다.
허락이나 동의 없이 추출된 데이터는 거듭거듭 기계학습 연구자들을 위해 업로드되었으며
연구자들은 이 데이터를 자동 이미징 시스템의 인프라로 활용했다.
4장 분류에서 이미지넷이라는 분류 엔진 사례를 들어 더욱 충격적이고 권력의 편향적 시각을 설명한다. 사람을 분류하는 여러가지 개념을 만들어 각 해당 이미지를 분류하는 것으로 '사람을 정의하는 권력' 을 보여주는데, P171 부분을 보면 이렇다.
구글 같은 이미지 검색 엔진에서 대량으로 이미지를 수집하고 사람들의 셀카와 휴가 사진을 몰래 추출한 다음 메커니컬 터크 노동자를 고용하여 이미지에 라벨을 달고 재가공하도록 했다고 한다. 검색 엔진이 결과를 내놓은데 있어서의 모든 왜곡과 편향은 그 뒤에서 결과를 긁어들여 라벨을 다는 기술 시스템에 대하여 알 수 있게 해준다.
거대한 민간 기업 메타, 구글, 틱톡, 바이두 같은 기업들은 이용자를 범주화하고 표적하는 것에 대해 거의 감시를 받지 않으며 유의미한 토론장을 제공하지 않는다. 수많은 전세계의 국가 감시, 통제 시스템은 스스로 윤리의식을 갖지 않으며 하물며 민간기업들은 어떠하겠는가?
이러한 과정이 정말로 감취지고 사람들이 자신이 알 수 없는 이유로 이익이나 불이익을 받는다는 사실을 알고나니 아찔하다. 이에 저자는 권력의 불균형과 정치적 대응을 위해 기술 부문을 제대로 평가하고 AI 윤리에 대한 정의를 다시해야 한다고 지적한다. 가치 추출을 넘어선 지속 가능한 집단적 정치를 추구해야 한다, 기술 우선식 접근법을 거부하고 기저의 불평등에 맞서는 국가적, 국제적 운동의 필요성을 설파한다.
나같은 일반 독자들도 실은, 작년 개봉한 헐리우드 영화 '문폴moon fall' 를 보며 AI 가 일으킨 문명의 전복을 보며 '너무한 상상'이라고만 치부할 수 없다. 스페이스X 일론 머스크의 미친 행보가 본격화되고, 아마존의 베이조스가 우주 채굴을 하겠다고 나서고 있다는 소식을 듣는다.
텍사스 앨패소의 인디언에 대한 남부연합군의 폭력적인 식민지 역사처럼, 베이조스의 블루오리진은 이곳에 유인 우주 로켓 발사 장치를 설치했다. 마지막장에서 케이트는 지구에서 부유한 사람이 가진 권력 추출, 지구 탈출을 위한 기술과학적 판타지를 목격했다고 말했다. 취재현장에서 미행하는 차량의 섬뜩한 에스코트를 받으며 나왔다고도 했는데, 그녀가 이러한 견지를 불편하게 보는 권력 기관으로부터 안전하기를 바랄 뿐이다.