[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

배럿 연구진은 감정 추론을 자동화할 수 있다는 AI 기업들의 주장에 비판적이었다. ‘이를테면 기술 기업들은 그런 공통된 견해를 마치 과학적으로 탄탄하게 뒷받침되는 사실로 착각한 채 얼굴에서 감정을 읽는 기기를 개발하려고 수백만 달러의 연구 자금을 쓴다. (……) 정작 우리가 과학적 증거를 검토했더니 특정 얼굴 움직임이 어떻게 왜 감정을 표현하는가에 대해서는 알려진 것이 거의 없었다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

분류는 작업 하부 구조 속에 끼워 넣어짐으로써 그 힘의 어느 부분도 상실하지 않으면서 상대적으로 보이지 않게 된다.’15 AI 훈련용 데이터 집합에서 이미지에 라벨을 다는 것이든 얼굴 인식으로 사람들을 추적하는 것이든 산탄을 두개골에 붓는 것이든, 분류는 권력의 행위다. - <AI 지도책> 중에서

AI 분야에서 이 현상을 볼 수 있다. 영향력이 매우 큰 인프라와 훈련 데이터 집합은 순전히 기술적인 것으로 간주되지만 실은 분류 체계 안에 정치적 개입이 들어 있다. 세계에 대한 특정 질서를 자연적인 것으로 치부함으로써 기존 질서를 정당화하는 것처럼 보이는 효과를 만들어내는 것이다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

알고리즘에 따라 정해지는 할당 시간은 한 시간 이내로 극히 짧을 수도 있고 바쁜 시간대에는 매우 길어질 수도 있는데, 언제나 이윤이 극대화되도록 결정된다. 알고리즘은 근처에서 대기하거나 출근하자마자 퇴근해야 하거나 일정을 예측할 수 없어 인생 계획을 짜지 못해 발생하는 인적 비용을 고려하지 않는다. 이 시간 도둑질은 회사의 효율성을 높여주지만 직원들은 그 대가로 직접적인 손실을 입는다. - <AI 지도책> 중에서

나는 AI 시스템이 어떻게 만들어지는지를 수년간 연구하면서 수백 개의 데이터 집합을 살펴보았지만 NIST 머그샷 데이터베이스는 그중에서도 유난히 심란하다. 장차 벌어질 일의 본보기를 보여주기 때문이다. 사진 자체가 주는 엄청난 비감 때문만은 아니다. 용의자와 재소자에게는 사진 촬영을 거부할 권리가 없다는 점에서 개인정보 침해 때문만도 아니다. 내가 심란한 이유는 NIST 데이터베이스가 현재 기술 부문에 속속들이 스며 있는 논리의 출현을 예고하기 때문이다. 그것은 모든 것이 데이터이고 수집되기 위해 존재한다는 확고한 믿음이다. 사진이 어디서 찍혔는지, 취약하거나 고통받는 순간에 찍혔는지, 대상자에게 수치심을 유발하는지 등은 그들의 관심사가 아니다. 할 수만 있다면 무엇이든 수집하고 이용하는 관행이 업계 전반에 어찌나 일상화되었던지 그 이면의 정치적 성격에 의문을 제기하는 사람은 좀처럼 찾아보기 힘들다. - <AI 지도책> 중에서

대학 기반의 기관감사위원회institutional review board, IRB 같은 윤리 보호 기구들은 오랫동안 이 논리를 받아들였다.63 처음에는 일리가 있었다. IRB는 개인 피험자에게 명백한 위험이 따르는 생체의학·심리학 실험에서 흔히 쓰는 방법들에 집중하느라 여력이 없었기 때문이다. 전산학은 훨씬 추상적인 학문으로 간주되었다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

AI 시스템의 깊숙한 물질적·인간적 뿌리를 이해하는 새로운 방법을 찾는 것은 인류발 기후변화의 영향이 이미 훌쩍 진행된 역사의 지금 순간에 꼭 필요한 일이다. 하지만 말하기는 쉬워도 실천하기는 힘든 법이다. 한 가지 이유는 AI 시스템의 사슬을 이루는 많은 산업이 현실에서 발생하는 비용을 숨기기 때문이다. 게다가 인공지능 시스템을 구축하는 데 필요한 규모는 너무 복잡하고 지식재산권법 때문에 너무 모호하고 물류적·기술적 복잡성에 너무 얽혀 있어서 전모를 파악하기가 쉽지 않다. 하지만 이 책의 목표는 이 복잡한 덩어리를 투명하게 만드는 것이 아니다. 우리는 ‘내부’를 들여다보려고 애쓰기보다는 다양한 시스템을 ‘가로질러’ 연결함으로써 이것들이 서로 어떻게 연관되어 작동하는지 이해하고자 한다.76 그러므로 우리의 경로는 AI의 환경 비용과 노동 비용에 대한 이야기를 따라가며 이것을 일상생활 전반에 얽혀 있는 추출과 분류라는 맥락에 놓을 것이다. 이 문제들을 아울러 생각함으로써 우리는 더 큰 정의를 향해 노력할 수 있을 것이다 - <AI 지도책> 중에서

자동화된 시스템은 예전에 인간이 수행하던 작업을 똑같이 수행하는 것처럼 보이지만 실은 배후에서 인간 노동을 조율하는 것에 불과하다. 테일러는 패스트푸드 식당의 셀프서비스 무인 주문기와 슈퍼마켓의 무인 계산대를 예로 들며 자동화된 시스템이 직원 노동을 대체한 것처럼 보이지만 사실은 데이터 입력 노동이 유급 직원에게서 고객에게로 이전되었을 뿐이라고 말한다. - <AI 지도책> 중에서

노동자들은 같은 일을 하는 다른 노동자들과 단절될 뿐 아니라 자신의 노동 결과물로부터도 소외된 채 고용주에게 착취당할 우려가 더욱 커진다. 이 현상은 전 세계 크라우드 노동자들이 받는 급여가 극단적으로 낮은 것에서 뚜렷이 드러난다.2 - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

제3장은 데이터의 역할에 초점을 맞춘다. (개인적이거나 위험을 초래할 가능성이 있는 데이터를 비롯하여) 공개적으로 접근할 수 있는 모든 디지털 자료는 AI 모형을 생성하는 데 이용되는 훈련 데이터 집합을 위해 자유롭게 수집될 수 있다. 사람들의 셀카, 손짓, 운전 장면, 우는 아기, 1990년대 뉴스그룹 대화 등으로 가득한 거대한 데이터 집합들이 있으며, 이것들은 모두 얼굴 인식, 언어 예측, 대상 탐지 등의 기능을 수행하는 알고리즘을 개선하는 데 쓰인다. 이 데이터 집합들이 더는 사람들의 개인 자료가 아니라 단순한 ‘인프라’로 간주되면 이미지나 동영상의 구체적 의미나 맥락은 무의미한 것으로 치부된다. AI가 데이터를 이용하는 현재의 관행은 개인정보 유출과 감시 자본주의라는 심각한 문제 외에도 적잖은 윤리적·방법론적·인식론적 우려를 낳는다.33 - <AI 지도책> 중에서

광물은 AI의 뼈대이지만 AI의 혈액은 여전히 전기에너지다. 하지만 첨단 연산 행위가 탄소 발자국, 화석연료, 오염의 관점에서 평가되는 일은 드물다. ‘구름(클라우드)’ 등의 비유는 자연 친화적 녹색산업이라는 고상하고 섬세한 분위기를 풍긴다.50 서버는 별 특징이 없는 데이터 센터에 숨겨져 있으며 그 오염 실태는 연기를 내뿜는 석탄 화력발전소 굴뚝에 비해 훨씬 알아보기 힘들다. 기술 부문의 산업들은 자사의 환경 정책, 지속 가능성 사업, (AI를 문제 해결 도구로 이용하여) 기후 관련 문제를 해결하겠다는 계획 등을 열심히 홍보한다. 이것은 탄소를 전혀 배출하지 않는 지속 가능한 산업이라는 대외적 이미지 연출의 일환이다. 실제로는 아마존 웹서비스나 마이크로소프트 애저 같은 연산 인프라를 운영하기 위해서는 막대한 양의 에너지가 필요하며 이런 플랫폼에서 동작하는 AI 시스템의 탄소 발자국은 점점 증가하고 있다.51 - <AI 지도책> 중에서

인공지능은 또 다른 종류의 거대기계다. 전 세계에 뻗어 있지만 분명히 드러나지 않는 산업 인프라, 공급사슬, 인간 노동에 의존하는 기술적 접근법의 집합인 것이다. 우리가 보았듯 AI의 범위는 데이터베이스와 알고리즘, 기계학습과 선형 대수학을 훌쩍 뛰어넘는다. 이것은 은유적이다. AI는 제조, 운송, 물리적 작업에 의존하고, 데이터 센터와 대륙을 가로지르는 해저 케이블에 의존하고, 개인용 기기와 여기에 들어가는 원료에 의존하고, 공기를 통과하는 전송신호에 의존하고, 인터넷에서 긁어모은 데이터 집합에 의존하고, 끊임없는 연산 주기에 의존한다. 이 모든 것에는 비용이 따른다. - <AI 지도책> 중에서