[마이리뷰] AI 지도책

[전자책] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

AI 시스템의 깊숙한 물질적·인간적 뿌리를 이해하는 새로운 방법을 찾는 것은 인류발 기후변화의 영향이 이미 훌쩍 진행된 역사의 지금 순간에 꼭 필요한 일이다. 하지만 말하기는 쉬워도 실천하기는 힘든 법이다. 한 가지 이유는 AI 시스템의 사슬을 이루는 많은 산업이 현실에서 발생하는 비용을 숨기기 때문이다. 게다가 인공지능 시스템을 구축하는 데 필요한 규모는 너무 복잡하고 지식재산권법 때문에 너무 모호하고 물류적·기술적 복잡성에 너무 얽혀 있어서 전모를 파악하기가 쉽지 않다. 하지만 이 책의 목표는 이 복잡한 덩어리를 투명하게 만드는 것이 아니다. 우리는 ‘내부’를 들여다보려고 애쓰기보다는 다양한 시스템을 ‘가로질러’ 연결함으로써 이것들이 서로 어떻게 연관되어 작동하는지 이해하고자 한다.76 그러므로 우리의 경로는 AI의 환경 비용과 노동 비용에 대한 이야기를 따라가며 이것을 일상생활 전반에 얽혀 있는 추출과 분류라는 맥락에 놓을 것이다. 이 문제들을 아울러 생각함으로써 우리는 더 큰 정의를 향해 노력할 수 있을 것이다 - <AI 지도책> 중에서

자동화된 시스템은 예전에 인간이 수행하던 작업을 똑같이 수행하는 것처럼 보이지만 실은 배후에서 인간 노동을 조율하는 것에 불과하다. 테일러는 패스트푸드 식당의 셀프서비스 무인 주문기와 슈퍼마켓의 무인 계산대를 예로 들며 자동화된 시스템이 직원 노동을 대체한 것처럼 보이지만 사실은 데이터 입력 노동이 유급 직원에게서 고객에게로 이전되었을 뿐이라고 말한다. - <AI 지도책> 중에서

노동자들은 같은 일을 하는 다른 노동자들과 단절될 뿐 아니라 자신의 노동 결과물로부터도 소외된 채 고용주에게 착취당할 우려가 더욱 커진다. 이 현상은 전 세계 크라우드 노동자들이 받는 급여가 극단적으로 낮은 것에서 뚜렷이 드러난다.2 - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[전자책] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

제3장은 데이터의 역할에 초점을 맞춘다. (개인적이거나 위험을 초래할 가능성이 있는 데이터를 비롯하여) 공개적으로 접근할 수 있는 모든 디지털 자료는 AI 모형을 생성하는 데 이용되는 훈련 데이터 집합을 위해 자유롭게 수집될 수 있다. 사람들의 셀카, 손짓, 운전 장면, 우는 아기, 1990년대 뉴스그룹 대화 등으로 가득한 거대한 데이터 집합들이 있으며, 이것들은 모두 얼굴 인식, 언어 예측, 대상 탐지 등의 기능을 수행하는 알고리즘을 개선하는 데 쓰인다. 이 데이터 집합들이 더는 사람들의 개인 자료가 아니라 단순한 ‘인프라’로 간주되면 이미지나 동영상의 구체적 의미나 맥락은 무의미한 것으로 치부된다. AI가 데이터를 이용하는 현재의 관행은 개인정보 유출과 감시 자본주의라는 심각한 문제 외에도 적잖은 윤리적·방법론적·인식론적 우려를 낳는다.33 - <AI 지도책> 중에서

광물은 AI의 뼈대이지만 AI의 혈액은 여전히 전기에너지다. 하지만 첨단 연산 행위가 탄소 발자국, 화석연료, 오염의 관점에서 평가되는 일은 드물다. ‘구름(클라우드)’ 등의 비유는 자연 친화적 녹색산업이라는 고상하고 섬세한 분위기를 풍긴다.50 서버는 별 특징이 없는 데이터 센터에 숨겨져 있으며 그 오염 실태는 연기를 내뿜는 석탄 화력발전소 굴뚝에 비해 훨씬 알아보기 힘들다. 기술 부문의 산업들은 자사의 환경 정책, 지속 가능성 사업, (AI를 문제 해결 도구로 이용하여) 기후 관련 문제를 해결하겠다는 계획 등을 열심히 홍보한다. 이것은 탄소를 전혀 배출하지 않는 지속 가능한 산업이라는 대외적 이미지 연출의 일환이다. 실제로는 아마존 웹서비스나 마이크로소프트 애저 같은 연산 인프라를 운영하기 위해서는 막대한 양의 에너지가 필요하며 이런 플랫폼에서 동작하는 AI 시스템의 탄소 발자국은 점점 증가하고 있다.51 - <AI 지도책> 중에서

인공지능은 또 다른 종류의 거대기계다. 전 세계에 뻗어 있지만 분명히 드러나지 않는 산업 인프라, 공급사슬, 인간 노동에 의존하는 기술적 접근법의 집합인 것이다. 우리가 보았듯 AI의 범위는 데이터베이스와 알고리즘, 기계학습과 선형 대수학을 훌쩍 뛰어넘는다. 이것은 은유적이다. AI는 제조, 운송, 물리적 작업에 의존하고, 데이터 센터와 대륙을 가로지르는 해저 케이블에 의존하고, 개인용 기기와 여기에 들어가는 원료에 의존하고, 공기를 통과하는 전송신호에 의존하고, 인터넷에서 긁어모은 데이터 집합에 의존하고, 끊임없는 연산 주기에 의존한다. 이 모든 것에는 비용이 따른다. - <AI 지도책> 중에서

[마이리뷰] AI 지도책

[전자책] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

이 책에서는 AI가 ‘인공’적이지도 않고 ‘지능’도 아니라고 주장한다. 오히려 인공지능은 체화되고 물질적인 지능이며 천연자원, 연료, 인간 노동, 하부 구조, 물류, 역사, 분류를 통해 만들어진다. AI 시스템은 자율적이지도 합리적이지도 않으며 대규모 데이터 집합이나 기존의 규칙 및 보상을 동원한 방대하고 (연산의 측면에서) 집약적인 훈련 없이는 아무것도 분간하지 못한다. 사실 우리가 아는 형태의 인공지능은 훨씬 폭넓은 정치적·사회적 구조에 전적으로 의존한다. 또한 AI를 대규모로 구축할 자본과 AI를 최적화할 방법이 필요한 탓에 AI 시스템은 궁극적으로 기득권에 유리하게 설계된다. 이런 의미에서 인공지능은 권력의 등기부인 셈이다. - <AI 지도책> 중에서

인공지능이 만들어지는 과정을 이해하는 데 어떻게 지도책이 도움이 될 수 있을까? 지도책은 특이한 책이다. 지구의 위성사진에서 군도群島의 확대사진에 이르기까지 해상도가 다양한 여러 지도를 모아놓았으니 말이다. 당신이 지도책을 펼치는 것은 특정 장소에 대한 구체적 정보를 찾기 위해서일 수도 있고 호기심에 이끌려 페이지를 뒤적거리며 뜻밖의 경로와 새로운 과정을 만나기 위해서일 수도 있다. 과학사가 로레인 대스턴의 말마따나 모든 과학 지도책의 목적은 관찰자가 특별히 의미심장한 세부 사항과 중요한 특징에 주목하도록 눈을 훈련시키는 것이다.19 지도책은 축척, 위도, 경도 같은 과학적 기준을 준수하며 세계를 바라보는 특별한 관점을 제공하면서 형식과 일관성의 감각을 보여준다. - <AI 지도책> 중에서

AI는 비실체적 연산이라는 허깨비 힘으로 보일 수도 있지만 결코 추상적이지 않다. AI 시스템은 지구를 새로 빚는 동시에 세계가 지각되고 이해되는 방식을 변화시키는 물적 토대다.
유연성, 혼란, 시공간적 범위 같은 인공지능의 여러 측면과 씨름하는 것은 중요한 일이다. AI라는 용어가 남발되고 쉽게 재구성된다는 것은 폭넓은 방식으로 활용될 수 있다는 뜻이기도 하다. AI는 아마존 에코 같은 소비자용 기기에서 이름 모를 백엔드 처리 시스템까지, 전문적 기술 문서에서 세계 최대의 산업체까지 모든 것을 가리킬 수 있다. 하지만 여기에는 이점도 있다. ‘인공지능’이라는 용어의 폭넓은 의미는 지능의 정치적 성격에서 대규모 데이터 수집까지, 기술 부문의 산업적 집중에서 지정학적 군사력까지, 자연이 사라진 환경에서 현재진행형인 차별의 형태까지 이 모든 구성요소와 이것들이 어떻게 깊숙이 얽혀 있는지 들여다볼 권한을 우리에게 부여한다. - <AI 지도책> 중에서

[마이리뷰] 생명현상을 이해하는 창문, RNA

[전자책] 생명현상을 이해하는 창문, RNA
김빛내리 / 반니 / 2020년 4월

mRNA 외에도 유전체genome는 많은 종류의 RNA를 만듭니다. 인간 유전체는 30억 개의 염기쌍을 가지고 있는데, 단백질 정보를 담는 부분, 즉 mRNA에 해당하는 부분은 극히 일부에 지나지 않습니다. 나머지 부분에는 도대체 무엇이 있는지 아직 확실하게 알지는 못합니다. 인간의 경우는 단백질 정보를 직접 담지 않은 부분이 98%나 되지요. 이걸 ‘논코딩 DNA’라고 합니다. - <생명현상을 이해하는 창문, RNA> 중에서

기록하는 과정 자체로도 의사는 비판 능력을 향상시킬 ...

기록하는 과정 자체로도 의사는 비판 능력을 향상시킬 수 있으며, 환자의 삶이 의사의 기억에 일련의 짤막한 장면으로만 머무르면 쉽게 놓칠 수 있는 관계와 패턴도 한발 물러서서 볼 수 있게 해준다. 전기 작가가 된 의사가 환자의 삶에서 일관된 형태를 발견하게 되는 순간은 매우 짜릿하다. 불안불안한 관계가 위험하게 반복되는 상황에서도 패턴을 이해하고 있으면 의사(궁극적으로는 환자)는 질병 경험을 더 효과적으로 통제할 수 있다

-알라딘 eBook <우리의 아픔엔 서사가 있다> (아서 클라인먼 지음, 이애리 옮김) 중에서