AI 지도책

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

이 책의 제목이 매우 신선합니다. <AI지도책>이죠. 인터넷이 활성화되기 전에는 사회과부도나 자동차전국지도를 집이나 자동차에 비치하고 다녔죠. 지금이야 인터넷이나 모바일로 위치를 확인하고 자동차에는 네비게이션이 달려있습니다. 그럼 왜 AI를 설명하는데 지도를 끌어들였을까가 문제겠죠. 기술비평가 어설라 프랭크린은 '지도에는 목적이 있는데 여행자를 도와주고 알려진것과 알려지지않은 것의 간극을 매우는 데 유용하다'고 했습니다. 지도는 한눈에 많은 정보를 볼수있는 매우 시각화된 정보꾸러미죠. 인공지능의 권력,정치,역사까지를 좀 큰시각으로 AI의 부정적 문제점을 돌아보면서 좀더 나은 AI를 생각하는 계기가 되었습니다.

저자 케이트 크로퍼드는 76년 오스트레일리아출생으로 작가, 작곡가, 프로듀서, 학자입니다. 시드니대에서 박사를 했습니다. 인공지능의 사회적 의미를 선도적으로 연구하는 분이라고 합니다. 뉴욕타임즈, 더애틀란틱 등의 미디어에 기고하고 있습니다.

센프란시스코는 역사적으로 2번의 부흥기가 있었습니다. 오래전 금과 은을 캐러갔던 골드러시가 있었고 현재는 하얀리튬을 캐서 기업업계를 떠받치고 있습니다. 이 지역에는 애플, MS,아마존, 메타, 구글 등이 존재하고 부유한 사람들이 많이 모여있지만 도시의 외곽에는 노숙자들이 가장 많은 도시로도 알려져있습니다. 골드러시때나 실리콘벨리의 부흥때나 채굴의 혜택은 부유한 소수에게 집중됩니다. 문제는 AI가 청정인것처럼 에너지를 절약한다고 생각들은 하지만 많은 전기와 노동자의 희생속에 AI는 효율을 내고 그 이익은 소수부자에게만 몰리는데 그것은 물밑으로 숨었다는 겁니다. 노동측면으로 보면 인간과 로봇이 비교가 됩니다. 로봇이 인간을 돕는다는 개념이 지금은 많은 부분을 차지하지만 멀리보면 로봇이 인간을 대체하는 측면이 강할 겁니다. 저자는 이를 노동착취라고 선언을 합니다. 이는 현재 진행되는 스마트팩토리의 본질이 감시하는 인간에서 감시하는 기술로 대체된다는 겁니다. CCTV로 직원을 감시하는 것이 사장이었다면 이제는 직원을 감시하는 것이 인공지능이라는 거죠. 직원의 움직임과 다양한 데이터를 받아서 직원이 무엇을 하는지 파악하고 점수화해서 승진과 퇴사까지 결정하게 될겁니다.

세상의 인공물은 추출,측정,라벨달기, 순서정하기로 데이터를 축적하여 모델을 만드는 기술시스템을 사용합니다. 그런데 데이터로 전환되면서 오도될 수있는 우려가 있기에 분류문제가 대두가 됩니다. 이미지연구에서 흑인얼굴이 잘못분류되는것, 여성목소리를 인식하지 못하는 것 등 AI편향이 나타났습니다. 문제는 이 편향을 해소하려는 시스템에도 한계를 들어냅니다. 여기서 하고자하는 핵심은 분류가 권력이라는 겁니다. 정치적이라는 것이죠. 이에 대한 대응책은 집단적 대응이 필요하다고 합니다. 국가에서 사용되는 AI시스템은 자체 일상을 모두 통치와 조정되는 불균형이 일어날 수도 있습니다. AI는 인간의 지시없이 판단을 내리는 객관적인 연산기업임을 알아야합니다. 인간과 제도에 의해 지배받습니다. 그래서 AI시스템 자체가 권력의 표현일수있습니다. 그를 극복하기위해 뭉쳐야 하고 지속가능한 집단적 정치, 지킬 가치가 있는 공유재, 시장을 넘어선 세상을 추구하는 지도위의 길을 그리라고 합니다.

몇년전에 일본의 소프트뱅크 손정의회장이 한국에 와서 대통령을 만나면서 인공지능,인공지능,인공지능을 3번 외치고 갔습니다. 세계적인 투자자 손정의회장이 보기에 앞으로의 미래는 인공지능이 결정한다는 거겠죠. 이러한 믿음이 인공지능에 대해 맹신으로 가는 것이 아닌지 저자의 글속에 담담히 녹아져있습니다. 물론 인공지능이 인간이 가진 상상력의 많은 부분을 해소해주는 부분이 분명히 있을 겁니다. 하지만 그 반대급부로 대규모자본, 시스템으로 인해 일부 지배권력의 사적 지배지능이 되는 측면이 보입니다. 아마존에서 AI에게 채용을 맡겼더니 여성은 뽑지 않은 것이 문제가 되었죠.물론 그부분은 시행전에 발견해서 다시 연구에 들어간 측면은 분명고려를 해야합니다. 자정기능이 인간에게 있다는 거죠. 안면인식기술에서도 자신의 데이터에 결과를 제외하고는 배제해버리는 측면도 일부발견되고 있습니다. 아직 완전하지 못하지만 상당히 영향력있게 사용되는 AI에 대해 비판적 시각으로 현재 본질을 볼 수있는 기회였고 인공지능이 무작정 순기능만 있다는 생각보다 어떻게 권력지형을 펼치고 지도를 만들어가는지 살펴야만 합니다. 그리고 옮바른 방향으로 대응이 필요합니다.

본 도서는 출판사로부터 무상으로 제공받아 주관적인 리뷰를 했습니다.