AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월
평점 :
장바구니담기




  인류 미래의 희망봉처럼, 청사진처럼 밝은 면으로만 모든 미디어에는 비춰진다. 현재의 인류의 발달은 AI룰 이용한 로봇과 생활과의 관계설정에 모든 것이 맞춰져 있다. 방송에서 나오는 메타버스라는 말과 생활형 로봇등 과학의 모든 것이 결국은 AI를 벗어나면 모든 것이 불가능한 것처럼 이야기 한다. 단순반복하는 일과 정해진 일을 하는것에는 지치지 않는 로봇이 인간보다 나은 것은 사실이지만 "AI지도책"이란 책은 " AI의 현재와 미래를 지도책처럼 한눈에 들여다 본다"는 뒷장의 문장처럼 밝은 청사진위에 드리워진 그늘을 파혜친 글이다. 인류의 유토피아처럼 인식되는 인공지능에 대한 합리적인 의심을 시작하게 하는책이다.

이 책은 시야를 넓혀 인공 지능을 '추출 산업'으로 규정한다.

AI 시스템을 창조하려면 지구의 에너지와 광물자원, 값싼 노동력, 대규모 데이터 추출을 하여야 한다. (25쪽)

전체는 7개의 장으로 구성되어 있다. 1장은 광산에서 필요한 광물자원을 채굴하는 것에 관하여, 2장은 인공지능이 인류의 값싼노동력을 채굴한다는 것에 관하여, 3장은 데이터의 역할에 촛점을 맞추고, 4장은 인공지능 시스템의 분류행위에 관하여, 5장은 AI의 감정 상태 파학의 현실, 6장은 AI시스템의 국가, 권력의 도구화에 대하여, 7장은 인공지능의 권력구조 재편에 관한 역할에 다루며 문제가 있다면 문제를 파악하고 문제를 해결하기 위해 인류가 일을 해야 한다는 문제를 제기하는 책이기도 하다.

이 책에서는 AI와 지구 연산의 근본적 문제를 해결하려면

인식론에서 노동권까지,

자원 채굴에서 개인정보 보호까지, 인종 불평등에서

기후변화까지 모든 권력와 정의의 문제를

연결해야 한다고 주장한다.

31쪽

인공지능을 창조하고 유지하기 위하여 광산에서 채굴하는 필요한 희토류등 광물에 대하여 정말 쇼킹한 정보를 제공한다. 이 책을 읽으면서 지구 환경에 관한 이야기로는 가장 심각한 문제를 제공하는 부분이다. 개인적으로는 식물이거나 동물이거나 무엇이 되었든 다양성이 정말 중요하다고 생각한다. 인류의 건강을 위한 치료약들은 자연의 다양성에서 많은 도움을 받고 있기에 다양성이 없어지는 것이 정말 심각하다고 생각한다. 1장의 광물채굴에 관한 이야기는 지구환경적인 면과 기후위기 측면, 그리고 인간의 노동에 대한 심각한 면을 고발하고 있다. 이 책에서 가장 눈에 보이게 물질적인 면에서는 쇼킹한 부분이다.

인공지능을 유지하기 위한 노동력의 채굴에 관한 이야기도 정말 많은 시사점을 제공하고 있다. 메타버스이거나 인공지능등 IT기술을 이용하여 부를 축적하거나 활용하는 다양한 방법에서 일부는 성공하지만 그 시스템을 유지하기 위한 인간의 노동력에 대한 문제는 늘 등한시 되고 사회적 문제로 취급받지 못하는 것이 사실이다.

3장의 테이터 수집과 분류는 심각한 윤리적인 문제와 사회책임론에 대하여 심각하게 고민하여 보아야 한다고 역설하고 있다. "데이터는 석유다" 라는 책속의 말이 생각난다. 무분별하게 개인적, 사회적 동의없이 채굴되는 개인정보는 심각한 사회적 문제와 윤리적 문제를 안고 있다. 다다익선이라고 최대한 많은 데이터를 수집하고 활용하기 위하여 피나는 노력을 기울이고 그 활용의 범위와 책임론은 인공지능 파워라는 권력에 묻혀 책임을 지는 집단이나 국가는 없다. 일상생활에서 활용하는 SNS와 카톡등 모든 것은 데이터 수집의 범위이다. 알고리즘을 위해 아마존등 활용시 제공되는 정보는 정말 끝이 없는 데이터와의 전쟁이다.

취업이나 사회 전방위적으로 활용되는 분류작업은 두상으로 피부색으로 인종을 구분하는 인종학을 사이버상으로 옮겨오고 있으며, 추론을 연역적이 아니라 연산을 해야 하기에 귀납적으로 추론을하고 결론을 내는 인공지능은 인지오류가 발생할 수 밖에 없는 구조이기도 하다. 연산의 능력이 향상되고 개발된다고 하여도 현재의 한계점은 분명하게 나타난다. 개인정보의 보호와 사이버상의 정보의 신뢰성, 그 정보에 대한 책임감등은 현생 인류의 숙제이기도 하고 어두운 인공지능의 뒷면이기도 하다.

분류작업에서도 인지적 오류가 나오지만 감정을 판단하는 인공지능 활용에서는 작가는 가설 설정자체에서 오류라고 한다. 다양한 실험은 조작과 단편적인 실험으로 결과만을 도출하고 활용하기에 인간이 가진 감정을 채굴하는 작업에는 심각한 부작용이 있다는 것을 부인할 수는 없는 듯 하다.

인공지능은 사회전반에 인류의 생활에 정말 많은 부분을 차지 하고 있다. 인류의 생활과 문명에도움을 주기 위한 다양한 활동은 정말 좋은 면이지만, 범죄자의 추출을 위한 CCTV의 활용의 문제점과 군사적인 목적으로 사용하는 인공지능의 문제점은 심각하다고 생각한다. 인간을 대신하여 드론이라는 무기로 정밀타격하거나 영화에서 처럼 조종되는 소형 로봇으로 정밀 타격을 입히는 등 인공지능을 활용한 무기들은 영화 같은 현실의 국지적 전투에서 얼마나 심각한것인지 증명하고 있다. 인공지능이 국가 권력과 손을 잡고 데이터를 수집하고 인공지능을 활용한 위대하지만 위험한 발명품을 만드는 기업들을 비호하여 책임감을 책임 소재를 밝히는 것을 막고 있는 현실을 고발하고 있다. 누군가는 학자라면 비판적으로 밝은 청사지만 제공하는 것이 아니라 어두운 뒷면을 제공하는 것이 맞다고 생각한다.

인류의 미래에 필요한 것이라면 윤리적인 문제와 개인의 정보보호, 사회적이고 국가적인 책임감을 인식하고 활용하고 적용하는 것이 정말 필요하리라 생각한다. 문제가 생겨도 활용자의 몫이라면 심각한 문제이기도 하다.

오늘도 인공지능은 전세계적으로 데이터를 수집하고 있다.

나의 동의와 사회적 동의없이 무분별하게 수집하고 있다.

SNS에 사진이나 글을 올리고 인공지능인지도 모르고 활용하는 전자 기기를 통한 모든 정보는 우리의 생명권과 인권을

그들의 경제권과 교환하고 있다.

SNS등에 올리는 사진들은 그들의 좋은 먹이감이다.

온라인을 활용한 활동이 그들의 데이터 수집에 에너지를

제공한다.

학자로서 인공지능의 어둡고 사회적이고 국가적인 문제점, 그리고 지구라은 환경에 관한 책은 정말 필요한 책이기에 논란이 아니라 유토피아인줄 알고 진행하고 있지만 디스토피아적인 면을 밝혀주는 책이기에 쇼킹한 것들도 있고, 다른 인문학에서 다루어진 책들과 중복은 되지만 많은 분들에게 소중한 정보를 제공하신 학자로서의 책무를 다하는 "게이트 크로포드" 작가에게 존경과 감사를 표현하고 싶다.

모든 것은 동전의 양면처럼 앞면이 있으면 뒷면이 있기 마련이다. 지금은 동전의 앞면만 있는 것처럼 몰아 가고 있다. 우리는 인공지능이 없으면 죽을 것처럼 모든 것을 합리화하고 단면만 보고 있지만 동전의 뒷면을 보고나서 책임감과 윤리감이라는 인간 본연의 모습을 생각하게 하는 책이었다.

블레이드 러너라는 오래된 영화와 매트릭스라는 영화가 생각납니다. 나와 같은 클론을 골라내는 것, 현실인지 가상공간인지 구분이 가지 않는 곳에서 생활해야 하는 우리에게 밝은 미래를 위해 많은 것을 생각하게 해주는 책이라 추천한다.

< 이 리뷰는 출판사로 부터 책을 제공받아 지극히 개인적인 생각으로 작성한 것입니다.>



댓글(0) 먼댓글(0) 좋아요(0)
좋아요
북마크하기찜하기 thankstoThanksTo