‘AI 지도책‘, 인공지능의 어두운 실체

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

지도는 각종 지리 정보를 담고 있어, 목적지를 어떻게 가야 할지 계획하는 데 많은 도움을 준다. 이때 가장 중요한 것은 지도 정보의 정확성이다. 잘못된 지도는 잘못된 길로 인도한다. 운전자라면, 내비게이션 지도 정보를 업데이트하지 않아 골탕 먹은 경험 한두 번은 다 있을 것이다.

케이트 크로퍼드의 'AI 지도책'은 지도책이란 이름처럼 #인공지능 기술이 제대로 된 방향으로 나아갈 수 있도록, 현재 #AI 기술이 가진 각종 문제점을 여과 없이 지적하고 있는 책이다.

내 경우 개발자다 보니, 전부터 인공지능, #기계학습 등에 관심이 많아 관련 기술서를 꾸준히 보고 있다. 하지만 그런 책들에서는 인공지능이 가져다주는 화려한 장밋빛 미래만을 그리고 있다. 우려하는 것도 기껏해야 어떤 직업들이 사라져 갈 것이라는 정도다.

그러나 #AI지도책 을 보고 나면, 인공지능이 가진 많은 문제점들로 인해, 머리가 많이 복잡해지게 될 것이다. 책에선 지구, 노동, 데이터, 분류, 감정, 국가, 권력, 우주라는 큰 주제로 문제점들을 다루고 있는데, 하나하나 그냥 넘어갈 수 없는 것들인 것이다.

AI 하면, 뭔가 효율적이며, 공정하고, 빠르게 처리해 줄 거라고 다들 생각한다. 그러나 'AI 지도책'의 첫 주제인 지구 편만 봐도, 그게 큰 착각이라는 것을 알게 된다. 인공지능 기술 개발을 위해서는 많은 에너지가 쓰이게 된다. 무선 제품에는 배터리가 사용되며, 여기에는 리튬과 같은 광물은 필수다. 이것들은 지구 곳곳을 파헤치며 #환경오염, 환경파괴를 일으키고 있다. 이것들에 대한 피해를 우리는 전혀 피해로 여기지 않고 있는 것이다. 지금 상황을 책에서는 19세기 말 전신선을 만드는 데, 필요한 라텍스 때문에 팔라퀴움 구타라는 나무가 거의 멸종한 역사적 사건을 예로 비유하고 있다. 청정기술로 알고 있는 IT 기술에 대한 잘못된 인식을 완전히 깨고 있는 것이다.

이어지는 노동 편은 마음을 더 암울하게 만든다. 내가 자주 이용하고 있는 #아마존 물류센터에 대한 이야기로 시작하는데, 각종 운송 로봇과 함께 일하고 있는 인간은 인간이 아닌 로봇이 되어야 했다. 아마존이 블랙 기업이라고는 알고 있었지만, 좀 더 자세한 실체를 알게 되니, 분노가 치밀기도 했다. 아마존만의 일이 아니다. 우리나라 쿠팡의 노동자 사망 사고도 같은 경우다. 제한된 시간에 지정된 개수를 처리하지 못하면, 경고를 받고, 누적되면 잘리게 된다. 효율을 중시하는 모든 업체들이 다 이런 식으로 운영이 되고 있고, 이것을 성공 모델로 본받으려고 한다는 것이다.

기술의 발전은 인류에게 보다 나은 삶을 가져다준다 생각해왔다. 발전에 발전을 거듭하면, 모두가 잘 살고 평화와 여유를 즐기는 행복한 유토피아가 될 거라 상상해왔다. 하지만, 현실은 더 바쁘게 살고, 어렵게 살아야 한다. 사람이 사람다워지는 것이 아니라, 자동화 장비, 로봇이 되어야 하는 것이다. 찰리 채프린이 영화 모던 타임즈로 1936년 당시의 상황을 비평한 그때와 지금과 별반 차이가 없다. 오히려 지금 우리는 더 불행에 빠져 나라마다 높아지는 자살률을 걱정하고 있는 상황이다.

지금의 인공지능 기술 발전에는 #빅데이터 기술이 먼저 발전했기에 가능했다고 생각한다. 컴퓨터가 나오면서 다양한 곳에서 전산화가 이뤄지고, 인터넷, 특히 스마트폰의 등장으로 다양한 데이터들이 매일매일 엄청나게 축적되어 왔다. 이것들이 새로운 금광이 되었다. 데이터가 가공되어 인공지능의 좋은 교재가 되어 준 것이다. 하지만, 여기에도 많은 문제가 있다. 초상권이 무시되고, 많은 곳에서 개인정보가 동의 없이 사용되고 있다.

동시에 데이터 분류 과정에서 많은 문제를 내포하게 된다. 고의든, 우연이든, 이미지넷 같은 곳에선 인종 차별과 성차별, 각종 비하 등이 이뤄지고 있는 것이다. 잘못된 데이터는 잘못된 결과를 가져오게 된다. 인공지능을 활용한 챗봇들이 이런 문제로 중단되는 사고가 자주 발생되는 것도 이것이 한 이유라 할 수 있다. 데이터 사용과 분류에 법률적, 도덕적, 윤리적 기준이 명확히 세워져야 하는 것이다.

'AI 지도책'에는 이보다 더 심각한 문제가 많이 나온다. 얼굴 인식을 통해 감정을 감지하고, 더 나아가 예비 범죄자를 가려 내는 연구를 하는 것이다. 감정 표현이 서툴거나 얼굴이 험악하면, 범죄자 취급받을 수도 있다는 것이다. 이건 뭐 완전 현대판 관상쟁이 기술인 것이다. 연구 차원까지는 모르지만, 이것이 실제 쓰여서는 안 된다. 이것은 얼마든지 국민 통제 수단으로 권력층에서 악용할 수 있기 때문이다.

'AI 지도책'을 통해 그동안 아무도 알려주지 않은 인공지능의 어두운 면을 많이 알게 되었다. 답답한 것은 이것을 알고 있다고 해도, 개인으로는 당장 어쩌지 못한다는 것이다. 인터넷을 이용하다 보면, 여기저기서 쿠키를 깔겠다고 동의하겠냐고 물어보는데, 동의 안 하면, 서비스를 이용 못하는 곳도 많다. 기업에서는 서비스 개선이라는 허울좋은 명목으로 어떡해서든 내 사용 정보를 빼가겠다는 거다. 스마트폰도 쓰면 쓸수록 짜증이 쌓여 간다. 내가 원하지 않은 이상한 서비스를 내놓고는 이전 서비스는 종료한다고 한다. 사용법 새롭게 배우라고 한다. 햄버거 먹을 때도, 종업원이 주문받으면, 훨씬 빠른데, 키오스크 쓰라고 한다. 세상이 변했단다. 그런데 그건 이 책에도 나왔듯이 소비자에게 무급 노동을 전가하고 있는 것이다. 이제 내 시간도 남이 도둑질해가는 세상이다. 할 말이 넘쳐나지만, 다 적지는 못하겠다.

어쨌든 날이 갈수록 인공지능이 더 많은 역할을 하게 될 것이다. 싫다고 막을 수도 없는 흐름이다. 그러기에 AI 기술에 대해 구체적으로 공부할 필요까지는 없지만, 적어도 인공지능이 가진 명암이 어떤 것인지 정도는 알고 있는 것이 세상을 제대로 보는 혜안을 갖는 데 도움이 될 것이라 생각한다. 그래서 모두에게 'AI 지도책'을 한 번쯤은 읽어 보라고 하고 싶다.