[과학] AI 지도책

AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

'왜 챗봇은 특정 집단에 대해 혐오의 말을 했을까?' 

차별과 혐오 발언 문제로 서비스 중단됐던 챗봇 AI 이루다가 돌아왔다는 기사를 봤다. 이후 많은 개선을 했다는 이 챗봇은 한편에서는 아직도 편향적이라는 말이 있긴하지만, 그래도 많은 사람들이 친구처럼 대화를 나누며 긍정적인 평가를 주고 있기 때문에 성공적 컴백이란 말이 나온다고 한다. 그런데 왜 그 당시 이루다는 특정 대상에 대해 차별의 말을 서슴없이 내뱉었을까? 

'왜 그렇게 많은 사진들을 입력시키는 걸까?'

요즘 투잡, 부업으로 인공지능을 학습시키기 위해 사진을 넣어 분류하는 단순 작업이 생겼고, 생각보다 많은 사람이 이미 해봤다는 것을 알고나서 놀랐던 기억이 있다. 이런 수많은 사진들을 분류하는 단순 작업인 데이터 라벨링은 왜 등장하게 됐을까? 

과학 분야의 책 'AI 지도책'을 읽고 그땐 생각해 보지 않았던 인공지능의 배경에 대해 생각해 볼 수 있었다.

AI라는 것에 대한 평소 내 느낌은 '인간보다 빠른, 인간보다 똑똑한, 객관적 판단을 하는, 미래지향적인, 효율적인' 등 긍정적인 것들만 가득했다. 하지만 케이트 크로퍼드의 책 'AI 지도책'을 읽고, 항상 존재했지만 생각해 보지 않았던 새로운 측면에 대한 알게 됐다. 저자 케이트 크로퍼드는 마이크로소프트 연구원이며, 기계학습재단 국제연구단을 이끌고 있는, '인공지능의 사회적 의미를 연구하는 선도적인 학자'라고 칭할 수 있는 사람이었다. 그는 자신의 책 'AI 지도책'에 인공지능이 어떻게 세계의 부와 권력을 재편하고 있는지, 또 배경에 어떤 사회적, 윤리적인 문제가 있는지를 담았다. 기술이 점점 고도화되면서 인공지능은 이미 한참 진행되었고, 앞으로 더 나아갈 것이다. 이럴 때, 이 기술에 담겨있는 문제점들을 한 번쯤은 살펴봐야 하지 않을까 생각했다. 

'AI 지도책'은 '지구, 노동, 데이터, 분류, 감정, 국가, 권력, 우주'로 챕터가 구성되어 있는데, 나는 그중 '지구, 노동, 데이터, 권력'이 가장 충격적이고 기억에도 많이 남았다. 인공지능이라 하면 보통 알고리즘, 데이터, 클라우드와 같은 것을 떠올리지만 그 중심에는 광물 '리튬'이 있다고 한다. 인공지능은 애초에 광물이 없다면 연산이 불가능하다고. 첫장인 '지구 편'은 광물을 땅에서 뽑아내는 광업으로 인해 발생하는 전쟁, 기근, 죽음에 대한 내용이다. 인공지능 AI 하면 자동화 로봇같이 인간이 배제된 것 같지만 사실 그것을 구현하기 위해선 아주 많은 노동력이 필요하다고 한다. 책 사례로 많이 등장하는, 가장 깊은 곳에서 그런 일을 하는 사람들은 마치 값싼 부품처럼 취급되며 부려지고 있다는 것이 문제라고 했다. 생각보다도 더 많은 곳에 노동에 관한 문제들이 쌓여있었다. '노동 편'을 읽으며 요즘 내가 많이 사용하는 노트북, 휴대기기, 페이스북 같은 플랫폼들도 수많은 노동자들을 통해서 이루어지는 것임을 기억해야 겠다는 생각을 하게 했다. 이렇게 인터넷 발전하기 전에는 수많은 데이터를 모으기 위해 공을 들였지만, 지금은 이미 페이스북과 트위터으로도 하루 평균 8억 5000만의 데이터들이 올라오고 있다고 한다. 문제는 그것들을 그냥 '막 모아서, 그냥 쓴다'는 것에 있다. 현재 데이터 수집엔 명백한 프라이버시 침해가 담겨있어 윤리적 문제가 가득하다고 한다. '데이터 편'에서는 기술의 발전이란 명목하에 사람들의 데이터를 무작위로 활용하는 것과 같은 윤리적 문제점을 짚어준다. 인스타, 블로그에 올린 내 개인 정보들이 '한낱 부품처럼' 쥐도 새도 모르게 수집돼 연구되고 있을지 모를 일이구나 생각했다. 또 인공지능에는 감정이 실리기 마련이다. 몇년전에 어떤 기계학습연구자 집단에서 수집된 정보로 '범죄자를 분류하는 자동시스템'을 만들었다고 발표를 한 일이 있었다고 한다. 하지만 그 연구엔 단순히 빨간색 셔츠를 입은 사람을 범죄자로 분리하거나, 공교롭게도 흑인과 라틴계가 압도적인 비중을 차지했다고 한다. 만든 집단의 사람들의 평소의 생각이 담긴 것이다. 인공지능이 만들어질 때부터 이렇듯 차별이 담길 수 있다. 

기계가 무엇을 어떻게 공급받느냐는 그 기계가 세상을 어떻게 이해하는가에 어마어마한 영향을 미치며 기계 주인들의 우선순위는 항상 그 시야에서 어떻게 이익이 산출될 것인가를 만들어낼 것이다. 

인공지능은 인간의 지시 없이 판단을 내리는 객관적이고 보편적인 연산 기법이 아니다. 인공지능 시스템은 사회적 · 정치적 · 문화적 · 경제적 세계에 붙박여 있으며, 무엇을 어떻게 해야 하는지 결정하는 인간, 제도, 명령에 의해 빚어진다. 

땅속 광물에서 시작되는 인공지능은 탄소 문제에서 벗어난 완벽한 친환경이 아니며, 시스템에 필요한 채굴하는 광부, 공장 작업자같이 복지혜택도 없고, 고용안정도 되지 않는 노동자들을 통해서 만들어진다는 것. 자동화라는 현상을 위해서는 생각보다 수많은 노동자가 필요하다는 것. 또 알고리즘을 위해 거침없는 데이터 모음엔 많은 사회적 문제가 있고, AI는 결국 만들어지는 것이기 때문에 만드는 집단에 의한 차별이 담겨있기 나름이라는 것. 

기억나는 내용들을 정리해서 쓰고 보니 너무 부정적인 것뿐이란 생각이 들기도 하지만, 나는 'AI 지도책'이 인공지능의 배경엔 '알려고 하지 않는' 많은 문제점이 있다는 것을 알려주기 위해 쓰인 책 같았다. 아마 내가 한 번도 생각해 본 적 없는 관점이라 읽으면서 더 놀랐을지도 모른다.  'AI 지도책'은 간만에 '이래서 공부해야 되는구나, 찾아봐야 되는구나' 생각하게 만드는 책이었다.

** 리뷰어스 클럽의 소개로 출판사로부터 책을 제공받아 주관적으로 작성한 글입니다 **