대량 살상 수학 무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

1. 대량 살상 수학 무기(Weapons of Math Destruction, WMD). 이 책의 저자인 캐시 오닐이, 지금부터 소개할 각종 모형들을 통칭하기 위해 만든 일종의 신조어다. 어원은 '대량 살상무기(Weapons of Mass Destruction)에서 따왔으며, 핵폭탄이나 생화학무기처럼 가공할만한 파괴력을 지녔다는 점에서 거의 동일한 의미를 지닌다.

2. 계량경제학, 퀀트, 금융공학, 파생상품 등으로 표현되는 2000년대 금융 자본주의는 미국의 모기지론 사태와 같은 세계 금융시장의 붕괴 때, 그 가공할만한 폭발력과 위험성을 보여주었다. 실체가 아닌 가상의 투자 상품은 마치 소시지 안의 고기처럼, 그것이 어디에서 왔는지도 모른 체, 기득권과 결탁한 국제 신용평가사의 최고 등급 마크로 포장되어, 전 세계에 유통되었다. 저자(이 책을 쓰기 전까지, 그녀 역시 유망한 퀀트였다.)도 책에서 솔직하게 밝히고 있지만, 자신이 하는 일이 어떤 결과를 가져올지도 모른 체, 그냥 수학 계산과 데이터 분석만을 반복했던 사람들과 거대 자본의 탐욕(?)이 모여, 엄청난 금융위기를 초래했다. 이와 함께 초단타 매매, KIKO 등 신문을 장식했던 각종 금융공학 + 기술의 산물들도 이러한 위험의 확장에 한몫을 했고.

3. 금융위기 직후 이러한 문제점을 언급한 다큐와 출간물이 많이 쏟아져 나왔다. 그리고 정책적으로 제도적으로 이를 시정하기 위한 움직임이 있었다. 하지만 그러한 고민도 잠시, 새로이 나타난 수학 기법들은 이제 금융 시장을 넘어 개인의 사생활뿐만 아니라, 각종 사회제도와 정책 등으로 뻗어나가는 추세다. SNS와 안면 인식, 쿠키 등에서 수집된 구매 패턴, 각종 위치정보와 자발적으로 등록된 SNS의 개인 정보들, 지문, 개인 호불호에 대한 정보는 수집되고, 축척되어 거대한 데이터를 이루게 되었다. 바로 빅데이터. 수많은 사람들이 환호하고, 새 시대의 먹거리로 칭송받는 아이템이다.

4. 저자는 이를 거대한 문제로 바라본다. 빅데이터, 정교화된 수학 기술이 모두 잘못됐다는 게 아니라 지금 흘러가고 있는 방향에 문제가 있다는 거다. 이렇게 만들어진 모델들이, 진실을 찾는 것이 아니라 스스로 진실을 구현한다고 말이다. 범인을 잡는 게 아니라, 특정 인종과 특정 지역에 사는 사람들을 잠재적 범죄자 그룹으로 정의하고 그들을 묶어둔다. WMD의 위험한 편리함이다. 한번 신용평가의 마지막에 포함되면, 이것이 취업과 결혼, 사회생활 전반에 영향을 미친다. 바로 WMD의 위험한 확장성이다. 나아지기 위한 평가가 아니라, 모델에서 부여하는 좋은 등급을 받기 위한 평가 업무로 변질된다. 피드백 없는 수학 모델의 맹점이다.

5. 구글과 아마존의 모델들은 계속해서 데이터를 수집하면서, 모델을 수정하고, 개선해 나간다. 저자는 이때 중요한 것이 피드백이며, 더 나아가 투명성까지 갖춰야 한다고 말한다. 책에 소개된 재범 위험성 모형(범죄자를 찾는 데 사용됨)이나, 학교 선생을 평가하기 위한 모형들은 투명하지도 않고, 결과를 피드백하지도 않는다. 제도에 사람을 맞추고 있는 셈이다. 저자는 불평등과 양극화가 지속될수록, 일부 부자들은 대면 평가를 통한 다양한 기회와 빅데이터 분석 결과가 제공하는 양질의 서비스에 마주하게 되겠지만, 대다수의 사람들은 비용 절감을 위한 거대 수학 모델의 재료로 사용될 것이라고 경고한다. (즉, 우편번호 주소로 각종 공과금과 보험료가 책정되고, 범죄 위험성을 판정받게 되는 것이다.)

6. 대리 데이터가 현실을 대체하면, 기계장치와 인간이 뒤바뀌는 결과를 초래한다. 인간이 꿈을 그리며, 이를 실현하기 위해 나아가는 게 아니라, 정해진 꿈에 자신의 현실을 맞추어가게 된다. 그리고 그 정해진 꿈(본인 스스로가 꿈꿔왔던 것이라고 믿게 될 무언가)은 바로 수학 모델이 만들어낸 허상이 될 것이다.

7. 책에는 이 외에도 "악랄하기까지 한" 많은 모델들이 등장한다. 특히, 삶이 더 나아지고자 열망하는 사람들을 학자금 대출의 덫으로 빠뜨리는 맞춤광고(미디어에서는 자신이 원하는 무언가를 즉시, 저렴한 가격에 살 수 있는 기술로 묘사되고 있다.)의 또 다른 면과, 모두를 위한다고 말하지만 실제로는 특정 지역의 주민들만을 위한 마이크로 타기팅(선거 홍보 및 후원금 관련)은 "인간의 무의식까지 통제하는 알고리즘의 역습"이라는 문구에 딱 걸맞은 대량 살상 수학 무기다.

8. 저자는 빅데이터의 위험성을 경고함과 동시에, WMD의 장점을 통해 순기능을 활성화시킬 수도 있다고 보고 있다. 다만, 이 책에서는 전자에 대한 내용을 더 많이 할애하고 있고. 현재 이 책은 우리나라뿐만 아니라 세계 각국에서도 베스트셀러 목록에 올라와 있다. 그만큼 많은 사람들이 빅데이터가 가져올 위험성, 그 그림자에 주목한다는 뜻일지도 모른다. 출간 예정이 있을지는 모르겠지만, 그녀의 후속작을 기다려봐야겠다.