대량살상 수학무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

대량살상하면, 보통 생화학무기를 떠올리기 마련인데요. 그런데 <대량살상 수학무기, Weapons of Math Destruction>를 읽고 나니 이제는 수학이 무기가 되는 세상이 되었구나 라는 생각이 드네요. 문득 앞으로의 영화에서는 생화학 무기를 살포하기 위해 비밀스러운 작전을 짜는 모습보다는, 빅데이터 알고리즘을 조작하여 사회적 혼란과 공포를 야기시키는 장면이 나오지 않을까 싶을 정도였는데요. 문득 톰 크루즈가 등장했던 영화 ‘마이너리티 리포트’가 떠오르네요. 빅데이터를 통해서 미래의 범죄자를 예측해서 처벌하는 시스템이었으니까요. 그리고 이미 그것은 영화 속의 가상의 현실만은 아니었고, 그 영화 속에서 시스템의 오류와 조작 역시 허구가 아니었습니다.

물론 저는 ‘사피엔스’의 저자 유발 하라리의 추천사에 끌려서 선택하게 되었지만요. 이 책과 저자캐시 오닐을 가장 잘 설명한 글은 바로 타임의 추천평이 아닌가 싶습니다. “저자는 빅데이터 업계의 내부고발자가 되는 길을 스스로 선택했다. 잘못된 알고리즘이 어떻게 눈덩이처럼 큰 피해를 몰고 오는지 적나라하게 고발한다.”입니다. ‘내부고발자’라는 표현이 정말 흥미로운데요. 하버드 출신의 수학자인 캐시 오닐은 세계 최고의 헤지펀드 퀀트(금융시장 분석가), 실리콘밸리의 데이터과학자로 활동하다가 빅데이터 경제가 갖고 있는 이면을 깨닫고 그 것을 알리기 위해 앞장서고 있는 인물이거든요. 이 책 역시 그런 활동의 일환인데, 저처럼 수학과 데이터 그리고 IT기술에 무지하지만, 과학적이라고 생각하며 매우 신뢰하고 있는 사람들에게는 정말 충격적으로 다가오는 내용이기도 합니다.

빅데이터 알고리즘이 갖고 있는 부정적인 면들을 딱히 지칭할 말이 없어서인지, 그녀는 책 제목은 ‘Weapons of Math Destrcution’의 약어 ‘WMD’를 사용합니다. 그리고 그 것이 갖고 있는 세가지 특징을 실례를 들어서 설명하는데요. 가장 기억에 남았던 것은 바로 ‘해로운 피드백 루프’입니다. 처음에 언급했던 범죄 예측 프로그램에서 이런 문제가 나타나는데요. 우범지대로 분류된 동네에 순찰차를 많이 배정하다보니, 범죄 단속 건수가 높아지고, 그러면 다시 이런 데이터가 범죄 예측 시스템에 기록되고, 더 많은 경찰들이 그 지역에 투입되게 되는 것이죠. 예전에 제가 본 미국 드라마에서도, 범죄가 만연한 지역 출신의 연방수사관에 대한 편견이 전면적으로 드러난 적이 있는데요. 예전에는 그런 것을 편견이라고 불렀지만, 이러한 방식으로 축적된 빅데이터가 근거자료로 제시되면 저부터가 합리적인 의심으로 바라보지 않겠는가 하는 두려움이 생기더군요.

책을 읽으면서 다행스럽게 느껴진 것은 빅데이터가 양날의 검이라는 것을 알게 된 것이죠. 수학과 데이터 그리고 IT기술의 결합이라는 이유만으로 과학적인 통계라는 무조건적인 믿음을 가질 것이 아니라, ‘모형 개발자를 위한 히포크라테스 선서’의 구절처럼, 이 역시 완전하거나 절대적인 가치를 가진 것이 아님을 인정해야 할 거 같습니다.