대량살상 수학무기 -캐시 오닐

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

책 제목만 봐서는 무슨 내용인지 예측하기 어려웠다. WMD라는 용어는 보통 대량 살상 무기라는 뜻으로 쓰이는데 mass를 math로 바꿔 수학적 통계를 의도적, 또는 의도적이지 않았더라도 잘못된 방향으로 이끄는 여러 사례를 담고 있는 책이었다. 가장 일반인들에게 와닿는 사례는 아무래도 비만관련 수치였다. BMI지수 관련해서 특정 숫자가 넘으면 과체중 또는 비만이라는 판정 또한 과학적으로 신뢰하기 어려운 기준이라는 부분. 이는 혈압 관련해서도 비슷한 의견을 본기억이 났는데 사람들이 더 빨리 혈압약을 복용하도록 유도하고 체중감량에 더욱많은 관심과 비용을 쏟도록 만들기 때문이다. 그러고보니 평균체중 이상인 사람이 평균수명 이상을 산다는 결과도 있었던 걸로. 그렇다고 폭식을 권장하는건 아닐테지만 과유불급 정도로 받아들이면 될듯.

빅데이터 시대니 뭐니 하는 이야기가 들릴 정도로 하루에도 개개인이 수많은 데이터를 생산하고 이는 많은 기업들에 의해 취사선택, 가공되어 나 또는 내 또래, 심지어 내 가족을 대상으로한 마케팅 자료로 활용된다는 부분은 구글광고 및 각종 쇼핑몰에서의 추천상품 리스트를 통해서 접하고 있어 너무 익숙해져버렸는데 마침 최근 구글의 광고최적화를 위한 추적기능이 뉴스화되어 그대로 두어도 괜찮은 것인지 다시 생각해보기도 했다. 개인적으로는 아직까진 크게 도움이 된 경우도 없지만 전혀 상관없는 광고를 보는 것보다는 나을것 같아 끌까하다가 그대로 두었다는. 다만 이 메시지 만큼은 눈에 밟혔는데 'WMD세상에서 프라이버시는 오직 부자들만이 즐길 수 있는 사치품이 되고 말았다.'라는 부분.

또 미국 사례이긴 하지만 올바르지 못한 교사 평가시스템으로 인해 유능한 교사가 불합리한 처분을 받는 경우를 보면서 KPI에 매몰되어 큰그림을 보지 못하는 사례와 더불어 대안으로 떠오르고 있는 OKR이 생각나기도 했다. 10개의 챕터의 시작은 이런 사례로 시작하는데 숫자중심으로 평가하는 이력서 필터링의 문제와 더불어 생산성을 점수화하려는 시도들에 대한 이야기들이 아무래도 좀 더 와닿았던것 같다. 

최근 '나의 아저씨'라는 드라마를 뒤늦게 완주했는데 막판에 이선균이 승진인터뷰를 보면서 아이유를 왜 뽑았냐는 질문과 살인자인것을 알고 있었느냐는 악의적인 공격에 대한 멋진 답변장면이 다시금 떠오르기도 했던, 재밌다기 보다는 모든 수학적 알고리즘에 대해 비판적인 시각을 가져야겠다는 교훈을 던져준 책이었다. 책에서는 부정적인 피드백을 생산하는 알고리즘을 주의하라고 경고하고 있다. 긍정적 피드백 루프를 추구해야한다나. 전반적인 주제를 아우르는 핵심 문장은 아래가 아닐까 싶다.

'데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다.'