대량살상 수학무기 – 주의하라 빅데이터

[eBook] 대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 10월

빅데이터라는 것은 모든 정보를 사람들이 볼 수 있어 좋다고 생각할 수도 있겠지만 우리가 편하다고 생각하는 것들이 삶에는 편리할 수 있겠지만 그 뒤에서는 그들만의 리그로 더 많은 빅데이터를 모아 자신들만의 것으로 만들어 '빈익빈부익부'를 더우 심화시키고 있다. 현실감이 없어서 편안하거나 좋은 것만 느끼고 정말 우리가 그 속에서 통제당하고 있는 것은 모르고 있을 수도 있는 현실을 보여주는 이야기

4차산업혁명 등 빅데이터에 대한 관심이 높아지면서 관련한 장점을 늘어놓은 책 또는 그로 인해 사라질 직업 등 단편적인 이야기를 하는 책들은 많았지만 빅데이터가 민주주의를 위협하는지, 그 불평등의 모습이 무엇인지는 그 많은 책들 중 이번이 두 번째로 읽는 책이 아닌가 싶다. 두 책이 이야기하는 불평등의 모습이나 미래는 비슷한 점이 많은데 전혀 근거없는 이야기도 아니고, 정말 경험하거나 현실의 모습이라는 점에서 나는 이 논리들에 동의하는 편이다.

수학은 국어와 다르게 답이 정해져 있는 아주 체계적으로 질서정연한 분야가 아닐까 싶다. 캐시 오닐 역시 이런 수학의 매력에 빠져 수학자가 되었지만 그녀가 공부한 수학과 현실은 전혀 공정하고 객관적이지 않았다. 심지어 투명성도 없고, 평등하지 않은 모습에 수학자이자 퀀트, 데이터과학자로 일하던 그녀는 장밋빛으로 포장된 빅데이터 경제가 민주주의를 위협한다는 사실을 깨닫게 되었다고 한다.

우리가 완벽하다고 믿는 프로그램들, 빅데이터의 기반이 되는 수학 경제 모형 프로그램들은 객관적이거나 공정할 수가 없다. 그렇지 못한 인간의 선택에 기반으로 코드화 했기 떄문이다. 물론 일부는 선한 의도를 가지고 있는 것도 분명하다. 이 부분의 주장은 빅데이터 불평등을 주장하는 저자들의 책에서 모두 동일하게 이야기 하고 있기도 하다. 하지만 인간이 인간의 편의, 혹은 회사의 이익을 위해 만든 프로그램은 편견과 오해, 편향성을 코드화 했고, 이 것은 아무런 교정 없이 우리의 삶 속 깊이 침투해 일상을 지배하고 있지만 우리 누구도 그 걸 지적하지도 않거니와 지적을 하고 싶어도 전문적인 분야라 제대로 알지 못하기 때문에 할 수 없다는 문제를 가지고 있는게 이 모형의 크나 큰 문제이다. 이렇게 사화적 약자와 가난한 사람을 차별하고 부자는 더욱더 부자로 만들어주는 경향이 있는 유해한 모형의 이름을 대량살상수학무기 Weapons of Math Destruction 줄여서 WMD 라 부른다.

이 약자가 누구일지 우리는 짐작할 수 있을까

대량살상 수학무기의 피해는 사실 우리 주위에서 심심치 않게 볼 수 있는데 아쉽게도 책에 나와있는 사례는 이 전 책에서 보았던 것들과 겹치는게 많다는 점에서 아쉽기는 했다. 학생들의 성취도라는 객관적 기준만으로 교사를 평가하는 시스템으로 인해 '나쁜교사'로 평가되어 206명의 교사가 해고되기도 하였다. 아마 우리 생활에서 가장 비슷한 피해사례를 떠올리라고 하면 신용평가점수

비슷한 사례가 담겼다고 해도 책의 내용이 다르듯 두 비슷해보이는 평가 시스템 역시 중요한 차이가 있다. 나쁜교사평가시스템은 말 그대로 교육청이나 학부모를 대신해서 일정한 평가기준을 이용해 교사의 자격을 평가하는 대리적 성격으로 그에 따른 보상으로 정치적 화폐라고 하는 문제가 해결되었다!라는 안도감을 얻게 된다.

반면 신용평가시스템은 고금리를 부과하는 소액단기대출의 대출자를 써치하는 비즈니스분야는 정말 화폐성, 물질적인 부분이 오고가는 것이다. 개개인만 본다면 억울하게 신용평가점수가 떨어진 사람들도 있지만 이 시스템은 잠재고객을 찾거나 대출자를 조종하기 위한 통계 시스템을 구축하거나 늘어나는 수익은 기업들이 올바른 길을 가고 있음을 알려주는 일종의 지표 기능이 된다. 

소프트웨어는 인간이 설계한대로 일을 하는 것이지만 문제는 금전적 이익이 진실에 대한 대체 데이터 역할을 하고, 이 대체 데이터가 진실인 것처럼 행새하는 위험한 상황 그 것이 문제이며, 수없이 보게 될 것이라 한다. 이런 문제는 시스템을 만든 사람들이 코드화를 하면서 실수를 했기 때문일까?

빅데이터도 수많은 시스템과 알고리즘도 결국 인간의 목적을 위해 설계되고, 설계하는 사람은 돈이라는 대가를 받기 위해 작업을 한다는 것을 기억해야할 것 이다.

『대량살상 수학무기』는 정말 불평등하고 위협적인 것인지 설명하기 위해서 1장에 걸쳐 WMD의 탄생에 대해 설명을 하지만 사실 가장 와닿는 건 2장. 셸 쇼크가 아닐까 싶다. 우리가 알고 있는 명칭으로는 서브 프라임 모기지 사태, 이 금융위기로 많은 것을 잃은 것이 많다. 하지만 이  사건 안 금융과 수학이 돈이라는 목적을 가지고 만든 시스템으로 인해 만든 WMD로 위기를 맞이하게 되었다는 원인을 알고 있는 월스트리트의 넥타이부대는 변하지 않았다. 또 다시 똑같은 위험이 닥치기 전까지는 크게 변화하려하지 않을 것이다.

이 수많은 WMD 들로 데이터의 포로가 된 사람들은 아마 지구 전체에 몇퍼센트를 빼면 되지 않을까 생각이 문득 든다.

캐시 오닐이 이야기한 피해는 정말 아쉽다, 괜찮은 책인데 너무 예가 복붙같아 읽은 책을 또 읽은 기분... 이게 너무 아쉽지만 2류 시사 주간지가 만든 대학 순위 가십거리로 인해 대학들이 경쟁을 하며 학생 모집을 위해 막대한 돈을 투자하고, 그 돈을 회수하기 위해 학생들의 등록금을 올리는 것부터 소액 단기대출업체들이 터무니없는 고금리를 부과해 폭리를 취하는 경우에도 WMD와 수많은 데이터 브로커, 리드 창출자들에 의해 채무자들은 평균 8번 정도 다른 대출로 갈아타게 만들어 현실보다 더욱 장기적인 대출처럼 보이게 만드는 경우도 있다.

이런 돈이 관련 된 것 외에도 경찰이 만든 범죄예측모형으로 사람을 평가하게 되면서 범죄를 저지르지 않은 10대임에도 범죄율이 높은 지역에 살고 있다는 이유만으로 범죄 가능성이 높아질 수 있는 것과 같은 점들이 더욱 큰 문제가 아닐까 생각이 된다. 이건 앞으로 가능성이 있는 아이들을 너무 잔인하게 짓밟는 방법이기 때문이다.

군사, 정치, 범죄, 대학, 교육, 기업, 일상

모든 곳에 WMD는 좋을 수도 나쁠 수도 있다. 대량살상 수학무기를 만드는 것은 결국 인간이기 때문이다. 사실 WMD는 사람을 살리는 역할이 되어줄 수도 있고, 어려운 사람들을 캐치해 도울 수 있는 지표로 삼을 수도 있다. 

대량살상 수학무기에는 아깝게도 그런 점이 좀 더 설명되지 않고, 익숙한 사례가 나와 아쉽다. 거대하고 무서운 이름과 다르게 내용은 너무 흡사하다는 점이 많이 마이너스 요소이지만 책을 통해 잊고 있던 위기를 다시금 느낄 수 있었다는 것 자체에 만족하기로 한다.

하지만 분명한건 인간이 원하는 이유에 따라 시스템을 만들어 때로는 예상치도 못하는 폭탄으로 사람들이 죽어나갈 수도 있지만 사람을 살릴 수도 있는 것이 WMD라 데이터에 공정성과 책임성을 부여할 수 있는 무언가가 필요하지 않을까