[흐름출판]대량살상수학무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

대량살상수학무기 캐시 오닐 지음

고급 수학자들이 보험사나 금융회사에서 알고리즘관련 업무를 하고 있다는 것은 어느 정도 알고 있었다. 보험사에서 판매하는 보험은 내가 낸 보험료보다 더 많이 가져갈 수 없도록 설계되어 있어 개인에겐 손해지만 개인들은 그것을 제대로 감지하지 못하고 보험설계사의 상술에 계약하게 된다. 미래를 예측할 수 없는 인간의 공포마케팅을 이용해서 보험사들은 막대한 이윤을 얻는다.

정작 필요한 장애인이나 질병들이 많을 확률이 높은 노인들, 중병이 있는 사람들은 애초에 보험에 가입할 수 없을 뿐 아니라 보험가입조건의 높은 장벽으로 가입에 제한이 많다. 개개인이 민간보험료를 많이 넣는 것 보다는 의료보험료를 높여 다양한 혜택을 받는 것이 실질적으로 유리하지만 대부분의 사람들은 민간보험료를 더 신뢰한다. 깨알처럼 작고 빽빽하게 써있는 약관도 제대로 보지 않는 보험가입자가 보험에 적용된 알고리즘을 봐도 해독할 수 없다. 주식도 마찬가지이다. 개미들이 전문주식 트레이더나 금융사보다 주식으로 돈을 벌기는 제로에 가까운데 그 이유는 정보와 자금의 비대칭때문이다.

수학과 데이터, 정보화 기술이 결합한 빅데이타 모형은 그 자체로 볼 때 정량할 수 있는 숫자와 수학이란 과학과 정보기술의 융합으로 편견에 사로잡힌 인간보다 훨씬 공정하고 정확하다고 생각되기 쉽지만 빅데이타 모형의 목적에 따라 인종과 여성, 저학력의 가난한 사람들에게 많은 기회들을 강탈하며 그들을 가혹한 환경으로 몰아 넣는지 <대량살상수학무기>에서 자세하게 보여준다.

<책소개>

저자의 이력이 매우 독특하다. 저자는 대학에서 수학과 종신교수로 재직하다가 세계금융위기를 낳은 서브프라임모기지사태가 발생하기 전에 증권가의 퀀트로 활동하다가 약탈적인 금융시장의 메커니즘과 금융위기를 겪고 내부 고발자가 되어 빅데이터의 위험성을 폭로하며 월가와 다른 대안금융그룹을 운영하고 있다.

인공지능의 딥러닝과 기계학습을 가능하게한 빅데이터는 인공지능의 수준을 고차원으로 올리면서 지금과 전혀 다른 세상인 기술유토피아를 꿈꾸게하지만 빅데이터를 활용한 수학 기법들은 금융시장뿐 아니라 인간들의 삶에 깊숙히 침투하여 인간들을 분석하는 도구로 활용되며 우리의 삶과 미래를 위협하고 조정한다

빅데이터경제에 사용하는 프로그램들은 인간의 선택에 기반을 두기에 대다수 모형은 인간의 편견, 오해, 편향성을 코드화한다.

저자는 인간의 편견, 오해 ,편향성을 확장시키는 모형들을 통칭해서 대량살상무기 대신 대량살상수학무기로 명하며 줄임말은 대량살상무기와 같은 WMD와 같다.

교사 평가 프로그램인 가치부가모형, 범죄예측프로그램, 교도소 시스템, 양형에 사용되는 재범위험성모형, 인사시스템 등은 대표적인 WMD인데 모형의 분류하는 대상자들은 그 조건을 알 수 없는 비공개성 특징이 있고 파괴적인 피드백 루프가 작동하여 불공정성을 확장시키며 광범위하게 표준적인 규범으로 확장되어 사람들에게 파괴적인 피해를 주는 모형들을 말한다.

저자는 여러 분야에서 사람들을 통제하는 WMD를 심층분석하여 가난한 저소득층 유색인이 그렇지 않은 사람에 비해 구직에 실패하고 잠재적 범죄자로 등록되어 별도 관리되며 죄를 지을 경우 그렇지 않은 사람에 비해 형량이 더 무거워 교도소에 오래 수감되며 직업학교인 영리대학의 표적이 되어 높은 학자금대출금의 덫에 빠지게 된다.  자본주의 시장경제의 결함이 수학알고리즘으로 해결할 수 없고 오히려 WMD를 양산할 수 있기에 수학알고리즘의 불완전한 한계를 분명히 인식하며 알고리즘에 인간적 가치를 반영하며 알고리즘의 감사를 해법으로 내놓는다.

감상

꼭 소장해야 할 책이며 반복해서 읽고 싶은 책이다.

빅데이터와 자동화가 실제로 우리의 모든 영역을 평가하는 측정도구로 활용되고 있다.

데이터과학자가 아니면 각 분야의 수학적 모형의 메커니즘과 그 영향들을 정확히 알 수 없을텐데 전문가의 양심고백으로 알 수 있었다.

개인의 이윤극대화든 세수의 감축이든 인력감축으로도 동등한 수준으로 유지하려면 자동화된 소프

증권파트에선 증권용어 때문에 어려워서 맥락을 일부 놓치거나 집중력이 분산되었지만 전반적으로 저자가 글을 매끄럽고 논리적으로 잘 썼을 뿐 아니라 저자의 사례는 수학자가 아니면 알 수 없는 알고리즘에 관한 내용들이라 대단히 신선하며 충격적이다. 빅데이터를 이용한 프로그램들이 영리만을 추구하는 집단과 결합할 때 혹은 정부나 기업, 학교의 표준이 될 때 불평등을 심화시키며 민주주의를 해칠 수 있음을 똑똑히 보여준다.