대량살상 수학무기/캐시 오닐/흐름출판/대단히 흥미롭지만 심란케 하는 책~

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

대량살상 수학무기/캐시 오닐/흐름출판/대단히 흥미롭지만 심란케 하는 책~

 대단히 흥미진진하지만 마음을 심란하게 하는 책을 만났는데요.

대량살상 수학무기!

대량살상무기는 핵무기와 같은 끔찍한 무기로만 알았는데, 수학이 그 무기로 변할 수 있다니 무섭기만 합니다.  

 저자인 캐시 오닐은 수학이 관여하고 있는 알고리즘이나 빅데이터가 과연 민주주의를 보호할까에 대한 의문을 제시했는데요. 그와 동시에 대량살상 수학무기의  사례를 상세히 분석하고 대중의 눈높이에서 서술했기에 그 결과는 사뭇 충격적입니다.

 대량살상 수학무기가 어떻게 민주주의를 위협하는 걸까요.

알고리즘의 힘은 대개 신의 영역으로 치부되기도 했는데요.

알고리즘의 의사결정과정은 IT기술과 수학 기술로 숨겨져 왔고, 최고 수학자들이나 컴퓨터 과학자들만 알 수 있기에 그 결과는 끔찍합니다.

수학이론과 빅데이터, IT기술이 결합해 만들어 낸 빅데이터 모형이 우리의 정치, 경제, 노동, 교육, 행정서비스, 보험 등 우리 생활의 모든 영역에서 막대한 영향력을 행사했기에 피해 사례는 더 있을 수도 있고요.

한 예를 보면 ,대량살상 수학무기의 특징 중 불투명성인데요.

2007년 워싱턴 D.C 시장은 관내 학생들의 낮은 학업성취도가 무능한 교사 때문이라며 이들을 해고했답니다. 문제는 매가매티카라는 평가시스템이 많은 교사들을 학업성취도 수준이 낮다며 실패자로 낙인을 찍었고 그것으로 퇴출을 당했는데요. 이 평가 시스템이 옳은지 그른지에 대한 사후 학습 과정이 없었고 그것으로 끝이었다는 겁니다. 이중엔 동료교사와 학부모의 절대적인 지지를 받는 헌신적인 교사들도 있었다니 분명 문제가 있었던 거죠. 교육자적 관심을 쏟기보다 시험준비에 열을 올렸던 학교, 시험 후 답안수정에 나선 학교도 있었다니 말을 다한거죠. 심지어 전체 학급의 70%가 부정행위에 가담했다니 어이없기도 하고요.

이외에도 알고리즘의 문제로 확장성과 피해의 악순환이 제기되기에 알고리즘이 불평등을 확산하고 민주주의를 위협하고 있는 실정이랍니다.

우리가 알고리즘의 결정을 자발적인 선택이라고 믿었는데 실망이 큽니다. 빅데이터의 차별적 판단이 확산되기에 절망감이 큽니다. 알고리즘이 불평등을 확산하고, 개개인의 확장된 사회통제를 가하고 있고, 불공정성을 널리 퍼뜨리기에 걱정이 됩니다.

믿을 수 있는 것이 점점 사라지고 빅데이터로 무장된 사회가 오기에 두려움이 앞서는군요.