대량살상 수학무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

수학을 잘하는 사람들이 금융상품을 개발하고, 우주선을 쏘아올리고, 정부정책에 기안을 만드는 일을 하는 것을 보아왔다. 최근 들어 알고리즘을 컴퓨터에 입력시켜서 인공지능 로봇을 만든다거나 시리(SIRI)와 같이 말을 알아듣고 대응가능한 비서를 만들어 우리의 일상에 편리함을 주고 있다. 그러한 수학이 대량살상을 하는 무기로 사용된다는 제목이 의아해진다. 

저자 캐시 오닐은 수학교수로 재직하다가 현장에서 수학을 이용하고 싶다는 생각에 헤지펀드 회사에 입사를 하고, 2008년 금융위기를 계기로 금융업계가 수학을 가지고 얼마나 위험한 무기를 만들어 휘두르는지에 회의감이 들어 위험을 측정하는 리스크메트릭스 그룹에 조인한다. 다시 현재는 인터넷의 빅데이터를 다루는 데이터과학자로 일하고 있다. 솔직히 수학을 잘하는 사람이 이렇게 금융권에서 화려한 이력을 가지고 일을 할 수 있다는 사실을 처음 알았다. 나와 같은 일반 소비자는 주어진 상품을 판매하는 사람들을 주로 알고 지낼뿐인데 그 뒤에서 상품을 만들어내는 일을 하는 사람들을 접하기는 쉽지 않다. 비록 미국에 대한 이야기이기는 하나 익숙한 이야기들이 대거 등장하고 우리나라 현실과도 연관지어 있어서 이해하는 데 어려움은 없다. 다만 굉장히 많은 용어와 다양한 개념을 설명하고 여러 문제점에 대한 사례가 풍부하게 소개되어서 그 많은 양에 부하가 걸릴 정도이다.   

이야기는 워싱턴 교육청에서 실시한 모형을 가지고 학생들이 수학과 영어 성취도에서 낮은 점수를 얻게한 선생님을 파면시키는 일화로 시작한다. 학생들의 시험점수가 곧바로 선생님의 인사고과에 연결되어 있는데 그 모형에는 정량화하는 알고리즘만 들어있고, 정성적인 부분은 결여되어 있음을 지적한다. 따라서 아주 훌륭한 선생님도 학생들의 성적이 좋지 않다면 퇴출되어야한다는 문제점을 노출시켰음에도 수정하지 않고 더 많은 지역에서 이용하도록 격려한다. 이에 문제가 되는 것이 불투명성, 확장성, 파괴적 피드백 루프(피해)의 3요소이다. 퇴출되는 선생님에게 구체적인 이유를 알려주지 않는 불투명성과 좋은 의도로 시작했더라도 문제점이 있을 때에는 수정해야하는데 이를 무시하고, 수단이 목적이 되어 버리는 것이다.

수학모형은 인생 전체에 걸쳐 지배할 수 있다. 이를테면, 학생은 점수화된 줄세우기에 의해 높은 점수를 목표로 공부를 하게 되고, 대학은 <US뉴스>라는 2류 신문사가 만들어낸 대학 서열화모형에 의해 우수한 학생을 데려오기 위해 입학 사정모형을 만들어 학생들을 줄세우고, 합격과 탈락의 기준이 불투명하기에 많은 돈을 주고 대학에 붙기 위한 캠프를 여는 얌체같은 업체들이 등장하고, 대학을 졸업하면 취업을 위해 기업이 만들어 놓은 입사모형에 의해 왜 탈락한지 알수없는 채 대출이라도 받으려고 하면 금융계의 개인 신용도 평가에서 낮은 점수를 받아 결국 고금리 대출을 받게된다. 개인은 그 자신으로 평가되지 않고 버킷 안에서 비슷한 지역, 성별, 인종 등의 요소로 서열화된 그룹 속의 어디에 속하는지로 평가된다. 현재의 수학모형은 빈곤층에게 불리하게 되어있지만 추후에 더 발전이 되면 화이트칼라역시 그 대량살상의 대상이 될 것이다.  

빈부의 차이, 인종차별, 학력의 정도 등이 높으면 선순환의 고리에서 세상이 살만하다고 느끼지만, 그 정도가 낮은 부류의 사람들은 악순환의 고리에서 헤어나지 못하고 인생이 고달프다고 느껴지게 하고 더 심한 경우 범죄에 연루되어 교도소에서 인생을 마감하는 것으로 끝나게 된다. 이 모든 것이 사회 곳곳(교육, 금융, 취업, 업무, 정치) 에서 사람을 평가하는 빅데이터와 알고리즘에 기반한 수학모형의 부작용인 것이다. 이를 해결하기 위해 모형을 만드는 자들의 양심선언(히포크라테스선언과 같은)이 있어야하며 정부의 규제와 감사가 이루어져야한다고 주장한다.  

사회 저변에서 일어나는 일을 표면화시켜서 이 사회가 어떻게 움직이고 있는지를 알려주는 책이다. 보이는 것이 전부가 아님을 또 다시 깨닫게 하는 책이다. 수학모형이 사회에서 어떻게 작용하고 있는지 구체적인 사례들이 궁금하다면 일독을 권한다. 흥미로운 책이다.