대량살상수학무기 / 캐시 오닐

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

인문/사회학 : 대량살상수학무기

  저자인 캐시 오닐은 UC버클리를 졸업하고 하버드대학교에서 수학 박사 학위를 받은 전문가이다. 수학과 종신 교수로 재직하다가 수학 활용법에 매료되어 헤지펀드 디이 쇼의 퀀트가 되고 2000년대 글로벌 금융계의 호황과 붕괴를 직접 겪은 인물이기도 하다. 이후 수학과 금융의 부정적 결탁에 환멸을 느낀 후 IT업계에 종사하면서 수학 모형을 개발하고 있는데, 이런 환경 속에서 온갖 불평등한 만행을 저지르는 치명적인 수학 모형들에 대해 느낀 저자는 민주주의를 위협하는, 아무도 알려주지 않았던 빅데이터 이야기 '대량살상수학무기'에 대해 이야기를 해주고 있다.

수학자이자 퀀트, 데이터과학자로서 나는 빅데이터와 인공지능이 가진 파괴적인 힘을 수년간 목격했습니다. 이 책은 내 여정의 기록이자 내부 고발이며 전문가로서의 제안입니다. 수학, 데이터, IT기술의 결합으로 만들어진 알고리즘들은 지금 이 순간에도 곳곳에서 '보이지 않는 손'이 되어 무소불위의 권한을 휘두르고 있습니다. 특히 인간의 편견과 무지, 오만을 코드화한 프로그램들은 차별을 정당화하고 민주주의를 위협합니다. 저는 이런 프로그램들이 '대량살상무기 Weapons of Mass Destruction'만큼 위험하다고 생각합니다. 그래서 이것들에게 '대량살상수학무기 Weapons of Math Destruction', 줄여서 WMD란 이름을 붙였습니다. 대량살상수학무기는 이 책의 제목이기도 합니다. - p. 6

  빅데이터 시대에서 보통 수학 모형들이라고 하면 공정하고, 평등한 알고리즘이라고 생각하기 쉽다. 그러나 정말 이런 모형들이 투명하고 공정한가? 이 책은 수학이 어떻게 오용되고 남용될 수 있는지를 알려준다. 공정함이 프로그램될 수 있다면 불평등 또한 프로그램될 수 있다. 실제로 책임감 있고 유능한 사람임에도 불구하고 빅데이터를 기반으로 분석된 그 사람이 단지 모형에 포함되었다는 이유만으로 취업이 되지 않고, 대학에서 걸러내어진다. 문제는 이런 경우 어떠한 이유 때문에 기회가 박탈당하는지 조차 알 수 없다는 것이다.

사람들은 무언가를 명확히 정의하기보다는 강렬한 인상을 주기 위해 수학 공식들을 의도적으로 이용했다. - pp. 83-84

  WMD 모형으로 혜택을 얻는 사람들도 분명 있지만, 고통을 받는 사람이 더욱 많다는 것이 문제가 된다. 하향식 악순환이 지속된다. 착한 의도로 제작된 착한 모형이 있는 반면 불공정한 WMD 모형이 있음도 분명한 사실이다. 어떠한 대리 데이터를 사용하게 될 때, 그 데이터를 조작하기 쉽다는 것이 가장 큰 문제가 된다. 데리 데이터는 본질적으로 부정확하고 가끔 불공정할 뿐만 아니라 데이터에 장난치기도 어렵지 않다. 인간들에게 차별하는 법을 배운 컴퓨터는 한술 더 떠 효율적으로 차별적인 심사를 하는 결과를 내놓는다.

수학 모형들이 데이터를 철저히 조사해서 범죄, 빈곤, 교육 등 중요한 문제에 직면할 가능성이 높은 사람들을 걸러낼 수 있음을 보여주는 사례는 주변에 널려 있다. 그런 정보를 어떻게 이용할지는 사회가 선택할 몫이다. 그들을 배제하고 처벌하기 위해 이용할 수도 있고, 그들에게 필요한 자원을 제공하면서 끌어안을 수도 있다. 요컨대 WMD를 치명적인 무기로 만드는 2가지 특징인 확장성과 효율성을 사람들에게 도움을 주기 위해 이용할 수 있다. 그것은 온전히 우리가 어떤 목표를 선택하느냐에 달려 있다. - p. 200 

  저자는 자신의 경험에 빗대어 금융 시장에서의 부당함, 채용 결과의 차별적인 필터, 대학 순위 시스템의 결함 등에 대해 설명하고 사례 또한 들어 자세하게 이해할 수 있도록 돕고 있다. WMD는 수학의 탈을 쓴 유해한 가정들이 검증 과정을 거치지도, 의심의 시선을 받지도 않은 채 무조건적으로 받아들여지고 있다. 그렇기에 자신이 모형에 포함되거나, 그렇지 않고 어떻게 사용되는지 알더라도 그 모형이 불투명하거나 비공개적인지 따져보아야 한다.

수학은 WMD보다 더 나은 대접을 받을 자격이 충분하다. 민주주의도 마찬가지다. - p. 359

  모형 자체는 나쁘지 않다. 모형을 나쁘게 이용하는 것이 문제가 된다. 컴퓨터, 데이터, 알고리즘 등은 그저 효율적인 도구일 뿐이다. 오직 인간만이 시스템에 공정성을 주입할 수 있다. 그러므로 모형을 감시하는 것이 무척이나 중요하다. WMD를 감시하고, 통제해 투명하고 공정한 결과를 얻을 수 있도록 지속적으로 관심을 줘야 할 것이다. 그러면 그 알고리즘은 착한 모형이 되어 도덕적이고 공정한 결과를 내어줄 것이다.