대량살상 수학무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

빅데이터라는 용어는 과거에 대용량 또는 대규모 데이터(Large Data)라고 표현되다가, 2010년대에 들어서면서 본격적으로 사용되기 시작하였습니다. 처음에는 단순히 큰(Volume) 데이터를 의미하던 빅데이터가, 점차 '다양한(Variety)' 형태의 '큰(Volume)' 데이터를 '빠르게(Velocity)' 처리하는 기술적인 부분을 지칭하면서 ICT의 성장을 이끌고 있지요.

그렇지만 지금 현재 그리고 미래에도 빅데이터가 중요한 역할을 할 것이라고 판단하게 하는 주된 이유는 빅데이터 분석을 통해 얻어지는 정보의 '가치(Value)' 때문일 것입니다.

빅데이터 초기에는 페이스북이나 트위터 등과 같은 SNS 데이터를 이용한 빅데이터 분석을 많이 시도했습니다. 일례로, 트위터와 페이스북을 이용하여 할리우드 영화의 흥행을 예측한 사례를 들 수 있는데, 영화에 관심 있는 관객들이 영화에 대한 기대, 평가 등을 자신의 SNS에 업로드 한 것을 분석하여 영화의 흥행을 예측한 것이 그것입니다.

2008년 <와이어드>​의 편집장 Chris Anderson은 '데이터의 홍수로 과학적 방법은 구식이 되었다.'고 말한 바 있습니다.  그는 전통적인 과학적 발견과정은 이제 쇠퇴하고 있고, 이론이 필요없는 순수한 상관성이라는 통계적 분석이 그 자리를 대신한다고 주장하며, 새로운 방법론의 예시로 구글의 검색엔진과 유전자 분석을 들고 있죠.

"이제는 대량의 데이터와 응용수학이 다른 모든 것을 대신하는 세상이다. 바야흐로 데이터만 충분하다면 숫자들은 스스로 입을 여는 시대가 도래했다"

이처럼 수학적 통계, 확률 알로리즘에 근거한 빅데이터를 기반으로 사회, 정치, 문화, 경제 모든 영역의 분석과 이해의 지평을 열어가고 있는 지금, 오히려 본서 <대량살상 수학무기 Weapons of Math Destruction)>에서는 이러한 빅데이터가 인간의 무의식까지 통제하는 알로리즘에 의해 궁극적으로 사회 불평등을 확산시키고, 민주주의를 위협하게 된다는 진단을 내리고 있습니다.

저자는 빅데이터를 활용한 수학적 모델이 사회적 불평등을 일으키거나 인간의 삶에 해로운 영향을 미치는 경우를 WMD(Weapons of Math Destrcution)이라 지적합니다.

즉, 시민으로서, 소비자로서 우리에 대한 수 없이 많은 정보가 어떤 제약도 없이 수집되어, 수상쩍은(불투명한) 알고리즘을 통해 우리를 점수화하고 평가내리고 있다는 것이죠.

우선 각종 데이터를 통한 수학적 모델을 도출할 때의 문제점을 아래와 같이 제시합니다.

1) 모델은 너무 단순화 되어 있어서 예외적인 상황에 대비하지 못한다.
2) 데이터 자체가 오래되면 모델의 유용성 또한 사라진다.
3) 모델을 만드는 사람의 우선수위, 선호도가 반영되어 있다.

결국, 수리적 모델이라고 하지만 주관적이거나 자의적인 판단으로부터 자유로울 수 없다는 것이죠.

이어서 저자는 아래의 세 가지 WMD의 조건을 이야기 합니다.

1) Opacity : 모델의 사용 목적과 알고리즘이 어떻게 구성되어 있는가는 매우 불투명함
2) Damage : 모델은 인간의 삶에 막대한 피해를 입힘
3) Scale : 그 피해의 규모는 단순히 개인이 아닌 사회, 전 세계로까지 확장 가능함

이렇듯, WMD는 위 세가지 조건을 수반하며, 인간의 삶 전반에 해로운 부정적인 영향력을 행사하고 있으며, 이에 대한 생활속의 실제 예들을 총 10장에 걸쳐 상당히 지면을 할애해 확인시켜주고 있습니다. 아래는 저자가 제시하는 실예 중 일부입니다.

(미국 내 대학 평가 방식의 불합리, 범죄자의 형량 선고의 문제점, 약자들을 노리는 약탈적 광고, 인적성 검사를 통한 인사 및 고용 행태의 문제점, 보험료 책정의 불공정성 및 민주주의 선거제도를 위협하는 정치권의 술수 등)

또한 확장성과 효율성이란 특성 때문에 그런 빅데이터를 발판삼은 WMD의 영향력은 날로 확대되고 피해 또한 확산되리라 봅니다. 물론 미국 독자들을 염두에 두고 썻다곤 하지만, 내용 자체는 전 세계 모든 사람들의 삶과 연결되어 있음을 머릿말에서 분명히 밝히고 있지요.

현재를 사는 우리는 데이터의 홍수 속에서 허우적대고 있습니다. 본서를 통해 "숫자는 사실만을 말하며, 객관적이고 공정할 것이라는 믿음"을 한 순간에 날려버렸습니다. 윤리와 도덕성은 차치하고라도, 진실을 찾는 대신 스스로 진실을 구현해 버리는 피드백 불가의 WMD의 민낯과 마주할 때의 충격은 상상 이상이었습니다.

최근 ‘4차 산업혁명이 도래한 이 시점에 빅데이터를 어떻게 다루어야 하는가?’ 의 주제와 관련하여 학계 및 일반인들의 관심이 고조되고 있는 이 시점에서 본서의 출판은 시의 적절했음을 밝히며, 빅데이터 분석을 통한 현상 그 너머의 본질에 깊은 호기심을 느끼는 분들의 일독을 권합니다.