객관적일 수 없는 수학적 알고리즘

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

총 칼보다 펜이 더 위험하다는 것은 20년 전쯤 들었던 말이다. 신체에 직접 가해지는 무기보다 글로서 파괴되는 인식의 폭력이 더 무섭다는 이야기였던 것 같다. 이제는 펜보다 더 무서운 수학적 기록과 정보가 우리의 일상생활을 위협하고 있는 것 같다.

이 책의 저자인 캐시오닐은 수학적 천재 중 한 명으로 실제 글로벌 금융계와 IT쪽에서 데이터과학자로서 수학 모형을 개발하는 일을 하다 그 위험에 대해 심각성을 느끼고 직장을 나와 현재 이러한 알고리즘을 알리고 감시하는 곳에서 일을 하고 있다. 실제 그곳에서 일을 하던 사람이 이렇게 이야기하니 더 위험도가 크게 느껴지고 한번 더 생각해보게 된다. 마치 내부고발자와 같은 느낌이다. 이런 저자의 경력은 신빙성을 더하고 심각성에 대한 경고도 되는 동시에 생각해보게 되며 이 책이 이렇게 베스트셀러가 되는 중요한 역할을 하고 있다. 또한 이러한 호기심에 더하여 챕터별로 실제 악용되거나 오용되어진 빅데이터의 사용예시가 우리에게 근접한 교육과 군대, 기타 여러 상업과 취직의 생활 전반에 걸쳐 친근한 것이기에 더 흥미롭다.

크게 10개의 장으로 나누어지는데 1장에서는 빅데이터시대의 수학적 알고리즘과 모형이 어떻게 생기는지 알려주며 2장에서는 그러한 모형이 어떤 문제점을 지닐 수 있는지 이론적으로 설명한다. 3장에서부터는 군대와 기업, 교육과 사회 등에서 이것이 어떻게 악용되는지 보여준다. 여기서부터 실은 꽤 흥미로운 이야기들이 나온다.

똑같이 죄를 지었는데 흑인이기에 재범의 위험이 더 많이 측정될 수 밖에 없는 필연적인 결과.

수많은 학생들과 학부모에게 감사인사를 받고 실제 교육을 위해 노력했으나 부적격 판단으로 쫓겨날 수 밖에 없었던 교사.

마치 도와주는 척 모든 안전책을 제시하는 듯한 보험의 속셈.총이나 칼보다 펜이 더 무섭다는 이야기를 들은 적이 있다. 벌써 20년도 전의 말이다.

직접적인 신체적 공격성을 지닌 무기보다 누군가의 인격과 사상을 조절할 수 있는, 혹은 생각을 움직여 정신적인 공격성을 지닌 글이 타인에게 더 큰 영향을 미친다는 의미일 것이다. 같은 의미로 수학적 통계의 집합체로 보이는 빅데이타는 사실이라는 허울을 쓰고 많은 장소에 사용됨으로서 여러 방향으로 잘못된 결과를 초래할 수 있다. 이로 인해 누군가는 직업을 잃고 누군가는 감옥에 가고 가볍게는 나의 소비패턴이 공개됨으로 인해 많은 상업인들의 광고로 피곤함이 유발된다.

빅데이터라는 것은 일단 우리의 수많은 정보가 기업 내지를 이를 사용하고자 하는 사람들에게 흘러가는 것에 대한 문제는 제외한다. 이미 그에 대한 논의를 하기에 우리는 정보가 개방되고 그 정보를 사용하는 시대에 살고 있기 때문인 듯하다.

문제는 이 빅데이터를 어떻게 사용하냐는 것에 대한 문제이다.

작가 캐시 오닐은 나름 천재적 수학적 재능으로 실제 빅데이터를 활용하는 금융권과 It없계에서 일을 하면서 수학모형을 만들고 겪은 문제점들을 직시, 현재 이러한 사용을 감시하고 고발하고자 하는 기업에서 일을 하고 있다. 이러한 작가의 결력이 책의 매력을 더한다. 일종의 내부고발과 같은 느낌이다. 이런 작가의 출신성은 문제의 심각성을 가중하여 진지하게

인간에게 점수를 부여하고 측정하는 수학적 알고리즘은 사실적인 수치의 통계를 가지고 빅데이터를 수집하고 이를 가지고 일정한 수학적 모형과 알고리즘을 만들어 객관적인 것 같은 착각을 일으킨다. 하지만 실제 그 알고리즘을 만드는 것은 인간. 인간이 처음부터 기준으로 하는 분류와 알고리즘의 질문은 객관적으로 보이는 수치에 성격을 부여하고 특정한 색깔을 입힌다.

어떻게 이런 수학적 알고리즘들이 시민의 생활속에 침투하여 우리를 공격하고 있었는지, 당하고도 모르는 여러 이야기들이 흥미롭다. 물론 미국의 예시가 주를 이루고 있지만 현재 앞선 활용이 이루어지는곳이자 발달한 곳이 미국이기에 우리의 선례를 보는 것 같다.

빅데이터의 문제는 이미 몇 년전부터 언급되어지고 있었지만 이것의 활용과 이를 통한 기업과 국가의 활동은 이미 막을 수 없게 되었다. 이미 시행되어 져야한다면 이것이 어떻게 활용되고 있는지 알고 철저하게 따지고 비판할 수 있는 눈을 키우는 것이 민주적인 시민의 성숙된 자세가 아닐까 생각한다. 무엇보다 알고 당하기에는 너무나 억울하다!.