-
-
구글은 어떻게 여성을 차별하는가 - 불평등과 혐오를 조장하는 알고리즘 시대의 진실을 말하다
사피야 우모자 노블 지음, 노윤기 옮김 / 한즈미디어(한스미디어) / 2019년 7월
평점 :
절판
소개글을 읽으며 소름이 돋았다.
몇달전 독서모임에서 나누었던 불편한 책이 생각났기 때문이다.
두 책은 일반적인 상식이라고 생각되는 어떤 사실과 Google의 검색결과가 다르다는 사실을 발견했다.
그리고 명백하게 다른 결과를 도출했다.
흑인 여성 교수인 저자는 딸에게 줄 선물을 검색할 생각으로 '흑인 소녀'라는 검색어를 입력하고 검색결과에 경악했다. 포르노 사이트가 나왔기 때문이다. 그 외에도 '흑인' '여성' '유대인' '아시아인' 등 비주류의 약자라고 생각하는 계층의 검색결과가 명확하게 차별적임을 알고 해당 결과를 바로 잡기 위해 노력한다.
물론 그 검색결과가 많은 사람들의 검색결과를 반영한 결과물인 '진실'일 수도 있다.
하지만 여기에서 중요한 것은 검색 알고리즘변경, 노출 우선순위 변경 등으로 결과를 수정할 수 있으며, 실제로 구글은 광고주의 요청에 따라 정보를 선별, 필터링하고 있고 위와 같은 당혹스러운 결과도 꾸준한 요청할 때 변경된다는 사실이다. 저자는 google 검색엔진을 담당하는 개발자들의 인종,성비에 대하여도 이야기 한다. 대다수의 백인, 남성으로 이루어진 개발자들의 왜곡된 정체성이 반영된 알고리즘에 대해서 말이다.
검색결과에 나타난 원색적인 데이터는 '진실'이 아닌 알고리즘의 결과물일 뿐이다.
개발자는 아니지만 IT 업계에 종사하고 있고, 실제 검색 알고리즘을 통해 데이터가 조합된다는 것을 잘 알고 있음에도 기존 구글의 자극적이고 편파적인 검색 결과를 통해 사람들의 '진실'을 폭로한다고 말하는 책에 대하여 일말의 의심을 하지 못했다는 사실이 가장 충격이었다.
이 책을 매우 객관적인 눈으로 보고자 한다면 '흑인' '여성' '약자' 등의 소수에 약간은 편향적이라고 볼 수도 있을 것이다. 알고리즘을 최대한 중립적으로 변경하여 검색결과를 '사실적으로' 노출하자고 하지는 않는다.
사회가 비뚤어져 있고 왜곡된 정체성이 검색 결과에 보여진다면, 그 부분을 그대로 노출하는 것 또한 진실을 직시하는데 필요한 것이 아닐까?
중요한 것은 비뚤어진 시선을 그대로 노출했을 때, 그 시선을 그대로 받아들이는 악순환이다. 왜곡된 정체성을 처음 접하게 될 어린이들, 끊임없이 주입되는 왜곡된 정체성을 자신의 것으로 받아들이게 될 약자 혹은 강자들의 모습이다.
구글은 이윤추구를 하고 기업에 이득이 되도록 정보를 편집, 은폐할 자유가 있는 기업이므로 제약에는 한계가 따른다. 책에서는 이에 대하여 공공 검색엔진을 개발하는 부분에 대하여도 다루고 있지만, 상용 기업에 대항할 수 있는지 여부는 제외하더라도 이 또한 해당 엔진을 관리하는 사람의 영향을 받을 뿐이다.
한때 사회에 대한 관심을 끊고자 한 적도 있었다. 지저분한 정치가 싫고, 입맛에 따라 왜곡하는 거짓 기사를 읽고 싶지도 않고, 무엇이 진실이고 또 거짓인지 판단하기 너무도 어려운 세상이기 때문이다.
하지만 레이첼 보츠먼은 '신뢰이동'에서 제도적 신뢰가 추락하고 분산적 신뢰사회가 시작된 지금 개개인의 역할이 중요하다고 이야기한다.
기업의 윤리의식을 외치기 전에 스스로 공부하고 깨어야 한다.
스스로 올바른 가치관을 가지고, 비판적인 사고 방식으로 정보를 받아들이지 않는다면, 현대 사회에서 도태될 수밖에 없다.