[구글은 어떻게 여성을 차별하는가] : 알고리즘 안의 차별

구글은 어떻게 여성을 차별하는가 - 불평등과 혐오를 조장하는 알고리즘 시대의 진실을 말하다
사피야 우모자 노블 지음, 노윤기 옮김 / 한즈미디어(한스미디어) / 2019년 7월

내가 알기로 IT업계는 젊은 사람들이 많이 종사하고, 그만큼 평등한 구조를 갖고 있다. 실제로 내 주위 IT업에서 일하는 친구들을 보아도 직장 분위기는 남녀차별이 없고, 상하관계도 무척이나 격식이 없는 편이다. 그런 IT업계에서 구글은 자유주의의 나라 미국에서도 가장 선진 회사이지 않은가. 이런 회사에 여성 차별이 존재한다니 믿을 수가 없었다. 

2017년 구글 국정 조사 과정에서 직원 제임스 다모어는 '반다양성' 선언문을 작성하고 배포해 구글 직원의 열렬한 지지를 얻은 사실이 있다고 한다. 이 선언문의 내용은 여성이 남성에 비해 열등하며 훌륭한 소프트웨어 엔지니어가 될 자질이 부족하다는 주장이다. 그는 검색인프라사업부 소속이었고, 당시 해당 사건으로 인해 구글 불매운동과 함께 실리콘밸리내 성평등과 인종평등을 이행하도록 하는 법규가 마련되어야 한다는 요구가 일었다고 한다. 중립적이어야 할 검색 알고리즘을 개발하는 직원이 이런 차별적 인식을 가지고 있었다는게 놀라우면서, 사람이 만드는 알고리즘에 그런 그들의 편견이 반영되어 있지 않다고 장담할 수가  없을 것 같았다.

실제로 저자는 2011년 집에 놀러온 흑인 여자아이들에게 흥미거리를 찾아주기 위해 구글에서 '흑인소녀'를 검색한다. 그러고 그는 검색 결과를 보고 충격에 빠진다. 키워드의 검색 결과는 온통 포르노그래피 투성으로 광고주의 의도가 투영된 결과물들이었다. 흑인 여성뿐 아니라 아시아계, 라틴계, 히스패닉계, 아프리카계 등 소수 인종의 여성을 검색해도 결과는 마찬가지였고, 심지어 고릴라와 검둥이집을 검색하면 흑인과 백악관이 나왔다. 반면 '아름다운'을 검색하거나 전문직을 검색하는 경우 대부분 백인의 사진이 결과로 나왔다. 이런 결과물은 알고리즘을 개발하는 개발자의 편견이 담겨 있는 것일 수도, 아니면 광고주들의 이해가 얽힌 것일 수도 있다. 

또한 구글 같은 독점적 기업은 회사의 이해관계에 따라 검색 순위를 조정하기도 한다. 후순위로 밀리는 것은 광고비를 지불할 수 없는 회사들이다. 실제로 우리는 흑인들, 그리고 소수인종 여성들의 포르노그래피에 관심이 없음에도, 빅데이터를 왜곡하는 알고리즘으로 특정 소수(광고주) 이익을 만족시키는 결과물을 출력하는 것은 정보의 왜곡을 넘어서는 심각한 문제이다. 이는 우리도 모르는 사이에 그들의 가치관을 강화할 수 있게 하는 것으로, 이유는 대중은 상위에 검색되는 결과가 가장 인기있고, 신뢰할 만하다고 평가할 것이기 때문이다. 

구글의 검색 엔진 시장 점유율은 2012년 기준 66.2%였고, 검색 수익은 꾸준히 증가했다. 그런만큼 구글은 검색 분야에서 막강한 권력을 가지고 있고, 자본과 엘리트들의 이해관계를 반영하는 편향된 알고리즘 정보를 유통한다. 이는 때로 선거에도 영향을 끼치는데 이것은 유권자의 선호도를 조작하게 되므로 민주주의를 위기에 빠뜨리는 일이기도 하다. 구글의 알고리즘은 사적인 특허영역으로 대중의 의견을 수렴할 의무는 없다. 우리는 그 시스템이 언제, 어떻게 어떤 방식으로 구동할지는 알 수 없으나 그 결과에 대해 저항하고 비판할 권리는 있다. 

개방적이라고 여겨지는 실리콘밸리는 실제로는 상당히 폐쇄적이다. 실제로 컴퓨터 공학을 전공한 흑인과 라틴계 졸업생은 일자리를 찾지 못하는 일이 많고, 흑인 여성이 벤처캐피탈의 자금을 투자 받는 비율은 0.1%가 채 되지 않는다. 따라서 검색 알고리즘의 개선을 위해 여성을, 그리고 흑인을 고용하고 양성하자는 것은 근본 해결책이 아닐 것이다. 2011년 저자가 '흑인소녀'를 검색한 이후 트위터에서 이 논란이 퍼지자 2016년에는 구글 검색 결과가 바뀌기도 했다. 이는 구글은 잘못된 검색 결과에 대해 시스템상의 오류를 스스로 개선하고 수정할 수 있다는 이야기이다. 

우리는 구글에 끊임없이 물어야한다. 어떻게 그런 검색 결과가 나왔고, 특정 부류에게 피해를 입히는 이유가 무엇인지. 그리고 구글의 독점적 지위를 견제하기 위해 윤리적인 알고리즘을 가진 대중적인 공공 비영리 검색 시스템 제작을 생각할 수도 있다. 우리는 권력을 가진자와 그렇지 못한자에게 동등한 자원이 배분될 있도록 인종과 성차별주의자들에 대해 맞서 지속적으로 싸워나가야 할 것이다.