사람들은 하루에 몇 시간씩 인터넷을 사용한다. 검색창에 검색어를 입력하는 일도 여러 차례일 것이다. 그리고 대부분의 사람들은 검색창이 알려준 결과를 아무런 의심 없이 받아들인다. 알고리즘, 데이터, 정보 이런 단어들은 왠지 매우 공평하고 객관적일 것 같다. 그런데 정말 그럴까? 이 질문은 굉장히 어리석어 보이기도 한다. 살아갈수록 이 세상에서 100% 진실이라고 부를 만한 게 존재하지 않는다는 생각이 들기 때문이다. 하물며 인터넷에서 알려주는 정보가 어찌 그럴 수 있겠는가. 가끔 검색창에 어떤 단어를 입력했을 때 나오는 결과를 보고 당황했던 적이 있다. 전혀 그럴 의도가 없었으며, 그럴만한 검색어가 아닌데도 성적 이미지가 와르르 뜰 때가 있다. 회사에서 이런 일을 당한다면 누가 본 것도 아닌데 괜히 더 당황하게 된다.
<구글은 어떻게 여성을 차별하는가>의 저자도 이런 경험을 한 뒤 뒤 이 책을 쓰기에 이르렀다. 저자는 어느 날 ‘흑인 소녀(black girls)’를 검색하다 매우 당황스러운 일을 겪는다. 자신의 딸과 사촌 여자아이들이 좋아할 만한 놀이를 찾기 위해 컴퓨터 앞에 앉아 ‘black girls’를 입력했는데 전혀 뜻밖의 검색 결과가 나타난 것이다. 컴퓨터 화면은 외설적인 포르노그래피로 가득 찬 검색 결과가 가득했다. 게다가 ‘흑인 소녀’에 대한 구글의 첫 번째 검색 결과는 ‘달콤한 흑인 여성 성기닷컴’이라는 성인사이트였다. 그 다음으로는 흑인 여성들을 왜곡된 성적 대상으로 표현한 민망한 게시물들이 잇따라 노출됐다. 저자는 당황해서 컴퓨터를 닫아버린다. 이런 경험이 당신은 없는가?
저자는 의문을 품고 왜 이런 일이 벌어졌는지 본격적으로 연구하기 시작한다. 놀랍게도(?) 흑인 소녀나 라틴계 소녀나, 아시아 소녀나 별반 다를 바 없는 검색 결과가 나타났다. 성차별적인 결과뿐만이 아니라 인종차별적인 결과도 두드러지게 나타났다. 백악관을 검색하니 ‘nigger house’라고 나오지를 않나, 미셸 오바마를 검색하니 연관 검색어에 ‘유인원’이 뜨기도 했다. ‘10대 흑인 3명’이라는 키워드로 구글 이미지 검색해 보면, 구글 검색은 흑인 10대가 마치 범죄의 대명사라도 되는 양 무수히 많은 10대 흑인들의 머그샷(범인을 식별하기 위해 구금 과정에서 촬영하는 얼굴 사진의 은어)을 검색 이미지로 표출했다. ‘유대인Jew’이라는 단어를 검색해본 결과 수많은 반유대주의 웹페이지가 검색 결과에 나타나기도 했다. 이뿐만이 아니라 ‘의사’처럼 전문직 단어를 검색하면 구글 화면은 거의가 백인 남성 이미지로 도배가 된다. 그에 비하면 여성은 인종을 가리지 않고 성적 이미지로 소비될 뿐이었다.
미셸 오바마 연관 검색어에 유인원 등장
부적절한 헤어스타일에는 모두 흑인 여성이 나타나고 '직장인 헤어스타일'에는 백인 여성이 등장함
구글의 참으로 친철한(!) 자동완성 기능
사실 내가 이 책을 읽고 난 뒤 리뷰까지 쓰게 될 줄은 몰랐다. 내가 알고, 나만 조심하면 된다고 생각했기 때문이다. 그런데 알라딘에서 이 책에 대한 별점 평가가 책의 가치에 비해 유독 낮은 게 마음에 걸렸다. 하나하나 읽어보니 (대부분은 비구매자에 읽지 않은 게 틀림없어 보이는!) 알고리즘이 얼마나 정확한데, 사용자들 검색어를 기반으로 나온 결과인데 구글이 조작할 리가 있느냐, 아무 데나 페미니즘 들이댄다고 비난하는 글 일색이었다. ‘알고리즘’ 같은 남성의 영역을 감히 여성의 ‘편견’으로 판단하느냐, 또는 ‘데이터’처럼 객관적인 자료에 ‘성차별’ 어쩌고를 갖다 붙이느냐 하는 듯한 뉘앙스의 글도 많았다. 위대한 구글은 그럴 리가 없다고, 객관적이라고 옹호한다. 그런 이들의 글을 읽다 보니 리뷰를 써야겠다는 생각이 들었다. 달을 가리키면 달을 봐야지, 손가락을 보지 말라고 외치고 싶어졌다.
이 책 저자가 말하고 싶은 바는 구글이 성차별과 인종차별을 하고 있으니 이 검색 엔진을 쓰지 말라는 게 아니다. 디지털 플랫폼을 만든 것은 인간이다. 인간은 오류투성이다. 때문에 그 플랫폼을 실행해서 나타난 결과가 반드시 100% 옳고 진실일 것이라는 믿음을 거두라는 것이다. 앞서 예시했듯이 성차별적이고 유색 인종에 대한 오류와 편견들이 가득한 검색 결과가 나올 수 있음을 ‘알고’, 이 자료가 잘못된 결과일 수도 있음을 ‘의심’하고 사용하라는 말이다. 인간의 오류는 기술로 옮겨갈 수밖에 없다. 인간의 성차별과 인종차별은 기술의 재료이자 도구가 된다. 사람들이 검색한 결과를 기반으로 알고리즘이 생성된다면 성차별적이고 인종차별적인 현실 자체도 고스란히 기술에 투영될 수밖에 없다. 그런 결과가 정보가 되어 ‘객관성’을 지닌 것처럼 흘러 다닌다. 그러나 검색 엔진은 민주주의가 허용한 결함이 많은 도구에 불과하다. 그래서 검색 결과 역시 여성, 소녀, 유색인 여성에 대한 성차별적이고 포르노그래피화된 정보가 가장 ‘인기 있는’ 자료로 표출되는 것이다. 실제로 이 결과는 우리가 마우스를 클릭해 선호도를 제공한 요소들이 반영된 것이다. 성차별과 인종차별을 촉진하는 다양한 장치가 개입된 효과로 볼 수 있다. 기존의 미디어가 보여준 전통적이고 관습적인 왜곡 현상이 대중이 신뢰하는 막강한 알고리즘에 의해 온라인에서 그대로 재현되는 것이다. 모든 정보에는 의도가 있다. 멀리 갈 것도 없다. 실제로 고작 며칠 전 우리나라 포털사이트 1위라는 네이버 검색창은 ‘조국 힘내세요’ ‘조국 사퇴하세요’라는 검색어가 1위와 2위에 오르는 기묘한 광경이 벌어졌다. 이 검색어가 객관적인가? 올바른가? 사람들이 ‘조작’한 것이다. 이 사태만 봐도 검색어와 그 결과는 얼마든지 인간의 힘으로 통제 가능함을 알 수 있다.
저자는 일상에 파고든 차별과 편견을 인식하는 대중의 통찰력도 중요하다고 말한다. 정보 기술을 제공하는 회사가 구조적으로 불평등한 고용 정책을 시행하고, 그 회사의 일부 직원이 극우적인 가치관을 함양하고 있다면 어떻게 될까? 그 회사가 바르고 공정한 인터넷 상품을 대중에게 제공하기는 어려울 것이다. 실제로 2017년 구글 국정 조사 과정에서 직원 제임스 다모어는 ‘반다양성’ 선언문을 작성하고 유포해 구글 직원들의 열렬한 지지를 얻은 사실이 밝혀지기도 했다. 그런데 이 선언문은 여성이 남성에 비해 열등하고 훌륭한 소프트웨어 엔지니어가 될 자질이 부족하다는 주장을 담고 있었다. 때문에 저자는 소프트웨어와 하드웨어가 개발되는 양상을 이해하는 것은 중요하다고 말한다. 미국노동부의 인력 데이터에 따르면 2005년 실리콘밸리의 상위 10개사의 거대 하이테크 컴퍼니 최고 관리자 5,907명 중 흑인과 히스패닉계는 296명이었다. 이는 전체의 20%에 달했던 2000년의 수치에서 오히려 줄어든 결과다. 흑인 여성이 구글에 채용되지 않는다는 사실은 그리 놀랄 만한 일이 아니다. 흑인은 구글이나 페이스북 같은 유명한 정보 기술 회사에 컴퓨터 프로그래머로 채용되지 않는다. 제도권에서 여성과 유색인을 기술 영역의 권력 시스템으로부터 소외시켜온 것이다. 이것이 색맹 이데올로기가 작동해온 실리콘밸리의 모습이다. 그들은 인종차별을 넘어 백인이 아닌 이들의 공헌마저 외면해왔다. 성과주의를 바탕으로 한 기술 산업에서 백인이나 아시아계 남성이 주도권을 쥔 현실은 비주류인 아시아계 미국인의 성공 신화를 통해 정당성을 부여받는다. 여성과 유색인들이 정보커뮤니케이션 기술의 노동 시장에서 자신의 목소리를 내지 못하고, 관련 산업 종사 인원마저 줄어드는 상황에서 가장 취약한 위치에 있는 노동자들이 목소리를 내지 못할 때, 초래될 가장 큰 충격은 검색 엔진의 검색 결과로 나타나는 자신들의 왜곡된 모습이다.
구글은 미국의 신자유주의 자본과 사회적 엘리트들의 이해관계를 반영하는 편향된 알고리즘 정보를 유통한다. 자신의 독점적 지위를 이용해 광고 수익과 연관된 정보를 우선 유통한다. 그러나 일반 인터넷 사용자들은 구글이 일종의 공공재처럼 사용되는 인터넷 플랫폼이니 노골적인 상업적 이익을 추구하지는 않을 것이라고 생각한다. 그러나 구글이 생성하는 주류 담론은 편향된 패권주의 이념과 관점을 유포한다. 검색창에 나타난 자동 완성 문구를 이용할 때도, 인터넷 검색 자료를 활용할 때도 그 인식의 프레임은 결코 여성이나 유색인의 생각과 관점을 반영하지 않는다. 때문에 우리는 구글 같은 광고 회사가 믿을 만한 정보를 제공하는지 가려내는 안목을 길러야 한다고 저자는 강조한다. 실제로 구글 같은 독점적 정보 기업은 검색 분야를 막론하고 회사의 이해관계에 따라 검색 순위를 조정한다. 검색 결과 표출 방식은 매우 표준화된 형태를 따르므로 쉽게 대중의 신뢰를 얻어 사실처럼 유포되곤 한다. 결과적으로 그 자료들이 정치색이 배제된 중립적이고 정확하고 공정한 정보라는 허구의 신화가 고착되는 것이다.
이 책에 따르면 ‘표준으로서의 백인성’이라는 수사적 관념이 정보 기술과 소프트설계를 구성하고 있음을 알 수 있다. ‘서양의 인터넷이 백인과 남성, 자산 계급, 이성애자, 기독교 문화 등을 구조적으로 옹호’하고 있는 것이다. 이러한 이념은 웹브라우저 설계나 그에 따른 정보 오용에 의해 임의로 통제된다. 영어를 쓰는 인터넷 사용자와 콘텐츠 사업자, 정책 결정자, 설계자 등은 자신의 인종적 관점을 인터넷으로 유포하고, 인종 갈등을 해석하고, 문화 자원을 배분한다. 이런 현실은 여성과 유색 인종이 상품화의 도구가 되고 인종에 대한 관념이 재생산되는 온라인 사회 역학을 그대로 보여준다. 검색 엔진이 지배 계층의 이익을 위한 헤게모니적인 장치로 사용되는 모습을 그대로 보여주는 것이다. 인터넷에 나타나는 남성의 시선과 포르노그래피의 관계를 연구한 한 논문에 따르면 인터넷은 남성에게 특권을 부여하고 여성을 포르노그래피나 소외 대상으로 인식하도록 하는 커뮤니케이션 환경을 제공한다. 다른 형태의 음란물들처럼 포르노그래피도 여성에 대한 억압을 강화하고 재생산한다. 광고나 예술에 나타나는 여성의 모습도 주로 ‘남성 관찰자의 시선’에서 벗어나지 못한다. 인터넷에서 벌어지는 여성의 포르노그래피화 현상은 인종차별과 성차별의 또 다른 이름일 뿐이다. 또한 여성의 이미지가 대상화되는 경우, 늘 백인 여성이 표준이고 흑인 여성은 왜곡되며 라틴계 여성은 대상화조차 되지 않는다.
구글 검색 기능은 사적인 이해관계로 왜곡돼 있으며 금전적인 이익 추구와 높은 시장 점유율을 목적으로 한다. 사용자들은 취향과 개인 정보와 무형의 노동력을 활용하며 구글, 즉 검색 엔진이나 지메일, 구글 학습 검색, 유튜브 등에서 제공하는 ‘무료’검색 서비스를 이용하지만 자신들이 제공한 갖가지 정보가 구글에 의해 활용된다는 사실을 간과한다. 이 교환 방식이 타당한지 생각해봐야 한다. 알고리즘은 컴퓨터 과학자들이 만들어낸 발명품이다. 컴퓨터 코드가 다양한 방식으로 활용 가능한 일종의 언어라는 사실을 고려한다면 인터넷 검색 기능 또한 누군가의 의도에 따라 ‘통제되고 조정되기 쉬운 도구’라는 것을 알 수 있다. 검색 결과는 사회적 조건에 따라 가변적이고 얼마든지 조작도 가능하다는 사실 또한 알 수 있다. 객관적이지도 않고 일관되지도 않으며 투명성이 보장되지도 않는다. 그런데 악의적으로 정보가 왜곡되고 빅데이터가 오용된다면 사회적 관계마저 악화되고 성차별과 인종차별은 더욱 공고해질 것이다.
검색 시스템이 인공지능과 알고리즘에 의해 작동되고 인간에게는 일람표 작업만이 맡겨진다고 할지라도 ‘인간의 결정’에 의해 색인이 이뤄진다. 하나의 정보 시스템에서 사람과 문화가 나타나는 방식은 그 문화의 사회적 맥락을 뚜렷하게 반영한다. 검색 엔진은 착취나 물신화의 역사 등 대중이 좋아하지 않는 항목은 드러내지 않고 회피한다. 사용자가 검색하는 자료들은 웹의 일람표나 색인에는 포함돼 있음에도 때로 웹을 총괄하는 ‘설계자의 의도’를 반영하는 것이다. 사용자에게 제공되는 정보는 문맥화돼 있고 상호 관련성의 틀 안에서 의미를 가진다. 그래서 우리는 정보를 형성하는 사람들의 사회적인 맥락과 정보가 형성되는 과정에 개입된 판단과 결과들을 살피는 것이 중요하다. 정보는 맥락 속에서 다뤄져야 한다. “정보는 동기와 의도를 포함하고 있다. 그래서 문화나 사건 또는 당면한 문제 등이 얽힌 사회적인 배경과 연관된다.” 이것이 정보 과학의 출발점이자 정보 검색의 바탕이 된다. 저자는 말한다. 우리에게 필요한 것은 인터넷에서 ‘고급 정보’를 취득하는 능력이며, 동시에 광고를 구별하고 상업적 이익을 위해 유포되는 정보를 알아내는 능력이라고. 또한 ‘공공성을 담보하는 대안 검색 엔진’이 만들어져야 할 때라고.