기계가 인간을 지배하는 사회

만물의 공식 - 우리의 관계, 미래, 사랑까지 수량화하는 알고리즘의 세계
루크 도멜 지음, 노승영 옮김 / 반니 / 2014년 10월

알고리즘은 컴퓨터가 문제를 해결하는 방법을 말한다. 물론 컴퓨터는 인간이 만들었기 때문에 알고리즘은 인간이 컴퓨터에게 지시한 대로 문제를 해결한다.  애초에 컴퓨터가 만들어진 이유는 인간이 하기엔 단순하고 까다롭고 지루한 업무를 자동으로 처리하기 위함이었다. 그러나 무어의 법칙대로 저장용량이 커지고 성능이 발달한 오늘날 알고리즘은 무소불위의 권력자가 되었다. 인간이 할 수 없는 일 뿐만 아니라 깨닫지 못하고 있는 사이에  인간만이 해야 하는 일이라고 생각했던 고유의 가치에까지 깊숙히 치고 들어와 인간의 행동을 지배하고 있기 때문이다.

튜링은 컴퓨터가 인간을 자신이 컴퓨터가 아닌 인간이라고 속일 수 있으면 컴퓨터에게 지능이 있는 것으로 간주한다고 말했다. 그리고 튜링테스트가 시작된지 64년 만에 유진이라는 기계가 인간을 속여 스스로 지능을 가진 컴퓨터의 지위를 부여받았다.  역사는 새로 씌여졌다. 이제 더이상이 튜링 대회는 없다. 더 이상 기계가 인간 심사위원에게 사람으로 보이기 위해 사람과 경쟁할 필요가 없다. 컴퓨터 체스 플레이어가 한 번 이긴 후로 이제 체스  챔피언은 인간이 아닌 기계라는 사실이 굳어진 것처럼, 미국의 유명 퀴즈 대회 제퍼디의 우승자가 인간을 한 번 누르자 이제 제퍼디의 우승자는 사람이 아닌 컴퓨터라는 사실이 굳어진 것처럼, 컴퓨터가 인간처럼 대화한다는 사실을  더는 거부감없이 받아들여야 하는 시대에 접어들었다. 십년전의 기술과 십년전의 안목으로 무인 자동차는 요원한 기술이었다. 인간이 가진 무한한 인지 기능과 사고를 방지하기 위한 순간적 판단 기능을 컴퓨터로 구현한다는 것은 무모할만큼 복잡한 것이었다. 이제 구글의 무인 자동차는 50만킬로미터 이상을 사고 없이 달렸다. 우리는 그런 시대에 살고 있다.

책을 읽다보면 비슷한 주제가 연결된 책을 비슷한 시기에 읽게 되는 경우가 많다. 아마도 우연에 의한 자기 암시 효과일 것 같은데.  얼마전에 김중혁의 메이드인 공장을 읽고, 디지털 시대의 아날로그적인 공장견학기가 사실은 우리가 생각하는 것처럼 사람들로 가득 채워지는 공장이라기보다는 미래사회처럼 기계가 모든 것을 주도하고 공장 내 사람들은 그 기계의 속도에 맞춰 보조적인 일을 하거나 관리 차원에서 드문드문 서있는다는 사실을 확인했다. 이 책 바로 전 읽은 니콜라스 카의 <유리감옥>는 이러한 디지털 시대의 자동화 기술이 인간 사회의 미치는 영향에 대해 사회적인 관점에서 기술한 책이다.  지금 읽은 <만물의 공식>은 디지털 시대를 움직이는 알고리즘 즉 만물의 공식이 어떻게 세상을 움직이며 바꾸어나가고 있는지를 매우 실제적인 사례를 제시하며 생동감있게 재현해낸다. 그런 면에서 지적이면서도 흥미로운 책으로, <유리감옥>에서 강조한 자동화 기술에 대해 좀 더 구체적으로 탐색한다. <메이드인 공장>이 실제로 공장을 탐방해 보고 그 그 모습을 스케치했다면  <유리감옥>은 자동화된 공장의 이면에서 일어나고 있는 사회적이고 철학적인 탐구가 이루어지고,  <만물의 공식>에서는 니콜라스 카가 <유리감옥>에서 제기하는 디지털시대의 매우 구체적인 사례들이 철학적 사고 위 매우 다양한 각도에서  조명된다. <유리감옥>이 개념적이고 이론적인 결론은 향해서 사물과 현상을 분석적으로 대하는 것과 달리 만물의 공식에서는 어떤 주제를 선택하고 그 주제와 관련된 여러 분야에서 실제로 일어나고 있는 현상에 주목하여 일일이 그 실례들을  철학적으로 도덕적으로 가치관의 변화와 관련지어 탐구한다. 

여기서 이야기 하는 것들은 주로 미국에서 실제로 일어나고 있는 일들이지만 우리에게 알게 모르게 다가와서 생활의 일부가 되어버린 알고리즘에 대한 것들이다.  예를 들어 범죄 예방 시스템에 기록된 알고리즘이 공항 검색대를 통과할때 오류로 선량한 이용자를 테러범으로 인식하는 일 같은 것들 말이다. 실제로 나 역시 알지 못하는 이유로 공항의 검색대에서 한참을 붙들려 있다가 다른 방으로 옮겨져서 영문도 모르는 채 세세한 질문 공세에 답하며 오랜 시달렸던 기억이 있는데 마약 밀매 사건에 연루된 사람을 찾기 위해 짜여진 알고리즘의 타겟이었는지 아니면 인상착의가 비슷한 테러범을 안면인식 카메라가 잡아낸 것인지 그냥 랜덤으로 지목한 묻지마 검문 같은 거였는지 당시로서나 지금으로서나 아무 단서도 없다. 다만 이제 다 끝났으니 가봐도 된다라는 말을 듣고 휴 한숨을 쉬고 나오던 순간 들었던 오싹함, 그 알지 못할 블랙박스가 인간에게는 아무 것도 가르쳐주지 않고 프로그램되어 있는 대로 처리하는 결과에 대해 어떤 피해자가 발생해도 그 누구도 책임지는 않는 살벌한 긴장감은 트라우마처럼 기억에 남았다.

영화 마이너리티 리포트는 미래의 범죄자를 완벽하게 예측하는 알고리즘을 이용해 잠재적 범죄자를 모두 잡아 가두는 방법으로 범죄율 제로라는 완벽한 사회에 도전한다. 위대한 과학 소설은 섬뜩하리만큼 우리의 현실이 미래를 향해 가는 방향과 닮아있다.

매사추세츠주의 한 운전자는 갑자기 운전 면허가 취소되어 오랫동안 곤혹을 치렀는데 이것은 살인에 연루된 다른 운전자를 찾는 과정에서 안면인식 알고리즘이 잘못 식별해낸 결과로 인해 차량등록국에서 자동으로 보낸 통보였고, 더 기가 막힌 것은 이러한 실수가 벌어졌을 때 혐의를 받는 것은 운전자 본인의 책임이라며 대중을 보호하는 유익이 소수가 부당한 혐의를 받는 불편함보다 중요하다는 차량등록국의 주장이다. 이러한 공리주의 원칙은 소수의 피해자를 대책없이 만든다. 매주 1500명 가량의 공항 여행객이 테러 범으로 오인되고 한 조종사는 한 해에 80 번이나 데이터 대조 오류로 구금되었다. 이것은 예산삭감으로 인력이 감축되면서 자동화된 시스템이 단순한 관리 도구에서 주요 의사결정권자로 탈바꿈하는 현상을  설명해주는 지극히 일부의 예이다.  니콜라스 카의 <유리감옥>에서 지적한 이러한 자동화의 이면에 도사리고 있는 자본주의적 효율성을 빙자한 인간 말살이라는 주제와 맞닿아 있다.

우리는 알고리즘이 객관적이라고 생각해서 신뢰하지만 그 알고리즘을 만드는 것은 사실 인간이므로 온갖 편견과 관점이 알고리즘에 스며 들 수 있어요. 대디엘 시트런 본문 재인용 185

한 흑인 박사는 구글 검색창 결과 옆에 '체포된 적이 있나요'라는 광고문구를 보고 놀랐다. 흑인에게 흔한 이름을 체포 기록 광고와 연결함으로써 무심결에 인종주의적 편견을 드러낸 구글의 검색광고 알고리즘의 예이다.

만물의 공식이 적용되는 예는 우리가 미처 생각하지 못했던 생활 곳곳에 파고 들어 있다. 이미 빅데이터와 판단 알고리즘을 통한 온라인 맞춤형광고 및 맞춤형 뉴스는 생활의 일부가 되었고 의사와 변호사 등 고부가가치를 창출하던 전문가의 두뇌를 대신하여 더 많은 데이터로 더빠르게 전문가가 해내던 일들을 대신해가는 방향으로 흘러가고 있다. 이하모니와 같은 차별적 매치메이커들은 파트너 선택의 바닷속에서 가장 자신의 이상형에 가까운 파트너를 물을 길어올리듯 끊임없이 건져올릴 수 있으며 이제 섹스와 사랑도 알고리즘과 나누는 시대로 향해가고 있음을 눈치채지 못한다. 기계는 인간 고유의 영역이라 아직까지도 굳게 믿어지고 있는 예술영역에서도 가차없이 그 진가를 발휘한다. 영화, 회화, 미술평론, 문학평론,영화 분석, 자동작곡 등이 방대한 데이터베이스와 빠른 분석력을 토대로 정확하게 예술 속에 내재된 수량화가능한 특성들을 수집하여 고도로 정확하게 분석하고 창조한다.

이 모든 것의 이면에는 질적 분석을 수량적으로 계량하기 위한 단계를 프로그램 단계에서 인위적 콜렉션을 통해 이루어지고 취향의 표준화라는 오싹한 결과를 만들어낼 수 있다는 근심이 있다. 가장 큰 문제는 문제가 해결되는 과정은 블랙박스 상태로 그 아무도 알지 못한다는 것이다. 컴퓨터가 맺어준 파트너가 나의 어떤 면과 상대방의 어떤 면을 고려해서 맺어준 것인지 왜 어떤 사람은 매번 공항 검색대를 통과하기가 힘든 건지.. 그런 것들을 결정하는 만물의 갱식 속에는 어떤 한 인간의 취향과 편견이 고스란히 반영되어 있을 수도 있다는 것을 우리는 알 수 없는 시대에 살고 있다는 사실이고 앞으로 이런 기계 중심의 삶은 더욱 가속화될 전망이라는 사실이 더욱 근심을 키운다.