어둠 속의 민주주의 구하기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

 2007년 정부가 입법을 추진했으나 여전히 논란 속에 표류하고 있는 한 법률이 있다. 대한민국 헌법의 평등 이념에 따라, 정치·경제·사회·문화 등 모든 생활영역에서 합리적 이유가 없는 모든 형태의 차별을 금지하는 내용의 ‘차별금지법’이 바로 그것이다. 그러나 당시 법안 공개 후 보수 기독교계와 정‧재계의 반발로 인해 차별 금지 사유 중 ‘병력, 출신국가, 언어, 가족형태 또는 가족 상황, 범죄 및 보호처분의 전력, 성적지향, 학력’이 삭제된 채 상정되었다가 결국 폐기되고 말았다. 장애인 차별 금지법을 비롯한 일부 개별법에서 차별을 금지하고는 있긴 하지만 개인의 정체성은 복합적이며 차별은 서로 연결되어 있다는 점에서 포괄적인 차별금지법 제정의 의의가 큰데 여전히 기울어진 보수우위의 사회적 분위기가 이를 가로막고 있는 형편이다. 이런 사회적 차별과 불평등을 과학이라는 언어로 뒷받침할 수 있는 빅데이터와 알고리즘의 위협을 다양한 사례를 통해 다룬 책이「대량살상 수학무기」이다.

 저자인 캐시오닐은 대학에서 수학을 전공하고 교수로 일하던 중 헤지펀드 계량분석가(퀀트)로 전업하여 활동하다가 2008년 발생한 금융위기를 유발한 이면에 수학의 부정적인 힘이 작용했다는 점을 깨닫고 내부고발자로서의 자기비판과 전문가로서의 제언을 담아 이 책을 집필했다고 밝히고 있다. 제목도 생물‧화학‧핵‧방사능 무기 등 인류를 대량 살상할 수 있는 무기를 일컫는 용어에 빗대어 대량살상 수학무기라는 제목을 붙임으로써 강렬한 느낌을 주고 있다.

 서론에서 저자는 가치부가모형으로 알려진 교사평가 시스템에서 드러난 통계적 엄격성, 피드백 부족과 채용을 위한 신용평가모형에서 보여지는 가난한 사람들을 저평가하는 왜곡을 설명하며 알고리즘을 바탕으로 하는 빅데이터의 위험을 환기시킨다. 이는 알고리즘 작성 과정에 설계자의 주관적인 판단이 상당부분 개입될 뿐만 아니라 현실과의 차이로 인해 부정적인 피드백 루프(feedback loop)가 형성된다는 점에서 비롯된다. 본론에서는 먼저 투명성, 공개성, 지속적인 자료 추가 가능성을 갖추고 있으며 실제 데이터를 기반으로 하는 야구모형, 개인 위주의 가설적인 식단모형 그리고 재범위험성 모형을 비교한다. 이를 통해 범죄자를 대상으로 하는 재범위험성 모형은 불투명하고 비공개적이면서 법정에서 증거로 활용할 수 없는 정보를 토대로 범죄를 판단하므로써 대상자에게 불리하게 작용한다는 점과 미국 대다수 주에서 이를 활용하면서 잠재력이 지속적으로 확장되고 있음을 밝힌다. 이를 토대로 대량살상 수학무기를 결정짓는 요소로 불투명성, 확장성, 피해를 꼽는다.

 이어 모델이 지향하는 목표와 괴리를 보이는 대리 데이터를 활용하는데다가 국가적‧세계적 표준으로 확장되면서 피해를 끼치는 대학평가, 온라인에서 절박한 사람들을 찾아내 표적공략하는 ‘약탈적 광고모형’, 효율적으로 구직자들을 걸러내기 위해 활용되지만 검증되지 않은 내용을 포함하여 불공정을 야기하는 ‘인성적성검사 모형’, 종업원의 노동력을 최대한 착취하기 위해 불규칙한 근무시간을 강요하는 ‘일정관리 모형’ 등의 사례를 통해 효율성이라는 미명아래 자동화된 시스템이 공정성을 해치고 있다고 주장한다. 그러면서 오직 인간만이 시스템에 공정성을 부여할 수 있다는 점을 강조한다. 결론에서는 학업성취도 검사, 범죄 재발가능성 예측 등 국가차원의 난제는 데이터 알고리즘이 절대로 해결할 수 없는 문제임을 정확히 인식하고 이를 규제하고 지속적으로 감시해야만 공정성과 책임성이 담보된 민주주의 실현이 가능하다고 역설한다.

「사피엔스」로 우리에게 널리 알려진 유발 하라리는 최근작 「호모데우스」에서 인류학적, 거시적 분석을 통해 외부 알고리즘으로 인한 인본주의의 붕괴와 데이터의 인간정복 가능성을 언급하며 우리에게 드리워진 암울한 미래를 제시한 바 있다. 그에 비해 「대량살상수학무기」는 삶과 직결된 교육, 고용, 금융 등에서 찾아볼 수 있는 빅데이터의 그림자를 보여주면서 부정적인 영향을 상쇄하기 위한 의식적인 노력이 필요함을 강조하고 있어 우리에게 좀 더 친숙하고 가슴에 와닿는 편이다. 한편 이 책은 알고리즘, 빅데이터의 부정적인 영향을 강조하면서도 목표를 어떻게 세우느냐에 따라서 긍정적 활용도 가능함을 기술하고 있다. 우리나라 정부와 관련 기관에서도 알고리즘의 사회·경제적 활용도에 비해 관련 법적·제도적 장치가 미비한 실정이라는 문제의식 하에 해외 법제와 정책을 참고하여 입법을 준비하고 있다. 인공지능 개발과 활용에 수반되는 윤리적인 문제를 법적으로 규정하는 내용을 담은 ‘지능정보사회 기본법(안)’ 제정도 논의중이다. 빛과 그림자를 가지고 있는 빅데이터가 생성하는 정보가 지배하는 시대에서 우리나라는 구글 딥마인드 알파고와 이세돌의 바둑대국이 있었던 지난해부터 본격적으로 인공지능, 빅데이터등을 중심으로 활발하게 제4차 산업혁명에 대한 논의를 벌이고 있다. 하지만 부정적인 측면이나 영향에 대해서는 대부분 피상적인 접근이 이루어진 것이 사실이다.「대량살상수학무기」의 출간과 이를 읽은 독자들이 꾸준히 늘어나고 있는 것을 계기로 우리 사회에서도 수학 알고리즘을 기반으로 하는 빅데이터의 부정적 영향과 사회적 불평등 심화 등의 문제를 절실히 깨닫고 이를 저지하기 위한 시민사회의 본격적 움직임이 활발해지기를 기대해본다.