-
-
자동화된 불평등 - 첨단 기술은 어떻게 가난한 사람들을 분석하고, 감시하고, 처벌하는가
버지니아 유뱅크스 지음, 김영선 옮김, 홍기빈 / 북트리거 / 2018년 12월
평점 :
#개인적 고통에서 시작하여 사회 문제로 인식의 확대.
자동화된 불평등(원제: Automating Inequality: How High-Tech Tools Profile, Police, and
Punish the Poor)은 저자인 유뱅크스가 본인과 오랜 세월을 함께 보낸 동거인 제이슨이 심한 폭행을 당했던 사건을 회고하면서
시작한다. 혼인 관계가 아닌 동거 상태로 저자의 보험에 함께 들어 있던 제이슨은 공교롭게도 습격 며칠
전에 보험회사를 바꾸었는데 이 때문인지 수술 및 치료와 관련된 보험금 수령에 문제가 발생한다. 큰 수술
이후 동반자를 간호하는 것만으로도 벅찼을 저자는 거액의 보험금 지급을 미루는 보험회사의 부당한 처사에 맞서 1년이
넘는 지루한 싸움에 들어간다. 이 과정에서 저자의 ‘본능’은 어떤 알고리즘이 두 사람을 보험 사기 조사 대상자로 지목했고 이로 인해 ‘적신호’를 받았다고 추측한다. 집필 시작 후 일주일 만에 발생하여 수년간 지속되었던 고통스런 개인적 경험의 소개로 시작된 본서는, 거대한 디지털 데이터 체제안에서 살아가는 오늘날, 누구든지 빅데이터
알고리즘을 통해 터무니없는 의혹의 표적이 될 수 있다는 사회적 문제의식으로 논지를 확장한다. 특히 힘없고
가난한 사람들이 소위 ‘디지털 감시’의 주된 대상이 된다는 주장이 책의 전반에 깔려있는데, 디지털 의사 결정에 의한 빈곤 관리
기술은 사회복지사업이면서 동시에 가난한 노동자 계층의 추적 장치로 작동한다는 것이다. 저자는 이를 입증하고
디지털 기술의 사용자와 대상자 양쪽의 입장을 모두 이해하기 위해 사회 복지 시스템의 직접적인 영향을 받는 가정과 관련 단체뿐 아니라 개별사회복지사, 활동가, 정책입안자, 프로그램
관리자, 기자, 학자, 경찰관까지
직접 만났는데, 그야말로 직접 발로 뛰어 만든 노동집약적 노력이 현실화된 책이라고 하지 않을 수 없을
것 같다.
#자동화된 의사결정이 심화시키는 자동화된 불평등
위와 같은 각고의 노력 끝에 저자가 내린 결론은
충격적이게도 미국의 전역에 걸쳐 있는 통합 데이터베이스체계가 가난한 노동자 계층을 대상으로 별다른 안전장치 없이 개인 정보를 습득하고, 관리 표적으로 삼아서 오히려 생존에 필요한 공공 자원으로부터 멀어지도록 한다는 것이다. 결국, 자동화된 의사 결정을 통해 가난한 사람들에게 예비범죄자의
낙인을 찍고, 차별을 심화하고, 사회 안전망을 파괴하여 제목이
말하는 ‘자동화된 불평등’은 가속화된다. 이러한 상황은 저자가 소위 ‘디지털 구빈원’이라고 명명한 데이터베이스, 알고리즘, 위험 모형을 통해 규모와 영향력 면에서 전례없이 거대한 비인간적 시스템을 구축하여 지금 이 순간에도 진행되고
있다고 주장한다. 이 과정에서의 의사 결정은 ‘디지털 구빈원’에서 자동으로 시행되므로, 빈곤 퇴치를
위해 고통을 분담하고 문제 해결을 위해 함께 고민해야 할 전문직 중산층은 아무런 윤리적 거리낌 없이 책임을 회피할 수 있게 된다고 해석하였다.
#풍부한 실례가 주는 경각심과 상대적으로 빈약한 대안
상술한 내용은 저자가 직접 3년 동안 105회의 인터뷰를 포함한 가정법원 참관, 아동 학대 상담 전화 관찰 및 공공기록과 법원 기록 등을 토대로 도달한 결론이다. 본문은 인디애나 주의 복지수급 자동 자격 판정, 로스엔젤레스의 노숙인 전자 등록 시스템, 엘레게니 카운티의 아동 학대 예측 모형이라는 ‘차가운’ 디지털 의사결정을 통해 소외당하고 고통받는 개개인들의 현실의 목소리를 3개의 장에 걸쳐 매우 생생하게 실제 사례와 함께 기술하고 있다. 하지만 이 책의 이러한 장점은 아쉽게도 실현 가능한 대안 제시로 연결되지는 못한 듯하다. 저자가 급진적 해결책으로 ‘디지털 구빈원’ 체체를 해체하자고 주장하면서 내세운 대안이 약 50년전 흑인 지도자 마틴 루터 킹이 미국인들의 인권을 위해 제시한 인간의 6가지 기본권(일자리, 최저 소득, 주거 자유, 교육, 의사 결정에의 참여 및 의료 혜택)의 확립이다(p320). 이미 오랜 역사를 거쳐 구축되어 돌아가는 국가의 복지 선별 시스템의 구체적 문제를, 그 구조 자체의 알고리즘 및 완성도를 높인 모델을 통해 점진적으로 개선하고자 하는 것이 아니라 누구나 실현되면 좋다는 것을 인정하지만 현실 속에 서로 복잡하게 얽혀 있는 무수한 이해 관계 때문에 현실화 하기가 너무나 어려운 이상적 일반론으로 접근할 것을 제시한다. 여기에 더하여 데이터 과학자, 시스템 공학 전문가, 해커, 행정 공무원 등을 ‘빅데이터 시대의 의사’로 상정하고, 그들이 선언하기를 바란다는 소위 ‘신(新)히포크라테스’ 선서에서는 아예 개별 담당자들의 윤리의 문제에서 해결의 실마리를 찾으려는 모습도 보인다. 만약 기술을 설계하는 정부의 윤리의식이 왜곡된 시스템의 핵심 문제라면 ‘디지털 구빈원’을 굳이 해체할 필요도 없을 것이다. 이를 디자인하고 유지하는 ‘사람’의 문제이기 때문이다. 저자가 히포크라테스 선서를 언급했기에 굳이 의료에 비유해 보자면, 질병에 시달리는 한 환자가 인품이 훌륭한 도덕성을 갖춘 의사를 만나는 것은 환자 개인에게는 너무나 큰 행운이겠지만 국가 차원에서는 그러한 도덕성을 의료 정책의 가장 앞에 두고 망가진 의료 체계를 해결하려고 한다면 전체 환자가 겪는 현실의 구체적 어려움은 줄이기가 어렵다. 의료 환경이 왜곡되어 있다면 막대한 의료 비용과 이를 뒷받침하는 보험 체계와 적절한 의료 자원의 배분과 그 사회의 의료 시스템의 구체적인 문제를 개선해야 하는 것은 자명한데 그 시작점이 ‘선한 의지’가 될 수는 있겠지만 해결책으로 제시한 것은 각론이 필요한 상황에서 총론만 재확인하고 있는 셈이다. 또한, 공교롭게도 의료 현장에서도 빅데이터 기반 맞춤형 치료는 현재 가장 각광 받는 연구 분야이고 의료 패러다임을 바꾸어 나가고 있다. 환자의 데이터가 더욱 세밀하게 그리고 더욱 오랫동안 축적되고 분석할수록 개별 환자에게 돌아가는 혜택은 더 커진다는 것이 최신 화두인 정밀의료(precision medicine)의 배경이다. 만약, 환자의 세밀한 정보가 누출되었을 때의 개인정보보호의 취약성을 문제로 삼는다면 의료 시스템의 보안문제를 해결책으로 고민해 보는 것이 타당할 것인데, 아예 빅데이터 기반 정밀의료 자체를 부정하는 것은 적절한 대안이 아닐 것이다. 물론, 의료 빅데이터 기반 헬쓰케어 분야도 아직 까지는 많은 구조적 문제가 있어서 시행착오를 거치고 있으며, 이를 극복하기 위한 기술적 보완을 하면서 현재까지는 ‘자동화된 의료’와 ‘사람에 의한 의료’가 서로 상보적으로 함께 나아가고 있는 형국이다. 마찬가지로, 거대한 사회 복지 체계를 효율성에 바탕을 두고 디지털 의사 결정을 통해 자원을 배분하면서 필연적으로 발생하는, 억울하게 외면당하는 대상자들에게는 분명 차가운 알고리즘이 미처 감별하지 못한 세밀한 부분을 들여다 보고 보완을 할 따뜻한 ‘인간’ 복지사의 역할이 필요하다. 저자의 표현을 빌리면 역사의 신이 말한 ‘그것으로는 충분하지 않다!’는 말은 비단 디지털 시스템 만이 아니라 인간에게도 똑같이 적용되는 격언이라고 생각하며 서로가 완벽하지 않기에 상호 교차하는 강점과 약점을 점을 보완해 가며 나아가야 할 것이다. 대안 제시에 미흡함이 있었다고 생각 하지만, 사회적 약자들이 처한 ‘자동화된 불평등’의 생생한 현실을 보여주고 시대의 대세인 빅데이터 시대의 밝은 부분 만이 아니라 어두운 부분에도 초점을 맞추어 경각심을 갖게 했다는 것 만으로도 본 서의 가치가 있다고 생각한다. 이러한 문제 제기 이후에 과연 세부적인 어떠한 보완이 가능할지에 대해서는 더 구체적인 논의가 필요하다고 본다.