[마이리뷰] 대량살상수학무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

문제제기 자체는 당연히 소중하고 의미있다.
큰 틀에서는 글쓴이가 지적하는 바에 동감한다.

그러나 대안은?

가뜩이나 음모론과 가짜뉴스, 선동에 취약한 우리 공론장에서는, 기술에 대한 과장된 공포가 깨어있는 입장으로 추앙되고 논의를 지배, 중지시켜 버리는 경우가 많다(그러나 기술도, 제도도 일방향적이지만은 않다).

기술의 영역에서 만큼이나 인권의 영역에서도, 얼치기 전문가를 경계해야 한다. 기준은? 당장 이해하기 쉽고 내 평소 생각에 와닿는 말보다는 현업에 오래, 최근까지, 또는 현재 종사하고 있는 사람들, 개중에서도 입장을 신중하고 조심스럽게 내는 사람들의 말에 무게를 둘 필요가 있다(즉, 말보다는 실력과 전문성으로 시장과 업계에서 꾸준히 평가받고 있는 사람들. 특히 우리는, 스스로를 언론에, 자신의 본업과 무관한 분야에 관해서까지 자주 노출시키는 사람들을 경계해야 한다). 우리는 속고 산 역사가 있어서 그런지는 몰라도, 일단 실무자, 직업 전문가의 말을 의심, 배척부터 하고 보는 경향이 강하다. 그러나 우리 사회도 글로벌 경쟁에 노출된 이래, 영 이상한 일이 오래 지속될 수 있기에는 어느덧 꽤나 시스템이 갖춰졌고 생각보다는 투명하게 잘 굴러가고 있는 편에 속한다(적어도 문제가 있으면 언젠가 드러나게 되어있는 수준은 된다).

구체적 근거와 이성, 기본적 신뢰의 바탕 위에서 논의를 진행시킬 필요가 있다.

책 자체에 관해서는 다른 기회에 정리하기로 하되,

(비록 주관성이 강하고 한계가 많더라도) 기존 시스템의 우선권을 유지한 채로, 충분한 표본과 피드백을 바탕으로 통계분석시스템을 개선해 나갈 수 있는 유예기간(grace period) 같은 것을 분야마다 두는 방법을 고민해봄 직하다.


(2020. 2. 3. 추가)

저자는 알고리즘에, 진화하는 인간의 도덕적 상상력을 기입하자고 주장한다. 이익보다는 공정성, 인간적 가치, 윤리적 잣대로 알고리즘을 감사audit해야 한다고 주장한다. 공정성 점수를 매기자고도 한다.

그러나 그 공정성은 누가 판단하는가. 점수화할 수 있을 만큼 모두가 합의할 수 있는 윤리적 잣대가 있는가. 인간적 가치의 섣부른 개입이 알고리즘을 또다시 왜곡하는 것은 아닐까.

위에 쓴 것처럼 긍정적 피드백 루프를 충분히 거치는 것 외에, 인간이 차선책으로 민주주의라는 제도와 가치에 합의하였듯, 다른 가(중)치를 기입하여 서로 다른 되먹임 경로로 나아간 알고리즘 간 경쟁을 하게 해보는 것은 어떨까. 특정 알고리즘이 놓치는 부분을 다른 알고리즘으로 보완할 수 있지 않을까. 의사결정의 어느 단계에서 인간을 개입시킬 것인가도 고민이 필요할 것 같다.