알고리즘의 명과 암에 대하여 [안녕, 인간]

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

알고리즘이 실수를 저지를 줄 알면서도 그 내부를 알지 못하는 알고리즘에

통제권을 넘겨야 할 날이 언젠가는 올 것이다.

<안녕, 인간>, 41p

<안녕, 인간>의 저자 해나 프라이는 책의 첫 장에 매우 친절하게 '알고리즘'이 무엇인지 설명한다. 이는 독자들이 책을 완독하기 위한 첫 번째 단계로, 알고리즘에 대한 개념이 어느정도 잡혀있어야만 그것이 주는 영향력에 대해서 파악할 수 있기 때문이다. 저자는 알고리즘이란 '(넓은 뜻에서) 어떤 문제를 풀거나 목적을 달성하고자 거치는 여러 단계의 절차'라고 소개한다. 사실 이렇게 광범위한 정의를 보면, 우리가 수학 문제를 풀거나 케이크를 만드는 법도 알고리즘에 해당한다. 하지만 대부분의 사람들은 알고리즘을 보다 산술적인 곳에 사용한다. 컴퓨터 공학과 기계 공학에서 인류를 놀라게 할 만한 성과가 나온 것도 이 때문이다.

저자는 알고리즘의 범주를 분석하고 분류하는 방법을 소개하며, 알고리즘이 갖고 있는 정확성에 대해 이야기 한다. 궁극적으로는 인간이 알고리즘의 정확성을 핑계삼아 알고리즘에 권위를 부여하는데, 바로 여기서 의문점이 생긴다. 우리는 알고리즘을 전적으로 신뢰해도 되는 것일까? 저자는 오늘날 개인의 모든 데이터를 알고 있고, 관리하는 알고리즘이 인간의 행동과 삶에 미묘하게 영향을 끼치고 있으며, 어쩌면 그들의 영향력이 커졌을 때 사회의 밑바탕이 흔들릴 수도 있다고 경고한다.

여기에서 반드시 구분해야 할 것이 있다. 대체로 믿을 만한 알고리즘을 신뢰하는 것과, 알고리즘의 특성을 확실히 이해하지 못한 채 신뢰하는 것은 사뭇 다른 일이라는 점이다.

<안녕, 인간>, 37p

오늘날 알고리즘은 거의 모든 영역에 걸쳐서 사용되고, 발전하고 있는데, 의료 영역에서도 빠지지 않고 사용되고 있다. 고도로 전문화된 알고리즘이 좁은 영역에 초점을 맞추어 과제를 해결하고 있으며, 심혈관 질환, 폐기종, 뇌졸중, 흑색종 등을 진단하기도 한다. 또 한발 나아가 대장 내시경을 하면서 실시간으로 용종을 진단하는 시스템도 있다. 다만 여기에서도 인간의 '유전적 정보'라는 개인 정보 문제를 어떻게 해결할 것인가 하는 문제와 부딪히게 된다.

​2002년 개봉한 영화 <마이너리티 리포트>는 미리 일어날 범죄를 예측해서 범죄자를 단죄한다는 내용을 담고 있다. 영화 개봉 당시 신선한 소재로 세계적으로 관심을 받았는데, 영화 속 배경이 되는 해가 2054년이다. 놀랍게도 2019년인 오늘날, 세계에서는 범죄 예측에 대한 알고리즘이 활발하게 활용되고 있으며, 비교적 광범위하게 사용되고 있다는 점이다.

프레드폴 말고도 시장에 나온 소프트웨어가 더 있다. 그중 하나가 헌치랩(HunchLab)으로, 해당 지역의 모든 통계 자료 즉 기록이 남은 범죄, 비상 신고 전화, 인구 통계 자료, 게다가 달의 모양처럼 미심쩍은 지표까지 결합해 작동한다.헌치랩은 어떤 이론에 근거하지 않으므로 특정 지역에서 다른 곳보다 범죄가 자주 발생하는 이유를 밝히려 하지 않고, 데이터에서 발견한 패턴만을 보고한다.

<안녕, 인간>, 240p

알고리즘이 범죄 영역에 있어서도 활용되고 있지만 마찬가지로 부작용을 피해갈 수는 없다. 저자에 따르면 2015년 뉴욕 경찰청이 용의자 1,700명을 식별해 그 중 900명을 체포했는데, 그 과정에서 선량한 시민 5명이 잘못 식별됐다. 이 정도의 수치는 범죄를 예방하기 위해 기꺼이 받아들여야 하는 것일까?

<안녕, 인간>을 통해 소개된 인간이 구축한 알고리즘은 이미 인간의 삶에 지대한 영향을 끼치고 있다. 유방암을 진단하고, 연쇄살인마를 붙잡으며, 비행기 추락을 방지한다. 이미 알고리즘은 사법제도, 의료, 치안, 온라인 쇼핑 등 광범위한 영역에서 활용되고 있다.

하지만 저자는 알고리즘의 편리함에 눈이 멀어 그것에 '권위'를 부여하는 행위를 경계한다. 알고리즘도 인간처럼 실수를 하고, 때때로 불공정하고, 완벽하지 않다고 인정하는 것에서 시작해야 한다. 알고리즘이 어쩔 수 없이 실수를 저질렀을 때 그것을 쉽게 교정하는 알고리즘이 필요한 이유다. 독재적인 알고리즘이 아닌 인간의 결정을 지원하는 알고리즘에 대해 생각해볼 때이다. 책의 제목이 <안녕, 알고리즘>이 아닌 <안녕, 인간>인 것은 모든 답은 인간인 우리에게 달려있기 때문이다.