책 :: 안녕, 인간 _ 알고리즘과 인간의 공생하는 길에 대하여

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

"Hello World"

유튜브를 켰다. 유튜브는 내가 이전에 봤던 영상을 토대로 보지 않았으나, 내가 흥미롭게 생각할 영상을 자동으로 추천해준다. 그렇게 추천하는 영상 중 나는 보지 못한 영상을 하나 골라보았다. 넷플릭스도 마찬가지다. 다큐멘터리와 로맨틱, 코미디 영화를 최근에 많이 본 나에게 자연스럽게 "이성과 감성" 영화를 추천했다. 그리고 자연스럽게 그 영상을 나는 보았다. 쿠팡에서 검색한 물건은 시간이 흐른 뒤 다른 화면에서 배너 광고로 만나는 일에 익숙해졌다. 휴가로 떠날 지역의 숙소를 한번 검색했을 뿐인데, 각종 숙소 예약 어플에서 최저가 최고의 숙소를 추천하는 알림을 보내고 있다. 스마트폰과 인터넷을 이용하며 익숙해진 이 모든 과정에는 나에 대한 데이터를 활용하는 알고리즘 기술이 숨어있다.

『안녕, 인간』은 어느 순간부터 익숙해진 다양한 알고리즘과 인공지능이 우리 삶에 얼마나 가까이 다가왔으며, 이를 어떻게 통제하고 능동적으로 활용할 수 있는지에 대한 책이다. 알고리즘의 편리한 기능보다, 그 편리한 기능 뒤에 가려진 문제점이 무엇이고 이를 어떻게 전략적으로 활용해야 하는지 소셜 미디어, 검색엔진, 의료계, 법조계, 자동차, 범죄 예방, 예술에 이르기까지 막대한 분야의 사례를 들어 접근해간다.

알고리즘이란 "메리언-웹스터 사전에 따르면 (넓은 의미에서) 어떤 문제를 풀거나 목적을 달성하고자 거치는 여러 단계의 절차"이다. 다시 말해 "알고리즘이란 어떤 과제를 달성하는 법을 처음부터 끝까지 알려주는 논리적 지시를 그대로 나열한 것"이다. 알고리즘의 정의부터 기술에서 어떻게 활용하는지에 따라 분류를 나누어 설명한다. 정의에서 알 수 있듯이 알고리즘은 논리적 지시이자 과정일 뿐 어떤 판단의 주체가 되기 힘들다는 점이다. 알고리즘에 저지를 수 있는 "오류를 피할 유일하게 합리적인 방안은, 최종 결정을 내리기에 앞서 알고리즘의 제안을 검토할 위치에 거부권을 지닌 인간"을 두는 것으로 "자기가 내릴 결정에 무거운 책임을 느낄 줄 아는 인간"의 능력과 가치를 무시하지 않아야 한다는 점을 강조한다. 물론 "인간의 결점을 인정하고, 우리가 본능적으로 보이는 반응에 의문을 던지며, 우리를 둘러싼 알고리즘에 어떤 감정을 갖는지 주의 깊게 살필 필요"가 있다. 이를 통해 알고리즘에 우리가 부여한 힘이 정당한지, 그 능력이 합리적인지를 판단하는 주체가 될 수 있어야 함을 저자는 강조한다.

우리는 알고리즘이 막대한 영향력을 발휘하는 오늘날의 예견하지 못했다. 그리고 수많은 나의 개인 데이터를 너무 저렴한 가격에 제공한 후 많은 서비스를 이용하고 있다. 이 불공정한 거래를 개선하기 위한 노력이 이루어지고 있지만, 이미 상당수의 개인 데이터는 헐값에 인터넷을 떠돌고 있다. 이미 넘겨진 데이터는 어쩔 수없지만, 앞으로는 주의해야 한다. 무료로 이용할 수 있는 기능이 사실은 무료가 아니라 나의 지극히 개인적인 데이터를 데이터 브로커에게 넘겨지는 대가로 누리는 것일 수 있기 때문이다. 물론, 데이터 브로커가 나에게 맞는 광고와 정치 메시지를 보내도 이에 의연할 수 있다면 문제가 되지 않지만. 실상은 그렇지 않다는 데 있다. 알고리즘은 단순히 나의 소비를 부추기는데 그치지 않고 때로는 재판에서 나의 형량과 재범률을 판단하는 근거로 활용될 수 있으며 이때 알고리즘에 의해 나의 자유가 제한될 가능성도 함께 있다. 또 심지어 범죄에 악용될 가능성도 있기에 주의에 주의를 기울여야 한다.

알고리즘이 삶의 어떤 양상을 마주하든 즉 개인 정보 보호와 공익 사이에 놓이든, 그때마다 균형점이 있기 마련이다. 갖가지 동기가 얽혀 있는 상황을 헤치고 길을 찾기란 쉽지 않은 일이다. 설사 그 길의 끝자락에 인류 전체의 건강 증진이라는 뚜렷한 미래가 기다리더라도 마찬가지다.

그런데 길을 찾기가 훨씬 어려울 때가 있다. 서로 맞서지는 동기가 보이지 않게 감추어져 있을 때다. 알고리즘의 이로움은 부풀려지고 위험은 알려지지 않았을 때다. 알고리즘이 나에게 믿으라고 말하는 것이 무엇인지, 내가 그렇게 믿었을 때 누가 이익을 얻는지 스스로 물어야 할 때다.

_171쪽

책에서 흥미로웠던 부분은 범죄자를 찾아내는데 알고리즘이 어떻게 활용될 수 있으며, 실제 활용된 사례에 대한 부분이다. 범죄 수사 분야에 있어서 알고리즘의 활용은 매우 유용하다면, 그 활용에 반대를 말할 사람은 많지 않을 것이다. 나 역시 그렇다. 당연히 첨단 기술을 이용해, 범죄를 저지른 사람들을 체포하는 것은 필요하고, 실제로 CCTV 화면을 이용해 범인을 찾아내는 기술에 놀랐다. 하지만 매우 낮은 확률로 얼굴이 비슷한 사람이 범죄자로 오인될 가능성이 있음을 조금도 생각하지 않았다. 다시 말해 오류 가능성이 있을 수 있다는 점과 그 가능성이 때로는 한 사람의 삶을 파괴할 수 있는 폭력이 된다는 점을 고려하지 못했다. 방대한 양의 데이터와 알고리즘에도 오류가 있을 가능성이 있으며 그것이 범죄 예방을 목적으로 활용되어 긍정적인 결과를 부를 수도 있지만 틀린 결론에 이르렀을 때 걷잡을 수 없는 피해를 부를 수도 있다. 그렇기 때문에 묻지 않을 수 없다. "알고리즘 때문에 생기는 희생자보다 막을 수 있는 범죄 때문에 생기는 희생자를 우선시하는 지점은 어디일까?" 이 판단만큼은 알고리즘이 아닌 인간이 내려야 하지 않을까?

저자는 알고리즘에 대한 분석을 종합하여 이렇게 말한다. "내가 보기에 뛰어난 알고리즘은 모든 단계마다 인간을 고려하는 알고리즘이다. 달리 말하면 기계가 내놓는 결과물을 과신하는 인간의 습성을 인정하는 동시에, 알고리즘 자체의 결점을 포용하고 불확실성을 과감히 정면으로 드러내는 알고리즘인 셈이다." 마치 알고리즘의 설명이지만, 훌륭한 인간을 말하는 설명으로 보아도 좋다는 생각이 들었다. 알고리즘에 인간을 넣고 인간에 알고리즘을 넣는다면, 이 역시 알고리즘 시대에 뛰어난 인간에 대한 설명이 될 수 있지 않을까? 결국 알고리즘 역시 인간이 만들었으며, 인간의 결정을 지원하고 보완하기 위한 기술이다. 이 기술이 우리 삶에 전반에 활용될 거라는 점을 저자는 부정하지 않는다. 중요한 건, 그 전반에 활용됨에 있어 인간의 삶이 위협하지 않기 위해 강조되는 것이 알고리즘이 아닌 인간이라는 점이다. "알고리즘 시대에는 그 어느 때보다 인간이 중요해진다"라는 점을 강조하며 책을 마무리했다.