[안녕, 인간] 알고리즘은 완벽하지 않다.

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

인간도 알고리즘도 완벽하지 않다.

언젠가 와우북 페스티벌에서 과학이나 로봇이 주제였을 때 들은 강연이 굉장히 인상적이었다.

스마트폰과 신용카드, 전화번호 등등 온갖 개인 정보로 정부가 사람들을 감시한다며, 그 감시에서 어떻게 벗어날 수 있는지에 대한 이야기도 해줬었는데, 흥미진진했다.

당시 조지 오웰의 소설 1984에 등장하는 빅 브라더와 영화 스노든에 대한 이슈가 좀 화제였고, 알파고와 이세돌의 세기의 대결이 화제였다. 인간이 인공지능에게 패배하자, 인공지능 관련 서적들이 쏟아져 나왔다.

관련 영화들과 드라마들이 점차 많이 등장하기 시작한 것도 이 무렵부터였다.

  

테러 방지를 목적으로 정부가 닥치는 대로 수집한 정보로 국민을 감시한다는 사실을 언론에 폭로한 NSA와 CIA 정보 분석 원인 에드워드 스노든

다들 인지하고 있지만, 자신이 그 대상이 되어 불이익을 당하거나 문제가 생기지 않는다면 별생각이 없다.

개인 정보보호의 중요성과 노출되었을 때의 위험성에 대해서 아무리 이야기해봐야 그냥 한 귀로 듣고 흘리기 마련이다. 강연을 들을 당시에도 사용하지 않을 때, 핸드폰 자체를 아예 꺼놓아야 하며, 위치 추적 기능의 위협성에 대해서도 열심히 알려줬었다. 수많은 팁을 알려줬었고, 영화를 보면서 놀랐던 상황은 그때뿐이었다.

에너미 오브 스테이트나 어느 여자의 전쟁을 보시라, 국가가 어떻게 당신을 집요하게 추적하는지 적나라하게 보여준다.

SNS가 피드를 조작하면서, 보고 싶은 정보만 볼 수 있게 바꿔놓는다던가.

유명 포털 사이트가 검색어를 실은 조작한다던가, 쇼핑 큐레이션도 실은 모아놨던 빅 데이터를 통해서 치밀하게 분석한 뒤 사고 싶은 상품을 보여준다던가.

점차적으로 사람들이 직접 사고한다기보단, 그걸 조작한다는 걸 우리는 너무 잘 안다.

하지만 그냥 귀차니즘에 사소한 선택조차 인공지능에게 맞기는 현재, 괜찮을까?

그런 의미에서 우리 근처에 흔하디흔하게 존재하고 있는 인공지능, 알고리즘에 대해서 자세히 훑어보면서 과연 인간은 어떻게 대응해나가야 할 것인지를 생각하게 해주는 책 <안녕, 인간>.

미래는 마냥 기다리기만 해서

오는 것이 아니기 때문이다.

미래란 우리가 만드는 것이다.

안녕, 인간 - 프롤로그

  

뼈 있는 책의 소개. 귀차니즘에 인공지능에게 선택을 그냥 맡겼던 과거의 나를 반성한다.

책은 크게 7개의 챕터로 나눠져 있으며, 인간은 알고리즘의 판단은 어디서 어디까지 신뢰해야 하는지, 맹목적으로 따르지 않는다면 어디에서 의문을 가져야 하는지를 기본적으로 다루고 있다.

알고리즘은 무엇인지, 우리가 그로부터 얻을 수 있는 이득과 불이익은 무엇인지 알려주는데, 자세히 읽다 보면 분명히 모르는 부분 아닌데도 소름 끼치는 부분들이 많다.

알고리즘의 데이터는 그러면 확고한 것인지, 인간의 실생활인(재판, 건강, 교통, 치안, 예술 등)과 함께 결합했을 때 어떤 결과를 가져왔는지, 어떤 문제가 있을지를 구체적으로 알려준다.

 

인간의 자신의 실수보다 알고리즘의 실수에 관대하지 않다. 그렇다고 맹목적으로 알고리즘을 신봉해서도 안된다.

스마트폰과 컴퓨터 화면 속의 기술들이 발달된 근 미래의 디스토피아적 문제들을 그린 넷플릭스의 드라마 블랙 미러를 보자. 매회 멘틀 붕괴의 연속인 시나리오와 소재지만, 공감 가는 이유는 정말 가까운 미래에 가능한 이야기거나, 현재 벌어지고 있는 문제를 다룬 드라마라서 화제가 되고 있다.

시즌 3의 추락이라는 에피소드를 보면, 현재 중국에 2020년까지 완성해서 도입될 예정의 시스템인 "사회 신용시스템"과 다를 바 없으며, 실제 SNS 팔로워가 많거나 파워유저에게 많은 권한과 혜택이 생기는 걸 보면 그저 놀라울 뿐이다. 신용점수에 따라갈 곳이 제한되고, CCTV의 얼굴인식 기능이나 스마트폰으로 위치 추적이 가능해서 실시간으로 점수가 내려가거나 올라가는 등, 실로 대단한 세상에 살고 있다.

근 미래의 디스토피아적 문제를 다룬 넷플릭스 드라마 블랙 미러를 보면,

다가올 미래와 현재의 문제가 무엇인지 적나라하게 보여준다.

기업에서는 얻은 개인 정보와 데이터로 소비자의 취향과 성향을 분석하여, 살 물건들의 정보를 예측해서 제시해주기도 한다. 하지만 그 데이터의 결과는 심각하게 개인 정보를 침해하는 것이기도 하고, 숨기고 싶은 비밀을 드러나게 하기도 한다. SNS의 심각한 개인 정보 유출과 그 정보가 어디에 쓰이게 될지 우리는 잘 모른다.

하지만, 정보의 무차별적 노출에 한 번쯤 차분히 생각해봐야 할 문제다.

빅데이터는 어떻게 이용되고 활용되고 있는 것인가. 기업들의 쇼핑 큐레이션과 쿠폰들을 살펴보면 교묘하게 이용했음을 알 수 있다.

알고리즘이 인간을 심판한다면, 그 데이터에는 오류가 없을까?

인간은 매우 복잡한 존재이기 때문에 오류가 생길 수밖에 없다. 범죄를 예언자들의 꿈을 통해서 막으려고 했던 톰 크루즈가 결국 어떤 결론에 이르게 되었는지, 데몰리션 맨에서 범죄자와 형사 둘에게 어떤 교육을 냉동 중에 받게 되는지, 알고리즘에 의한 오류와 사건 사거로 결국 생기기된 문제다.

  

알고리즘이 재판을 한다면 어떻게 될까.

마이너리티 리포트, 데몰리션 맨 등등, 알고리즘을 실행하면서 뭔가 오차나 실수가 생길 수도 있다.

자율 주행의 위험성을 보여주는 모놀리스. 안전할 거라던 인공지능 자동차는 최고의 공포를 선사한다.

결국 인공지능이나 알고리즘은 사용하고 업그레이드하는 건 인간이기 때문에 오류가 생길 수밖에 없다.

그렇기에 인간이 알고리즘은 사용하는 권력자나 사회에 지배당하지 않으려면 더 잘 알아야 한다.

무지의 상황에서는 저렇게 될 수밖에 없다는 상황을 너무나 적나라하게 표현했던 영화 모놀리스.

 

자동운행 주행이 과연 안전한 걸일까를 보여준 모놀리스

책을 읽으면서, 근래 나왔던 영화들을 보면, 과연 인공지능이 못하는 게 무엇인지 질문을 던지게 된다.

사랑조차 시스템적으로 진화하면서, 인간보다 더 인간적인 감정을 느끼고, 때로는 나보다 더 나를 잘 알아주고, 공감하고 반응해주는 시스템의 그녀.

자꾸만 인간의 한계가 느껴진다.

물론 아직까진 창조적인 영역이나 복잡한 인간 자체를 따라갈 수 없는 게 바로 인공지능이긴 하다.

새로운 시대는 계속해서 성큼 다가오고, 인간이 인공지능이나 알고리즘 속에서 자유로울 수 없기에, 그냥 모르는 채 착취당하거나 무기력하게 지배당할 것인지. 아니면, 알고리즘의 취약점을 잘 파악해서 문제를 해결하며 위기를 넘길 것인가.

이미 사회적으로 크고 작은 문제들이 생기는 만큼, 알고리즘을 현실적으로 파악하는 게 급선무다.

특히 챕터 2와 4번은 흥미진진하게 읽었으니, 관심 있으신 분들은 한 번쯤 읽어보시길 추천한다.

(실은 관련 영화나 드라마를 보시라고 더 추천해드리고 싶지만, 일단 책 리뷰니까...)

도대체 인공지능이 못하는 게 무엇인가.

이제는 인공지능이 인간보다 더 인간다운 사랑을 하기도 하고, 나보다 더 나를 잘 알고 분석하기도 한다.