미래란 우리가 만드는 것!

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

알고리즘은 유죄 여부를 판정하지 못한다. 피고와 검찰의 주장을 저울질하지도, 증거를 분석하지도, 피고가 진심으로 뉘우치는지 판단하지도 못한다. 그러니 머지않아 알고리즘이 판사를 대체하리라는 기대는 접으시라. 그렇지만 믿기 힘들게도 알고리즘은 개인정보를 이용해 재범 위험률을 계산할 줄 안다. 게다가 많은 판사가 재범 가능성을 고려해 판결을 내리므로, 따지고 보면 알고리즘의 그런 능력이 꽤 쓸모 있다.    P.92

문명이 발달할 수록 인간과 기계는 동반자가 되어 간다. 인공지능을 비롯한 알고리즘의 권력은 점차 일상을 지배하고 있다. 그렇다면 알고리즘이란 무엇인가. 사전적 정의로는 '주어진 문제를 논리적으로 해결하기 위해 필요한 절차, 방법, 명령어들을 모아놓은 것'을 말한다. 넷플릭스가 취향 별로 추천하는 영화를 자연스레 선택하게 되고, 핸드폰에서 검색한 키워드는 원하든 원치 않든 웹사이트의 배너 광고로 마주하게 되고, 페이스북에서 '좋아요'를 누른 페이지로 사용자의 취향을 예측해 맞춤형 광고를 붙이는 식이다. 이런 기술의 뒷면을 보면 언제나 알고리즘이 숨어 있다. 이렇게 기계 시대를 움직이는 보이지 않는 부품인 알고리즘은 오늘날 소셜 미디어부터 검색엔진, 의료, 법원, 마케팅 등의 분야에서 막대한 영향력을 미치고 있다.

이 책은 경제, 데이터, 의료, 예술 전반을 뒤흔드는 인공지능 시대에 인간은 어떻게 주도권을 확보할 것인지에 대해 질문을 던진다.  단순히 알고리즘이란 무엇인가로 시작해 그 기능과 힘을 살펴보는 데 그치지 않고, 알고리즘이 아직 풀지 못한 문제를 정면으로 마주하고 있어 많은 생각할 거리를 던져주고 있다. 경찰이 체포할 용의자를 결정할 때 쓰는 알고리즘에서는 범죄 피해자와 결백한 피고인 중 누구를 보호할 것인지, 판사가 유죄 판결을 받은 범죄자의 형량을 정할 때 쓰는 알고리즘에서는 사법 제도가 어떤 모습이어야 하느냐는 물음을, 무인 자동차를 움직이는 알고리즘에서는 도덕률을 어떻게 결정할 것인지를 고민하고 있다.

앞으로 몇 년 뒤, 당신이 자율주행 자동차를 타고 도심 거리를 신나게 달리고 있다고 해보자. 교통 신호가 빨간 불로 바뀌었는데 자동차에 이상이 생겨 차를 멈출 수가 없다. 충돌을 피할 수 없는 이 상황에서 차는 선택을 해야 한다. 도로에서 벗어나 콘크리트 벽을 들이받아 탑승자를 죽음에 이르게 할 것인가? 아니면 계속 달려 탑승자는 살리되, 횡단보도를 건너는 보행자를 칠 것인가? 우리는 이때 자율주행 알고리즘이 어떻게 작동하도록 설계해야 할까? 누가 죽을지를 어떻게 결정할까?    P.191~192

만약 당신이 폭주하는 전차의 진행경로에 있는 5명과, 전차의 경로를 바꾸면 희생될 한 명 중 한쪽을 선택해야 한다면, 어떻게 대답할 것인가. 이는 1960년대로 거슬러 가는 유명한 사고실험인 전차 문제에 대한 대응 문제이다. 이것이 무인 자동차의 사례가 되면 상황은 이렇게 바뀐다. 자율주행 자동차를 타고 거리를 신나게 달리고 있을 때, 신호가 빨간 불이 되었는데 차에 이상이 생겨 멈출 수가 없다. 충돌을 피할 수 없는 상황에서 차는 어떤 선택을 할 것인가. 탑승자를 죽음에 이르게 할 것인가, 보행자를 칠 것인가. 2016년 초가을에 열린 파리 모터쇼 전시회장에서 이러한 질문을 받은 메르세데스 벤츠의 대변인은 "우리는 탑승자를 구합니다."라고 대답했다가 언론의 질타를 받았다. 당시 설문 조사에 따르면 응답자의 76퍼센트가 탑승자를 희생시켜서라도 되도록 많은 사람을 살리는 쪽이 더 도덕적이라고 답했다. 하지만 그것이 자신의 경우가 된다면, 공익을 위해 자신을 희생하겠다고 나설 수 있는 이가 얼마나 될까에 대해서는 의문이다. 저자는 이렇게 ' 나와 남의 목숨이 지닌 가치를 저울질하는 알고리즘을 우리가 어떻게 느끼는지'에 대해 질문하고, 지적하고, 고민한다.

알고리즘이 적용되는 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 팽팽한 갈등 상황이 자주 발생한다. 개인의 이익과 공공의 이익이 충돌할 때 어떤 선택을 할 것인가, 알고리즘의 선택은 과연 믿을 만한 것인가. 그리고 그 속에서 인간의 한계와 가치에 대해서도 우리는 생각해 보아야 할 것이다. 물론 자동화가 삶의 모든 영역에 긍정적인 영향을 끼치고, 우리의 삶을 더욱 편리하게 만들어준다는 점은 의심할 여지가 없다. 오늘날 알고리즘은 인간을 도와 유방암을 진단하고, 연쇄살인마를 붙잡으며, 비행기 추락을 방지하고, 누구나 손끝으로 인류의 방대한 지식을 쉽게 얻을 수 있게 해주고, 세계 곳곳의 사람들과 즉시 연결되게 해주고 있으니 말이다. 이 책은 그럼에도 우리는 알고리즘이 남겨준 문제들에 대해서 짚어보고, 알고리즘의 힘에 의문을 제기해야 한다고 말한다. 그리하여 기계와 인간의 완벽한 공생을 통한 미래의 가능성을 제시하고, 각종 위기와 쏟아지는 정보에 휘둘리지 않고 헤쳐나갈 수 있도록 도와 준다. 당신은 착취당할 것인가, 지배할 것인가, 아니면 완벽하게 공생할 것인가. 미래란 우리가 만들어 가는 것이다.