안녕, 인간 - 알고리즘과 인공지능에 대한 새로운 질문을 던져야 할 때

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

Hello World. 1978년 C언어 프로그래밍 교재에 연습용으로 등장한 이 문장은 초보 프로그래머의 첫 과제로 유명한 출력문입니다. 컴퓨터 알고리즘이 우리 사회에 끼치는 영향력이 커질수록 "Hello World"는 인간과 기계가 서로 대화하는 순간을 상기시키는 것과 동시에 인간과 기계의 동반자 관계를 생각해보게 합니다.

수학 모델을 이용해 행동 패턴, 정부, 경찰, 의료 분석, 마케팅, 테러리즘, 교통과 관련한 연구를 하는 수학자 해나 프라이 저자. 알고리즘과 인공지능이 사회를 어떻게 통제하는지, 어떤 미래를 만들지에 대해 <안녕, 인간>에서 그 여정을 살펴봅니다.

이 세상에 얼마나 다양한 알고리즘이 많은지 상상 그 이상입니다. 눈에 빤히 보이는 알고리즘 외에 그 존재를 인식하지 못하는 알고리즘이 무척 많습니다. 의료, 범죄, 교통, 정치, 생활 전반에 스며든 알고리즘. 그저 세상이 흘러가는 대로 따라만 가면 될까요.

<안녕, 인간>에서는 알고리즘이 지닌 은밀한 힘을 알려줍니다. 더불어 인간의 한계와 알고리즘의 한계를 설명합니다. 이를 통해 우리가 그것을 어떻게 사용하느냐 하는 딜레마에 빠졌을 때 인간과 알고리즘의 관계를 재정의하는 데 도움을 줄 수 있습니다. 인간과 기계가 더불어 미래의 모습을 만들어나기에, 결국 <안녕, 인간>에서 제기하는 의문과 해답을 찾는 여정은 우리가 어떤 세상에서 살지를 생각해보는 것과 같습니다.

티끌 모아 태산이 되는 데이터. 사람들이 온라인에서 무엇을 했는지 정보를 손에 넣는다면, 그 사람을 얼마나 많이 파악할 수 있을까요.

나의 데이터에서 무엇을 추론할 수 있는지에 대해 우리는 너무나 모르고 있었습니다. 2015년 구글은 고소득 간부직 인터넷 구인 광고를 남성보다 여성에서 훨씬 적게 노출했습니다. 인종에 따라 노출되는 광고도 다릅니다. 이 정도는 애교 수준입니다. 나도 모르게 수집되고 정보들이 나를 조종하는데 쓰이는 데이터. 오싹한 선을 벗어나는 사례들이 <안녕, 인간>에 많이 등장합니다.

넷플릭스 영화 <블랙 미러>는 인공지능 사회와 관련한 대표 영화로 꼭 언급되는데요. 점수로 내 인생이 집약되는 사회는 먼 미래의 이야기가 아닙니다. 중국은 이미 '즈마 신용점수'로 불리는 국민 신용평가 제도를 일부 시행 중이고, 곧 전면 시행 예정이라고 합니다.

인간보다 뛰어난 알고리즘의 예측력. 그런데 완벽할까요? 오류는 없을까요? 알고리즘도 실수한다는 걸 <안녕, 인간>에서는 잘 알려줍니다. 그것도 꽤 높은 비율로 심각한 오류를 냅니다. 알고리즘에 입력하는 데이터가 이미 편향적인 경우가 많기 때문입니다. 문제는 알고리즘에게 책임을 지우면서 회피하는 인간의 모습이 나올 때입니다.

규칙 기반 알고리즘에서 벗어나 '신경망' 알고리즘 기술인 딥러닝 알고리즘의 탄생 이후 디지털 의료 진단 분야처럼 인간이 구분하기 애매한 사례를 인간과 기계의 힘의 결합으로 보완 가능한 부분은 희망적입니다. 하지만 이 경우도 역시 데이터가 문제입니다. 인류 전체로 보면 이득이 되는 것도, 개개인으로 보면 이득이라고 하기 힘든 경우가 많습니다. 개인 정보 보호와 공익 사이에 놓인 난제들은 숱하게 많습니다.

<안녕, 인간>은 존재하는 위험을 인지하는 것이 필요하다는 걸 알려준 책입니다. 알고리즘은 단순히 내 구매 습관 예측으로 끝나는 게 아닙니다. 우리의 자유를 훔칠 힘을 얻기도 합니다. 알고리즘의 이로움은 부풀려지고 위험은 알려지지 않았을 때 문제는 걷잡을 수없이 커집니다.

언제나 완전한 공정함을 보이는 것도 아니고, 완벽하게 작동하는 것도 아니라는 것. 알고리즘의 불확실성과 오류에 대한 사실을 받아들여야 한다는 것을 짚어줍니다. 삶의 모든 영역에 깊이 영향 끼치는 알고리즘은 쓸모 있지만 우리에게 숙제를 안겨 줬습니다.

개인 정보, 편향, 오류, 책임 소재, 투명성이라는 문제 말입니다. 알고리즘을 신으로 받드는 대신 알고리즘의 힘에 의문을 제기하기를 촉구하는 <안녕, 인간>. 인간과 기계의 동반 관계에서 반드시 필요한 질문을 안긴 책입니다.