《안녕, 인간》 알고리즘과 인공지능, 이익과 불편 그 양면에 대한 이야기

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

2019년은 과거 사람들에게 영감이 주는 해였나 보다. 영화 <아일랜드> 속 배경, 영화 <블레이드 러너>의 배경이 바로 2019년이기 때문이다. 2019년을 살고 있는 인간의 삶은 영화 속 보다 발전되거나 파괴된 모습은 아니지만 인공지능의 서늘한 공포를 체험하고 있는 중이다.

생활 곳곳에 자리 잡은 알고리즘

책은 우리가 나날이 의지하고 있는 존재 '알고리즘'에 대해 다루고 있다. 알고리즘은 인공지능뿐만이 아닌 우리 실생활 전반에 관여하고 있다고 해도 과언이 아니다. 알고리즘은 검색엔진, 쇼핑에서부터 의료, 범죄, 교통, 정치 일상생활에도 파고들었다.

당신이 오늘 어떤 음식을 먹을지 고민하다 컴퓨터가 추천해준 음식을 선택한 것도 바로 알고리즘에 의해서란 사실을 알까? 넷플릭스를 재미있게 시청하다 드디어 마지막 화를 끝냈다. 넷플릭스는 시청자가 다음에 어떤 콘텐츠를 보고 싶어 할지 추천해 준다. 당신은 추천해준 드라마를 무심코 클릭할 가능성이 높다 알고리즘은 편리하다. 하지만 오류를 일으키는 경우가 많다. 알고리즘을 어디까지 믿어야 할까?

알고리즘이란 무엇인가?

영화 <업그레이드> 스틸컷

알고리즘은 넓은 뜻에서 어떤 문제를 풀거나 목적을 달성하고자 거치는 여러 단계의 절차를 말한다. 방정식, 산술식, 대수, 미적분, 논리, 확률이 들어간 수학 연산을 순서대로 해석해서 컴퓨터 코드로 옮겨 좋은 것이다. 현실 세계의 데이터를 입력받고, 구체적인 목표를 부여받아, 설정에 따라 빠른 계산 속도로 수많은 데이터를 처리하여 목적을 달성한다.

문제는 인간보다 알고리즘이 실수 없이 100% 정확하다고 편견을 갖는 것이다. 다양한 상황에서 알고리즘의 정확성을 핑계 삼아 알고리즘에 권위를 보여한다. 구글링 할 때 1페이지보다 2페이지의 정보를 신뢰하는 사람은 적다. 대체로 믿을 만한 알고리즘을 신뢰하는 것과 알고리즘의 특성을 확실히 이해하지 못한 채 신뢰하는 것은 다르다는 것을 알아야 한다.

영화 <엑스 마키나> 스틸컷

현대 의학의 모든 역사와 성과는 데이터의 반복과 패턴을 찾는 분야로 발전되었다. 의료 영역에서 개인 정보 보호와 공익 사이에서 당신이 공개하고 싶지 않은 질병까지 공개하는 것은 타당할까. 즉, 선택이 누구를 위한 이익인지를 경계해야 한다. 알고리즘은 오류를 범하더라도 최종 결정권자인 인간이 검토하고 거부할 수 있어야 한다. 하지만 인간이 늘 옳은 결정을 내리는 것은 아니다. 최종 결정권은 사람이어야 할까, 기계여야 할까?

우리가 알고리즘을 좀 더 객관적으로 봐야 한다. 알고리즘을 맹신하기보다 꼼꼼히 분석하고 상황에 맞게 판단해야 한다. 너무 쉽게 개인 정보를 제공 후 서비스를 이용하는 것도 문제다. 역시 세상에 공짜는 없다. 커피 기프티콘을 준다는 말에 덥석 정보를 제공하고, 3개월간 이용할 수 있음에 동의한 나 자신을 반성한다. 중간 업자가 데이터를 빼돌려 악용하는 게 문제긴 하지만 말이다.

《안녕, 인간》은 알고리즘의 긍정성보다 인간이 악용할 때 일어나는 다양한 상황과 문제점에 대해 말한다. 인류의 이익을 위해 만들어진 알고리즘이 당신의 목을 조를지 모를 일이다. 인간이 계속 힘을 유지하기 위해서는 기계의 오류와 결함은 물론 인간의 결점과 약점까지 이해해야 한다. 앞으로 더 나아갈 과학 발전에서 주도권을 어떻게 잡을지 생각해봐야 한다. 한순간의 잘못된 판단으로 영화에서나 봐왔던 디스토피아가 될 미래, 생각만 해도 공포스럽다.