이미 알고리즘은 주식 매매, 우리 SNS 페이지에 뜨는 뉴스 선택 등에 쓰이고 있고, 범죄자가 재범을 저지를 확률을 판단하는 데도 쓰이고 있다. 우리는 알고리즘이 인간보다 더 합리적인 결정을 하리라고 생각하는 경향이 있다. 그러나 알고리즘은 인간이 주입한 그 모든 편향과 그릇된 전제를 더욱 증폭시킬 뿐이다.
우리가 할 결정을 컴퓨터에 맡길 때 우려되는 것은 그뿐이 아니다. 최근 인공지능 기술은 급속도로 발전해가고 있다. 만약 우리가 인간보다 훨씬 똑똑하고 유능한 인공지능을 만들어내게 된다면, 그 인공지능이 과연 항상 우리 편일까? 자신의 목적 달성을 위해 인간을 자기 뜻대로 조종할지도 모르고, 인간을 적으로 간주해 파괴하려 할지도 모른다. 아니면 인간이 중요하다는 것을 알지 못하고, 우리가 시킨 작업(예를 들어 클립 많이 만들기)을 더 잘하기 위해 인간을 한낱 수단으로 삼을지도 모른다.