AI를 만드는 기술적인 과정에서 기계는
오류가 잘못이라고 배운다. 이것은 AI가 인간의 잘못된 추정과 최적 이하의 실행을 교정할 때만 전적으로 유용하다. 그러나 인간 시스템에서 오류의 또 다른 원인은 개인의 자유의지다. 즉 우리는 ‘잘못된‘ 선택을 내릴 자유가 있다. 그러한 오류를 제거하기로 결정한 AI 시스템에게는 두 가지 선택지가 있다. 우리를 제거하거나 우리의 자유의지를 제거하는 것이다. 만일 자유의지가 기본적으로 지능의 한 가지 특징이 아니라 버그로 간주되면, AI는 인간의 자유의지를 제 목표의 달성을 막는 장애물로 점차 인식할 수 있다.- P133
