그보다는 우리가 의도한 대로 묘사된 가치를 추구하도록 인공지능에게 동기를 부여하는 것이 어려운 문제이다. 우리의 의도를 이해하는 인공지능의 능력만으로는 이것을 보장할 수 없다. 즉 우리가 의도한 것을 정확히 이해한다고 해도─단어들에 대한 다른 해석에 따라 동기 부여가 된다거나 우리가 제공한 단어들에 아예 무관심하거나 하는 방법으로─전혀 무관심해질 수 있다.-알라딘 eBook <슈퍼 인텔리전스> (닉 보스트롬 지음, 조성진 옮김) 중에서