겉모습, 특히 인간의 겉모습에 쉽게 속는 경향이 그렇다. 앨런 튜링은 사람을 닮은 로봇을 만들지 말라고 경고했다.
-알라딘 eBook <어떻게 인간과 공존하는 인공지능을 만들 것인가> (스튜어트 러셀 지음, 이한음 옮김) 중에서
그 방식은 출발점으로 삼기에는 좋지만, 그것만으로는 부족하다. 보증되는 것이 실제로 우리가 원하는 것이고 증명에 쓰인 가정들이 정말로 참이라는 것을 최대한 확실히 해야 한다. 증명 자체는 전문가를 위해 쓰는 학술지에 속한 영역이지만, 그럼에도 증명이 무엇이고 진정한 안전을 위해 무엇을 제공할 수 있고 무엇을 제공할 수 없는지를 이해하면 도움이 될 것이다. 이 장의 제목에 적힌 ‘증명 가능하게 이로운 provably beneficial은 약속이라기보다는 열망이지만, 올바른 열망이다. - P270