"모든 AI응답은 환각이다
(...)
모든 응답이 환각이다.그런데도 우리는 응답이 틀렸을 때만 그렇게 부른다.플라톤의 '동굴의 비유'로 설명하면 AI는 동굴 벽에 비친 그림자 춤을 추고 있다고 볼 수 있다. AI가 읽기를 수행한다고 주장할 때 실제로는 점점 더 빈번하게 그럴듯해 보이는 모조품들을 만들어낸다.인간이 읽기를 하지 않는다면 AI가 자아내는 그림자들이 얼마나 타탕한지 평가할 수 없다"/170~171쪽
인공지능을 이야기할 때마다 '검증'의 과정도 필수지만, 질문의 방식도 중요하다고 말하지만, 그냥 흘려듣는 사람들이 훨씬 더 많은 것 같다. 거짓말 대신 '환각' 이란 말을 사용해야 겠다.