알고리즘에 따라 정해지는 할당 시간은 한 시간 이내로 극히 짧을 수도 있고 바쁜 시간대에는 매우 길어질 수도 있는데, 언제나 이윤이 극대화되도록 결정된다. 알고리즘은 근처에서 대기하거나 출근하자마자 퇴근해야 하거나 일정을 예측할 수 없어 인생 계획을 짜지 못해 발생하는 인적 비용을 고려하지 않는다. 이 시간 도둑질은 회사의 효율성을 높여주지만 직원들은 그 대가로 직접적인 손실을 입는다. - <AI 지도책> 중에서
나는 AI 시스템이 어떻게 만들어지는지를 수년간 연구하면서 수백 개의 데이터 집합을 살펴보았지만 NIST 머그샷 데이터베이스는 그중에서도 유난히 심란하다. 장차 벌어질 일의 본보기를 보여주기 때문이다. 사진 자체가 주는 엄청난 비감 때문만은 아니다. 용의자와 재소자에게는 사진 촬영을 거부할 권리가 없다는 점에서 개인정보 침해 때문만도 아니다. 내가 심란한 이유는 NIST 데이터베이스가 현재 기술 부문에 속속들이 스며 있는 논리의 출현을 예고하기 때문이다. 그것은 모든 것이 데이터이고 수집되기 위해 존재한다는 확고한 믿음이다. 사진이 어디서 찍혔는지, 취약하거나 고통받는 순간에 찍혔는지, 대상자에게 수치심을 유발하는지 등은 그들의 관심사가 아니다. 할 수만 있다면 무엇이든 수집하고 이용하는 관행이 업계 전반에 어찌나 일상화되었던지 그 이면의 정치적 성격에 의문을 제기하는 사람은 좀처럼 찾아보기 힘들다. - <AI 지도책> 중에서
대학 기반의 기관감사위원회institutional review board, IRB 같은 윤리 보호 기구들은 오랫동안 이 논리를 받아들였다.63 처음에는 일리가 있었다. IRB는 개인 피험자에게 명백한 위험이 따르는 생체의학·심리학 실험에서 흔히 쓰는 방법들에 집중하느라 여력이 없었기 때문이다. 전산학은 훨씬 추상적인 학문으로 간주되었다. - <AI 지도책> 중에서