[마이리뷰] AI 지도책

[eBook] AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 / 소소의책 / 2022년 11월

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

하지만 딥마인드와의 계약을 조사했더니, 환자에게 데이터 제공 사실을 충분히 고지하지 않아 개인정보 보호 법률을 위반한 것으로 드러났다.74 정보위원회는 조사 결과를 발표하면서 이렇게 말했다. ‘혁신의 대가가 기본적 프라이버시 권리의 침해여야 할 필요는 없다.’75 - <AI 지도책> 중에서

분류는 작업 하부 구조 속에 끼워 넣어짐으로써 그 힘의 어느 부분도 상실하지 않으면서 상대적으로 보이지 않게 된다.’15 AI 훈련용 데이터 집합에서 이미지에 라벨을 다는 것이든 얼굴 인식으로 사람들을 추적하는 것이든 산탄을 두개골에 붓는 것이든, 분류는 권력의 행위다. - <AI 지도책> 중에서

AI 분야에서 이 현상을 볼 수 있다. 영향력이 매우 큰 인프라와 훈련 데이터 집합은 순전히 기술적인 것으로 간주되지만 실은 분류 체계 안에 정치적 개입이 들어 있다. 세계에 대한 특정 질서를 자연적인 것으로 치부함으로써 기존 질서를 정당화하는 것처럼 보이는 효과를 만들어내는 것이다. - <AI 지도책> 중에서