수학자이자 퀀트, 데이터과학자로서 나는 빅데이터와 인공지능이 가진 파괴적인 힘을 수년간 목격했습니다. 이 책은 내 여정의 기록이자 내부 고발이며 전문가로서의 제안입니다. 수학, 데이터, IT기술의 결합으로 만들어진 알고리즘들은 지금 이 순간에도 곳곳에서 ‘보이지 않는 손’이 되어 무소불위의 권한을 휘두르고 있습니다. 특히 인간의 편견과 무지, 오만을 코드화한 프로그램들은 차별을 정당화하고, 민주주의를 위협합니다. 저는 이런 프로그램들이 ‘대량살상무기Weapons of Mass Destruction’만큼 위험하다고 생각합니다. 그래서 이것들에게 ‘대량살상수학무기Weapons of Math Destruction’, 줄여서 WMD란 이름을 붙였습니다. 대량살상수학무기는 이 책의 제목이기도 합니다. - <대량살상수학무기> 중에서
https://www.millie.co.kr/v3/bookDetail/15748780 - P8
그러나 내게는 문제가 보였다. 빅데이터 경제의 원동력인 수학 모형 프로그램들은 실수가 있을 수밖에 없는 인간의 선택에 기반을 둔다. 분명 이런 선택 중 일부는 선한 의도를 가지고 있다. 그러나 대다수 모형은 인간의 편견, 오해, 편향성을 코드화했다. 그리고 이 코드들은 점점 더 우리 삶을 깊이 지배하는 시스템에 그대로 주입됐다. - <대량살상수학무기> 중에서
https://www.millie.co.kr/v3/bookDetail/15748780 - P20
통계 시스템에서 양만큼 필수적인 것이 있다. 바로 피드백이다. 피드백은 시스템이 정상 항로에서 벗어날 경우, 이를 알려주는 장치다. 통계 전문가들은 피드백을 통해 받은 오류를 토대로 모형을 개선해 더욱 완벽하게 만든다. - <대량살상수학무기> 중에서
https://www.millie.co.kr/v3/bookDetail/15748780 - P29
이 책에서 설명하는 사례들을 통해 계속 확인하겠지만, 특권층은 주로 개별적인 대인면담을 통해 평가받고, 대부분의 평범한 사람들은 기계가 일괄적으로 처리한다. - <대량살상수학무기> 중에서
https://www.millie.co.kr/v3/bookDetail/15748780 - P32
"당신조차 적절히 설명할 수 없는 방법으로 사람들을 평가하는 것을 어떻게 정당화할 수 있습니까?" 그런데 그것이 바로 WMD의 본질이다. - <대량살상수학무기> 중에서
https://www.millie.co.kr/v3/bookDetail/15748780 - P34
|