아기 알고리즘도 실제 회사의 패턴을 관찰하여 어떤 사람이 좋은 직원인지 학습한다.
하지만 불행히도 실제 회사들이 이미 어떤 종류의 편향에 물들어 있다면, 아기 알고리즘은 이런 편향을 학습하고 심지어 증폭할 것이다. 예를 들어 실제 데이터를 통해 ‘좋은 직원’의 패턴을 찾으며 학습한 알고리즘은 다른 조건이야 어떻든 사장의 조카를 채용하면 된다는 결론에 이를지도 모른다. ‘사장의 조카’가 지원하면 대개는 채용되며 거의 해고되지 않는다는 것을 데이터가 분명히 보여주기 때문이다. 아기 알고리즘은 이 패턴을 발견하고 결과적으로 연고주의자가 된다. 이런 알고리즘이 인사 부서에 배치되면 사장의 조카들을 우대하기 시작할 것이다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/WmqxJB8GGjatdkHd9
