책의 주된 내용은 아니지만, 강화학습 기반의 딥러닝 인공지능은 인간의 편견과 선입견까지 학습하여 버린다고 한다. 우리는 그런 AI에게 자꾸 선택권을 넘기려는 시도들을 하고 있다. 누가 가장 큰 어려움을 겪을까?
인공지능은 사람들이 쌓은 데이터를 바탕으로 하기 때문에 사람들의 편견과 오해를 그대로 학습해요. 2016년 7월, 인공지능을 활용한 온라인 국제미인대회에서 프로필 사진을 심사하는 프로그램이 백인을 제외한 후보자들을 떨어뜨려 논란이 된 적이 있어요. 또 구글의 온라인 광고가 여성보다 남성에게 더 높은 임금의 직업 광고를 추천하는 경향과 흑인들에게는 저렴한 상품을 집중적으로 보여 주는 경향이 높다는 연구 결과도 있죠. 인공지능이 의도치 않게 사회적인 차별을 하게 되는 거죠.
|