AI는 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

자주 들어가는 유튜브에 어떻게 다른 영상들이 추천 알고리즘으로 떠서 나에게

전달되는지 궁금할 때가 많았다. 나와 전혀 무관한 영상들이 추천 영상으로

올라 왔을 때 당황했던 기억들이 있을 것 이다. 검색 자의 관심사, 성향 등을

알고 그와 비슷한 영상을 추천한다면 검색자는 오히려 이용자들에게서

소외되거나 한쪽으로만 치우치는 확증 편향의 오류를 범할 수 있다.

인공지능을 말하자면 메타버스를 지나칠 수 없다. 폭발적으로 늘어난 관심으로

인해 그에 관한 도서들이 끊임 없이 쏟아져 나오고 있다. 물론 지금 당장 광범위한

그 세계를 일반화 하기는 어렵다고 하더라도 이용자가 메타버스에서 활동하는

동안 엄청난 양의 데이터를 수집하고 생성하는데 이견은 없다.

이렇게 수집한 정보가 어떤 경로로 활용되는지 모르고 있는 상황에서

이용자는 불안감을 느낄 수 있다.

AI는 차별을 인간에게서 배운다는 제목처럼 이 모든 것은 인간으로 부터 습득한 것이다.

그러므로 재판을 하는데 있어 이제 사람인 판사가 필요 없고 인공지능이 머지않아 판결을 하는

시대가 도래할 것 이라는 것은 저자가 법학자로서 시대 의식의 부족과 판례의 변경을

예로 들어 대체 불가 함을 주장하지만 무엇이 현실이 될지는 아무도 모른다. 다만

지금 인기 있는 직업 군 들도 언젠가는 인공지능이 대체할지 모른다는 막연한

생각은 저자도 갖고 있다.

그렇다면 AI는 공정성을 유지하고 차별을 금지할 수 있을까? 막연하게 느껴졌던

내용들이 이해가 가는것은 차별을 결국 인간에게 배운 인공지능으로 직접 차별과

간접 차별을 어떻게 해결할 것 인가를 알게 하고 만약 인공지능이 잘 못된 판단을

했다면 그것 역시 인간의 학습 결과와 같음을 보여주는 것이다. 결국 인공지능의

문제는 인간이 지닌 사회의 편견과 모순까지도 데이터화해 그대로 배운다는

것에 이견이 없다.

다만 인공지능에 관한 빠른 논의는 더 없이 중요하며 우리 사회가 어떤

시대를 맞이할 것 인가는 인간들 손에 달려 있다는 것을 잊어서는

안될 것 같다. 인간에게 미치는 인공지능의 영향 중 그 한계와 부작용은 어떻게

해야 하는지 이해를 높힐 수 있었고 인공지능의 활용이 높아짐에 따라

인간이 가져야 할 역할의 중요성에 대해 다시 한번 생각하는 계기가

되었다.

출판사의 협찬으로 읽고 주관적으로 쓴 후기입니다