AI는 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

도 서: AI는 차별을 인간에게서 배운다

저 자: 고학수

출판사: 21세기 북스

그런데 사람에 의한 차별과 인공지능에 의한 차별은 서로 매우 다른 메커니즘을 통해 발생한다.

-본문 중-

인공지능을 넘어 이제는 메타라는 단어가 들린다. 그런데 정작 인공지능이든 메타든 알고 있지 않다는 점이다. 그마나 영화나 책을 통해 인공지능이 무엇인지 인식이 될 뿐 그 이상의 것을 생각 한 적이 없었다. 그러고보면 전에 미래에 사라질 직업군이 소개 된 적이 있었는 데 정말 사람이 필요로 한 경우가 아니면 로봇이 대체한다는 것을 읽었는데 코로나 상황이 장기전으로 되면서 일분 서비스 업종에선 인간 대신 로봇이 등장하게 되었다. 이를 보면 AI 라는 말이 무색할 정도로 주위에서 쉽게 접할 수 있는 게 현실이다.

그리고 오늘 서가명강 시리즈 22번 째 도서로 AI에 관한 책을 만나게 되었다. 책은 총 4가지 주제로 분류하고 더 세세하게 나뉘어서 설명을 하는 데 책을 읽기 전 까지는 AI에 대해 단순하게 생각을 했었다. 이 말은 기존에 익히 알고 있는 인공지능과 앞으로 미래에 어떤 영향을 받을지...조금은 쉽게 생각을 했었다. 하지만 책은 먼저 인공지능이 어떤 원리로 작동을 하는가를 시작으로 그 이후 파생되는 여러가지 상황을 나열하고 있다.

일정 유형의 사진이 트위터 이용자들 사이에 관심을 많이 끌게 되면, 트위터 알고리즘이 이를 파악하여 관심도를 높아진 유형의 사진들에서 특징을 추출한 뒤, 동일한 특성을 보이는 사진들을 더욱 부각할 가능성이 있는 것이다. 이러한 순환구조가 결국 특정한 방향의 편향성을 보이는 결과를 초래할 가능성이 있다

-본문 중-

인공지능은 인간이 만든 기술이라는 점을 잘 기억해야한다. 국내에 알파고 등장으로 오래 전 부터 인공지능이 낯설지 않게 생각하지만 '그 인공지능'이 갖고 있는 결정이란 것을 결국 인간의 의해 만들어진다는 사실이다. 데이터를 통해 인공지능이 작동을 하게 되는데 이는 스마트폰이나 넷플릭스 등 다양한 매체에서 이용이 된다. 예를 들면 넷플릭스에서 관심있는 영화를 조회했다고 하면 다음부터는 이와 비슷한 영화들이 추천으로 올라오게 된다. 이는 사용자의 정보를 토대로 비슷한 자료를 제공해 준 사례다. 더 넓게는 기업 면접과 안면인식으로 활용이 되기도 했는데 인공지능이 무엇을 기초로 데이터를 흡수했는지에 따라 결과는 달라진다.

안면 인식에 대해선 동성애자와 백인과 흑인 등 인종 차별에 대한 인식 결과가 나오기도 하고, 한 부부의 신용도(?)를 어떻게 측정을 했는지 남편 카드의 한도가 더 높게 나온 사례도 있다. 또한 이는 각각 나라의 기술에 따라 결과가 달라지는데 아시아와 유럽인을 구분하는 것 역시 그 나라의 인공지능에 어떤 자료가 더 많은 지에 따라 다르다(그런데 이건 어쩔 수 없는 게 아닐까..그러니 문제가 될 수밖에 없는 거 같다.). 많은 정보로 인해 인공지능은 더 풍부하게 만들어지고 인간에게 더 편리한 기능들을 접할 수 있게 한다. 하지만, 동시에 AI판단에 모든 것을 맡길 수 없다는 게 현 시점이다.

공정성과 윤리면에서도 깊이 생각을 해야한다고 지적을 하고 그럼에도 미래는 인공지능과 함께 발전하니 기술만 앞서가는 가는 게 아니라 신뢰를 쌓아가는 노력과 시간이 필요함을 말한다. 사실, 이 책을 읽으면서 관련 용어가 등장해 술술 넘어가지는 않았지만 앞으로 인공지능의 활동 범위가 넓어지니 꼭 읽어봐야 할 도서다.