AI는 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

인공지능. 이제는 먼 미래의 이야기만이 아니다.

우리가 사용하는 OTT 넷플릭스에서는 알고리즘을 바탕으로 맞춤서비스를 진행하고 있고 유튜브는 개인의 취향을 바탕으로 연관 검색어를 추천한다. 자율주행은 실용화 3단계까지 진행되었으며 딥러닝을 통해 학습하는 알파고는 이미 그 분야의 거인을 뛰어넘었다. 이처럼 실생활에 밀접하게 들어온 인공지능. 이제는 과학과 기술을 넘어 인공지능에 사회적 책임이 거론되고 있다. 알고리즘을 통해 개인에게 제공되는 서비스는 편향적인 시선과 과점을 만들어 낼수 있고 정보수집차 노출되는 안면인식과 필터링서비스는 사생활 침해와 같은 오류를 일으키기도 한다. 이런 인공지능의 오류와 의도적인 편향 그 논란의 중심에는 항상 인간에 있다.

인공지능이 알고리즘을 통해 사람을 위한 서비스를 하는 기준은 인간의 프로그래밍에 의해서다. 상황과 조건에 의해 기준을 정해주면 고양이와 강아지를 구분하고 반복적인 학습에 의해 그 범위를 넓혀 확실한 구분을 할수 있게 된다. 하지만 이 모든 기준을 제시하는 것은 인간이다. 그들이 상정범위를 넘어 자신의 이해에 맞게 기준을 제시한다면? 알고리즘은 변질되고 인공지능은 개인의 이익을 위해 악용될수 있다. 실례로 아마존의 사례는 채용이나 사람을 선별할 때 여성을 부정적으로 인식하게 만드는 알고리즘을 제시해 개발팀이 해체되는 사례가 있었고 미국의 안면인식프로그램은 백인에게 긍정적인 반응을 보였다. 이처럼 생활의 편리는 주는 인공지능이라도 인간에 의해 사적으로 유리하게 사용될수 있으며 개인의 기준에 변질될수 있다. 그래서 인공지능의 공정성, 투명성, 사회성이 요구되는 만큼 우리는 법적으로 통제할수 있는 제도가 필요하다. 과학기술이 편리만을 가져오는 것이 아닌 사회적 부작용도 수반하는 만큼 윤리적 측면의 규제와 통제가 있어야 과학과 기술이 인간의 생활에 올바른 공존과 번영을 가져 올 것이다.

정보통신기술의 융합으로 4차 산업혁명이 생활전반에 편리를 가져오게 되었다. 하지만 문명의 이기와 같은 기술의 진보가 누군가의 사리사욕으로 개인의 통제와 규제를 가져 올수도 있는 이때 우리는 법적제도의 구비와 사회적 통제방침을 확고히 해야 인공지능이 주는 편리를 행복하게 누릴수 있을 것이다.