AI는 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

인간과 기술의 공존을 위해 다시 세우는 정의

21세기북스에서 출판한 고학수 교수님의 <AI는 차별을 인간에게서 배운다>는 다가올 미래사회의 AI가 법학 분야에 응용될 사례를 소개한다.

고학수 교수님은 서울대학교 법학전문대학원 교수로 재직 중이다. 서울대학교 경제학과에서 학사와 석사 학위를 취득했고, 미국 컬럼비아 대학교 로스쿨(JD)과 경제학과(PhD)에서 공부하여 각각 학위를 받았다. 공부를 마친 후 미국과 국내의 로펌에서 근무했다. 연세대학교 법과대학에 재직하였고, 컬럼비아대학교, 싱가포르국립대학교, 함부르크대학교에서 강의했다.

법경제학, 개인정보보호, 빅데이터, 인공지능, IT 정책 등의 영역에 관해 연구하고 강의한다.

[ AI는 차별을 인간에게서 배운다 책날개 중 ]

 

                 Photo by Markus Spiske on Unsplash

법학은 사회과학의 한 분야로 사회가 있는 곳에는 어떤 형태로든 법이 항상 존재한다. 법학은 온갖 유형의 법에 대해 분류하고, 분석하고, 설명하고, 해석하고, 비판하는 등의 작업을 한다. 실정법에 대해 다루기도 하지만, 실정법의 범위를 넘는 규범의 영역을 연구하기도 하고, 판례에 관해서도 연구한다. 최근 데이터, 인공지능과 관련된 법적 분석은 관심이 크게 늘어난 분야이다.

인공지능이 우리 생활에 빠르게 자리 잡고 있어 법학 분야에서 인공지능 시대의 윤곽을 마련하기 위한 논의는 어느 때보다 중요하다. 인공지능이 시대를 대표하는 기술이 되었고, 내가 필요로 하는 서비스를 선별해 추천하는 일도 인공지능의 역할이다.

가장 쟁점이 되는 미래 전망 중 하나는 인공지능이 ‘빅데이터’와 결합하면서 인공지능이 판결하는 시대가 오지 않을까에 관한 점이다. 인간은 ‘AI가 판결하는 결과에 승복할 수 있을까?’, ‘AI가 판결하는 법정은 더 공정할까?’라는 궁금증을 가지는 것은 당연하다.

저자는 이에 대해 인공지능 판사의 등장이 어렵다고 예측한다. 기존의 데이터를 바탕으로 사실관계를 파악하는 인간 판사의 보조적 역할은 가능하겠지만 국민의 법 감정을 헤아리기 어렵고 시대 의식이 부족할 수밖에 없는 한계를 가지고 있기 때문이다.

 

                       Photo by Andy Kelly on Unsplash

저자는 인공지능의 현주소와 일상에서 다양하게 사용되고 있는 프로파일링이 가지는 의미를 파악한다. 쇼핑과 나의 기호를 파악한 휴대폰 서비스를 편리하게 받아들이는 사람도 있고 불편하게 느끼는 사람도 있다. 분명한 사실은 내가 남기는 흔적을 데이터로 전환한 정보를 누군가는 수집하고 이를 활용한 마케팅에 사용한다는 점이다.

인공지능의 알고리즘 서비스에 대해 느끼는 개인차는 존재한다. 넷플릭스, 페이스북, 유튜브의 추천 영상을 보며 인공지능의 알고리즘 서비스의 치밀함에 놀라기도 한다.

인공지능의 공정성을 논하기 위해서는 공정성과 차별에 관해 생각할 필요가 있다. 공정성이라는 개념은 추상적이라 공통된 합의점을 추출하기는 어렵고, 차별도 직접 차별은 판단하기 쉽지만, 간접 차별은 구별하기 어렵다.

인공지능은 개발과정에서 데이터를 구성한다. 데이터는 인간 사회를 배경으로 추출하고 인간 사회는 어느 정도 편견과 차별, 불공정을 띄고 있다. 데이터를 추출해 데이터베이스를 만드는 과정의 표본추출 과정에서 통계적 편향은 나타날 수 있다. 인공지능에 의한 간접 차별은 인간이 편향된 성향이 반영된 알고리즘에 의해 이루어질 수 있다.

우리에게 필요한 것은 인공지능 기술을 신뢰하기 위한 논의와 투자, 사회적 합의를 만들어야 한다. 인공지능 시대로 나아가는 흐름을 거스를 수 없다면 사회가 어떻게 변해가야 하는지 고민을 해야 한다.

 

<AI는 차별을 인간에게서 배운다>는 인공지능에 관해 아주 쉽게 설명하고 동시에 제목에서 언급한 것처럼 인공지능이 차별을 배우게 되는 과정을 차분히 설명하고 있다.

인공지능 윤리 규범이 만들어지고 이를 관련 법안에 넣는 최근의 흐름은 인공지능의 공정성 개념에 대한 사회적 합의를 만들어가는 과정이다.

서울대의 명강의로 이루어진 ‘서가명강 시리즈’답게 많은 생각거리와 인공지능이 중심이 되는 미래 사회에서 인간의 가치는 어떻게 존중되어야 하는지 알게 되었다.

- 이 글은 출판사에서 도서를 지원받아 주관적으로 작성하였습니다.

#AI는차별을인간에게서배운다, #서가명강시리즈, #인공지능AI, #알고리즘차별, #프라이버시, #안면인식, #법학자, #컬처블룸, #컬처블룸리뷰단, #컬처블룸서평단