인공지능 시대, 우리에게 중요한 건 방향이다. 《AI는 차별을 인간에게서 배운다》

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

우리 사회가 장차 어떤 인공지능 시대를 맞이할 것인지에 관한 윤곽을 잡아가는 데에 있어 현시점의 논의가 결정적인 역할을 할 것이다.

인공지능은 이제 원하지 않아도 우리 삶 깊숙이 들어와 있다.

인공지능 알파고가 바둑 9단 이세돌 기사를 이기기 시작한 순간부터 인공지능이 인간을 넘어설 수 있다는 사실을 피부로 느끼기 시작한 후 급격한 발전을 거쳐 인간의 일자리를 위협할 만큼 인공지능은 어느새 성큼 우리 곁에 있다.

본격적인 인공지능 시대를 맞게 된다면 우리 사회는 인간이 개입할 수 있는 여지가 더 커질까 아니면 좁아질까?

인공 지능을 생각할 때 대다수의 사람들은 인공지능이 인력을 대체할 수 있는 존재라고만 생각한다. 또한 감정적인 인간보다는 알고리즘에 의해 작동하는 인공지능이 더 일관적이고 정확한 결과를 낼 수 있을 거라고 생각하기 쉽다. 『AI는 차별을 인간에게서 배운다』의 저자이자 서울대 법학전문대학원 고학수 교수는 가장 중요한 한 가지를 내세운다. 바로 인공지능을 작동하게 하는 것에 인간의 개입이 필연적이라는 사실이다.

인공지능을 이해하기 앞서 우리는 인공지능이 어떻게 작동하는지에 대해 알아야한다. AI가 결과값을 입력하기에 필요한 데이'학습 데이터'를 모으는 작업은 인간의 작업이 필요하다. 인공지능은 인간이 수집한 데이터에 근거하여 결과를 입력한다. 한쪽에 치우친 데이터를 AI에게 입력하면 AI는 한쪽에 치우친 결과만을 낳게 한다. 그 예로 미국 아마존 인공지능 면접시 여성 취업자에 관한 데이터의 부족으로 여성 지원자가 적게 뽑히는 결과를 초래했다. 뿐만 아니라 이미지 인식 기술에서 백인에게는 잘 반응하나 여성 또는 흑인은 잘 인식하지 못한다는 사실이 발견됐다.

편향된 데이터는 편향된 결과를 낳는다.

인간의 경우 감정적이지만 사회적 맥락에 따라 판단할 수 있는 유동성을 갖춘 반면, 사회적 맥락이 없이 주어진 학습 데이터만을 가지고 결과를 내는 인공지능을 온전히 신뢰할 수 있을까. 앞서 말헀듯 올바른 작동을 위해서 학습 데이터가 절대적인데 비해 그 데이터의 기준을 어떻게 세워야 할 것인지도 우리는 아직 구체적으로 생각해보지 못했다.

책을 읽어가다보면 우리가 이제까지 인공지능을 생각하는데 기술적인 발전만을 생각해왔음을 알 수 있다. 우리에게 시급한 것은 기술 발전이 아닌 '방향'이었다. 인공지능이 우리 삶에 올바르게 작동할 수 있도록 그 기준점을 우리는 빨리 논의해야만 한다. 이미 눈 앞에 다가온 인공지능 시대에 그 방향과 윤리를 생각하지 않으면 모든 영역에서 혼란이 생긴다. 그래서 우리는 인공지능이 기술자의 영역이라는 생각에서 벗어나야한다. 인공지능은 우리와 함께 삶을 살아가야 하므로 모든 부문의 전문가들과 사람들이 함께 답을 찾아가야 한다.