AI는 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

서울대에 가지 않아도 들을 수 있는 명강의. 서가 명강의 22번째 주제는 서울대 법학전문대학원 고학수 교수의 강의다. 얼마 전만 해도 낯설고 어색했던 AI라는 단어가 이제는 익숙함을 넘어 식상할 정도의 시대가 되어버렸다. 과거 한 다큐멘터리에서 사람이 관심 있게 보고 지나가기만 해도 관련 정보가 핸드폰으로 자동 전송된다는 이야기에 상당히 놀랐던 기억이 있는데, 이제는 그 이상의 빅데이터를 순식간에 주고받는 시대에 이르렀다.

사실 AI라는 단어를 보고, 이 책의 저자가 과학 분야일 거라는 예상했었는데, 예상과 달리 이 책의 저자는 법학교수다. 법학과 AI가 무슨 연관이 있을까 내심 궁금했었는데, 첫 부분부터 얼마 전에 만났던 이야기가 등장했다. 검사 내전이라는 책에서 저자는 기술과 과학의 발전이 법조계에 영향을 미치고 있고, 앞으로 판사나 검사. 변호사 같은 법조인들을 대체할 AI가 개발될 수도 있다는 이야기를 했다. 이 책에도 도입부에 그런 이야기가 등장한다. 사실 법조인에게 지출하는 비용이 상당하고, 판결에 대해 불신을 하는 경우가 종종 생기다 보니 객관적인 AI를 통한 판결이 더 믿을 수 있다는 여론이 형성되어서 그런 것 같다. 나 역시 책을 읽으며 AI가 판결을 하면, 적어도 인간의 감정이 배제되기에 객관적이고 냉철한 (때론 더욱 공정한) 판결이 나지 않을까 하는 생각을 해봤다. 물론 그럴 수 있기도 하지만, 저자는 판례가 뒤바뀌는 경우가 계속 있는데(문화와 세대의 변화에 따라 판단이 달라짐으로), 만약 AI 판사가 판결을 하는 경우 그런 일이 벌어질 확률이 없을 거라는 이야기를 한다. 그렇기에, AI는 직접적인 판단을 하기보다는 관련 지식을 처리하고 지원하는 형식으로 사용되어야 할 것이라고 주장한다.

사실 책 속에 등장하는 이야기들은 생각보다 법률보다는 통계학이나 알고리즘이나 데이터, 프로파일링 같은 기술적이고 과학적인 이야기가 많았다. 법률가 AI뿐 아니라, 현재 활용되고 있는 AI 기술에 대한 이야기와 더불어 AI가 어디까지 개발되었고, 어느 정도의 처리를 할 수 있는지에 대한 이야기가 1.2장에 등장한다. 3장과 4장에서는 기술의 연장선상에서 차별과 공정성, 개인의 프라이버시, 빅 데이터 시대 속에서의 AI 윤리와 정의를 이야기한다. AI 정보로 인한 차별이 일어나지 않기 위해서는 기술의 진보와 신뢰가 어떻게 뒷받침되어야 하는지에 대해 저자의 식견을 만날 수 있다.

기본 개념은 복잡하지 않지만, 그를 이루는 내용을 이해하려는 접근이 쉽지 않았다. 다행히 다양한 사례가 중간중간 등장해서 이해가 안 되는 부분에 기름칠을 해줬다. 가령 기업의 블라인드 채용에 관한 부분과 더불어 얼굴을 통해 동성애자를 찾는 기술은 심히 쇼킹했다. 잘못된 알고리즘이 심각한 차별을 이루어낼 수 있다는 사실을 피부로 와닿게 설명했던 부분이었다. 그런 면에서 인간의 차별과 AI의 차별은 결이 다르다. 앞으로 AI는 계속 진화할 것이고, 그에 따라 문제들은 속속 등장하게 될 것이다. 기술과 인간의 공존을 위해, 기술로부터 공정을 지키기 위해 계속적인 개발과 주의를 기울여야겠다.