AI는 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

인공지능에 대한 일반적인 관심은 꽤 오래되었습니다. 광고로도 오래전(찾아보니 1990년) 대우전자가 퍼지세탁기라는 걸 내놓은 적이 있습니다. 퍼지이론도 인공지능의 한개념임이 분명합니다. 하지만 요즘 생각하는 인공지능을 느끼기에는 미약하죠. 이러던 인공지능이 빅데이터를 만나고 공중부양을 하더니 이세돌과의 대결로 일반인들에게도 현실로 다나온 열풍으로 이어졌고 학문적으로도 전학계로 영역을 넓혀가면서 논의가 활성화되고 있습니다. <AI는 차별을 인간에게서 배운다>는 법학베이스로 인공지능의 논란을 정리하고 공정과 차별, 정의와 윤리영역까지 알아봅니다.

저자는 서울대 법학전문대학원 고학수교수입니다. 서울대에서 경제학으로 석사까지 하시고 컬럼비아대 로스쿨(미국변호사) 그리고 경제학과 박사까지한 스펙으로는 최고의 분이시네요. 2007년부터 서울대교수로 재직하고 계십니다. 소위 한국사회의 파워엘리트시네요. 저서는 <법경제학><핀테크시대> 법과 경제를 오가는 저서도 내시고 <인공지능원론>이라는 책도 공저로 출간하신 인공지능도 열심히 공부하시는 학자십니다. 최근기사로 '차기정부 대통령이 이끄는 국가디지털혁신위원회'도 제안을 하셨군요. 디지털하면 또 인공지능이죠.

<AI는 차별을 인간에게서 배운다>는 제목그대로 인간이 문제다라고 들립니다. 인공지능은 학습해서 결과를 내는 과정은 인간이 모르는 상태라 의문을 제기하지만 인공지능을 지배하는 것은 아직은 인간이고 인간이 어떤 스탭을 밟느냐가 매우 중요하죠. 이 책은 4부로 구성이 되어 잇습니다. 인공지능의 원리, 현재 인공지능으로 할수있는 것, 앞으로의 과제로 공정성문제로 투명성과설명가능성을 제시합니다. 마지막으로 앞으로 다가올 인공지능윤리를 논의하고 어떻게 학습할 것인지도 살펴봅니다. 흥미로운 부분은 각 파트마다 Q/A를 달아서 그 주제에 핫한 질문과 답을 모은점이 인공지능의 모습을 이해하는데 좋은 참조가 되었습니다.

인공지능의 윤리문제가 불거진것은 2021년 인공지능 챗봇 이루다였습니다. 성희롱논란이 불거지면서 서비스가 중단되었습니다. 자연스러운 대화라는 기술은 좋았지만 사회적맥락을 고려하지 못한 측면을 제기합니다. 학습할 때 개인정보문제도 제기되고, 유튜브의 추천시스템도 몇개의 영상을 보았다고 윤리적 판단없이 그 쪽 영상만 골라 추천하게 되면서 청소년들에게 나쁜 습득을 강화하는 측면도 문제라고 합니다. 인공지능이 기업에 적용되는 부분중에 채용에 관여하기 시작했습니다. 물론 아마존이 인공지능채용시스템을 개발하면서 포기한 케이스도 있는데 추천에서 여성비율이낮은 문제가 제기되었습니다. 한국에서도 초기면접에 인공지능이 사용되고 있습니다. 다만 정보수집차원에서 개인정보의 활용이 아닌가하는 문제점도 제기됩니다. 하지만 앞으로 채용에서 인공지능이 사용될 가능성은 점점 높아집니다.

인공지능의 알고리즘의 공정성과 차별문제가 많이 제시된다고 합니다. 그런데 공정성과 차별을 확인하는 기준은 알고리즘관점에서보면 매우 모호한 측면이 있습니다. 관련 변수들을 보면 서로 상충적인 변수도 등장합니다. 차별도 직접차별은 걸러낼수가 있지만 간접차별은 입력값에 차별적 요소가 없는데 결과값이 차별적 요소가 생기는 어려움이 있습니다. 아직까지는 신뢰의 문제에서 시간이 요할 수 밖에 없습니다. 윤리문제도 신뢰할 수있는 인공지능으로 판단을 합니다. 아직까지는 인공지능의 완벽성은 많은 떨어지는 상황이죠. OECD는 신뢰할 수있는 인공지능을 위해서 5가지 원칙을 제시합니다. 포용적 성장, 지속가능한 개발 및 웰빙, 인간중심의 가치와 공정성, 투명성 및 설명가능성, 견고성, 보안 및 안전, 책임성입니다. 하나같이 쉽지 않는 기능으로 보입니다만 이것을 구혀하는 것도 인류의 미래를 위한 개발자의 업보(?)라는 생각도 듭니다.

인공지능을 걱정하는 분들이 많습니다. 물론 기대하는 사람들도 많죠. 왜냐하면 새로운 기회의 문이 열리는 것이기때문입니다. 언제부터인가 세계경제는 정체되기 시작했습니다. 경제성장은 점점 떨어지고 성장율로 2%가 깨지기 시작했습니다. 이를 타계할 미래의 사회기회가 결국 인공지능일수밖에 없기 때문입니다. 하지만 이로인한 논란도 만만치않죠. 이 책에서 다뤘듯이 윤리라는 인간의 기본적인 사회의식을 건들일수있습니다. 이제 인공지능이 점점 속도를 내고 빠르게 변하고 있습니다. 윤리에 대한 논의를 멈추면 그만큼 인공지능에서 윤리적 문제, 공정성에 대한 차별문제 등이 발생할 수밖에 없습니다. 이제 적극적으로 논의를 시작해야 할때인건분명합니다.

본 도서는 출판사로부터 무상으로 제공받아서 주관적인 리뷰를 했습니다.