-
-
AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월
평점 :
이제 4차 산업혁명이니 AI 자체에 대한 이야기는 조금 식상해진 느낌이다. 구체적으로 잘 모르면서 메타버스 등 다양한 용어 등과 함께 우리는 이미 4차 산업혁명의 근처에 와 있는 듯 착각에 빠질 때가 있다. 그래서 개략적인 AI 관련 서적보다 이렇게 구체적인 책에 더 관심이 가는 걸까? <AI는 차별을 인간에게서 배운다> AI로 당연히 IT 관련 전문가라고 추측했으나 이 책은 법학전문대학원 교수가 쓴 책이다.
현실에서 수집된 데이터가 어떻게 인공지능이 우리 현실에서 적용되고 있는지 기술적인 설명이 1부에서 설명되고 2부에서는 현재 인공지능이 현실에서 어느 수준에서 적용되고 있는지를 아마존, 카카오 택시 등의 구체적인 사례를 통하여 독자의 이해를 돕고 있다. 어떤 수집된 자료가 보여주는 이면의 사회적 맥락을 파악하려면 더 많은 개인 정보가 필요한데 그럴수록 어떤 특정인(집단)에게 불리하게 작용할 수 있기 때문에 현실적으로 AI가 그 자료를 취급하는 데에 우리는 쉽게 동의할 수 없다.
인간으로부터 차별을 배운다는 책 제목의 대표 실례를 보여주는 예는 책 곳곳에서 확인된다. 한 데이팅 업체는 회원들의 사진만으로 동성애자를 식별 가능하다고 주장하고, 애플이 골드만삭스와 제휴하여 출시한 신용카드는 부부가 동시에 (성별, 인종, 나이, 성적 지향이 배제된 양식으로) 신청한 두 카드의 조건에서 남편이 20배나 월등한 신용도를 가지고, 미국,유럽권의 안면인식 기술은 백인 남성을 더 잘 식별하고, 반대로 중국의 기술은 아시아인에 대한 정확도가 높다고 한다. 우리가 현실에서 겪는 (차별) 상황과 딱히 달라 보이지 않아서 놀랍다. 2부에서 기술된 여러 실례 등은 아마존의 구매 기록으로 신용카드를 다행히 발급받았던 저자의 예외 상황을 빼고는 불편과 불안을 더 극명하게 드러내 보인다. 그렇기에 3부에서 차별을 교묘하게 만들어 내고 공정성에 대한 논쟁을 일으키기 쉬운 현재의 알고리즘에 대하여 우리 사회가 본격적인 논의를 시작해야 한다는 저자의 제안에 전적으로 동의하게 된다.
미국과 유럽에는 차별과 관련된 법이 존재하는 반면 우리나라는 단편적으로 도입된 몇몇 법만이 있다는 현실의 차이를 확인하는 것부터 시작하는 3부는 통계학의 개념을 공정과 차별의 범주에서 녹여내고 다양한 상황에서 공정성 지표를 만들어 가는 과정이 지면 강의로 펼쳐지고 있다. 그리고 이어지는 디지털 공간에서 프라이버시에 대한 논의는 2부를 읽으며 불안해진 나의 고민과 맞닿아 있어서 더 흥미로웠다. 솔직히 나의 모든 것은 N사가 가지고 있다고 봐도 무방하기 때문에 ^^;
4부는 IT가 왜 인문학과 만나야 하는지에 대한 융합의 필요성을 잘 환기해 주는 장이다. '인공지능 윤리'라는 다소 생소한 연구 영역에 대한 기본적인 것과 현재 우리나라의 상황도 안내하고 있다. 2018년부터 카카오, 삼성전자, 네이버, SK 텔레콤 등 각 기업체마다 대동소이한 윤리 원칙을 발표하고 있으나 추상적인 원칙의 내용보다 개발 현장과 상용화 단계에서 어떻게 해석하고 적용의 문제가 중요하다는 저자의 지적에 많이들 동의할 것이다. 미국 병원과 채용의 현장의 현실의 사례를 바탕으로 어떻게 알고리즘을 설계할 것인지가 AI가 우리를 (덜) 차별하도록 이끄는 열쇠가 될 것이다. 그래서 '알고리즘의 중립성'은 더 중요해진다.
비행기와 자동차를 이용하는 우리가 기계 장치에 대한 복잡한 구조는 모르지만 그 기계를 신뢰하기에 이용하고 인공지능에 대한 신뢰는 그에 미치지 못한다는 저자의 비교는 일면 이해하지만, 자동항법의 비행기와 자율주행 자동차을 구입하는 선택의 문제만큼 AI에 대한 신뢰 여부는 간단하지 않다는 데에 있다. 저자가 앞서 제시한 여러 차별의 상황 등을 고려한다면 특히.
IT와 통계학에 대한 지식을 기반으로 한 쉽지 않은 독서였지만, 관련 업계에 있다면 당연히, 그리고 온라인 세상에서 나의 프라이버시를 한 번이라도 고민한 적이 있다면- 사실 프라이버시 이상의 가치로 필독을 권한다.