[Review] 무자비한 알고리즘 (카타리나 츠바이크 著, 니케북스)

무자비한 알고리즘 - 왜 인공지능에도 윤리가 필요할까
카타리나 츠바이크 지음, 유영미 옮김 / 니케북스 / 2021년 1월

“무자비한 알고리즘 (카타리나 츠바이크 著, 유영미 譯, 니케북스, 원제 : Ein Algorithmus hat kein Taktgefühl)”를 읽었습니다.

책의 질문은 단순합니다. 

‘인공지능에 왜 윤리가 필요할까?’ 

최근 AI 챗봇인 ‘이루다’의 경우에서 인공지능은 결코 중립적이지도 공정하지도 않으며 학습 데이터에 따라 인간보다 더 편향적이고 차별적일 수 있다는 것과 인공지능에도 윤리가 반드시 필요하다는 사실을 많은 사람들이 깨달았을 것 같습니다.

사실 우리나라에서는 이번에 문제가 되었지만 기술쪽 뉴스에 밝은 분들은 기시감이 들었을 것 같습니다. 바로 MS 챗봇 ‘테이’가 서비스 시작한 지 몇 시간만에 차별 발언으로 중단했던 적이 있고 애플의 시리나 아마존 알렉사 역시 이러한 문제에서 자유롭지 않습니다. 

이러한 AI의 윤리 문제 중 가장 유명한 것은 바로 트롤리 딜레마 (Trolley Problem)가 있습니다. 한 때는 윤리학적 사고실험에 불과했던 이 딜레마는 최근 자율 주행이 발달하면서 중요한 문제로 떠오르게 되기도 합니다. 

하지만 이러한 인공지능의 문제에도 불구하고 여전히 많은 사람들은 인공지능이, 기계가 가장 그만의 비법으로 객관적이며 중립적이 공정하며 비차별적 판단을 해줄 것이라 믿고 있습니다. 이러한 인간의 믿음은 과연 사실일까요? 

책에 따르면 미국에서는 ‘재범 가능성 예측 알고리즘’이 운영되고 있다고 합니다. 말그대로 범법행위를 한 사람의 재범 가능성을 평가하는 알고리즘입니다. 하지만 이 알고리즘의 오판율은 무려 최대 75%에 달한다고 합니다. 무작위로 결과치를 뽑아내더라도 (전문 용어로 찍어도) 50%입니다. 그런데 그 이상의 수치가 나온다는 것은 분명 알고리즘에 어떤 문제가 있다는 것이지요. 

이 책에서는 인공지능 시스템에 대한 기본 이해부터 시작하여 인공지능에 윤리가 필요한 이유, 인공지능에 의사결정을 위임하는 경우에라도 그것을 어떻게 감시해야 하는지에 대한 이야기까지 담아서 들려주고 있습니다.

최근 ‘이루다’ 문제에 숨은 담론에 대한 이해를 제고하고 싶은 분들에게 추천드리고 싶은 책입니다.

#무자비한알고리즘, #카타리나츠바이크, #유영미, #니케북스, #책과콩나무

※ 출판사로부터 도서를 제공받아 직접 읽고 주관에 따라 서평을 작성하였습니다.