AI조차 편향에서 벗어나지 못한다

AI조차 편향에서 벗어나지 못한다 - 세상의 프레임에 휘둘리지 않고 나를 지키는 판단력 수업
구리야마 나오코 지음, 지소연 옮김 / 웨일북 / 2026년 6월

'인공지능(AI)은 인간보다 똑똑하고 완벽하니까 항상 중립적이고 정답만 말하겠지?' 챗GPT나 AI 이미지 생성기를 처음 접했을 때 했던 생각이다. 기술이 발전할수록 인간의 주관이나 편견이 끼어들 자리는 줄어들 거라고 생각했다. 인지심리학자 구리야마 나오코는 저의 이런 환상을 시원하게 날려버렸다. AI는 인간이 만든 데이터를 학습하며 인간의 편견과 인지 오류를 고스란히 답습하는 경향을 보인다. 나의 선입견이 깨진거다.

AI가 학습하는 데이터는 결국 우리 인간들이 인터넷에 남긴 글, 사진 등이다. 책은 바로 이 지점을 짚어준다. 인간이 가진 확증 편향(믿고 싶은 것만 믿는 버릇)이나 프레이밍 효과(말장난에 속는 현상) 같은 것들이 AI에게 고스란히 전달된다는 사실이다. AI가 편향된 이유는 기술이 부족하거나 나빠서가 아니라, 거울처럼 우리 인간의 모순을 그대로 비추고 있기 때문이라는 설명이다. 당연한 사실인데 새롭다.

'휴리스틱', '생존 편향' 같은 단어를 들으면 머리부터 아파오는 초심자지만 저자의 이야기는 쉽게 이해된다. 마트에서 '지방 20% 포함' 대신 '살코기 80%'라는 문구에 지갑을 여는 우리의 모습, 뉴스에 자주 나오는 자극적인 사건을 보고 세상이 온통 위험하다고 믿어버리는 예를 들어 편향에 대해 이야기해준다. AI 알고리즘이 추천해 주는 유튜브 같은 SNS에 중독된 이유를 알게 되었다. 이미 형성된 지금의 알고리즘을 없애기 위해 내 관심분야를 확장하고 다른 알고리즘을 만들어 극복한다.

4가지 편향에 대해 설명해준다. 프레이밍 효과는 같은 사실도 표현 방식에 따라 다르게 받아들이는 현상이다. 마트의 예로 설명해준다. 확증 편향은 윤** 같은 분들이 극우 유튜브에 심취한 것 같이 자신의 기존 믿음이나 가치관과 일치하는 정보만 선택적으로 수집하고 받아들여 생기는 편향이다. 가용성 휴리스틱은 객관적인 확률보다 머릿속에 쉽게 떠오르는 자극적인 기억을 바탕으로 사건의 빈도를 판단하는 오류이다. 생존 편향은 실패한 사례는 배제하고 살아남은 상위 일부의 성공 신화만 보고 섣불리 판단을 내리는 실수로 우리가 자기 계발서를 맹신하는 편향이다.

정보가 넘쳐나는 세상에서 AI 알고리즘이 만들어 놓은 판(필터 버블)에 갇히지 않고, 인간으로서 어떻게 주도적인 생각을 지켜낼 수 있는지 방법을 알려줍니다. 내 생각과 반대되는 의견도 일부러 찾아보고, AI의 답변을 무조건 맹신하기 전에 '왜 이런 답이 나왔을까?' 한 번 더 의심해 보는 태도가 왜 중요한지 알려준다.

AI의 답변을 신의 계시처럼 받아들이지 않는다. ‘AI로 만든 보고서는 손볼 필요도 없다.’는 상사의 말에 현혹된 경험이 있다. 그때나 지금이나 AI초심자이기 때문에 잘 몰라 현학적이 표현에 넘어 갔던 것이다. '혹시 이 답변에도 인간의 편견이 섞여 있진 않을까?' 하고 관조적이고 객관적인 사선을 가지려고 노력한다.  AI가 세상의 중심이 되어가는 지금, 기술을 공부하기 전에 AI에 휘둘리지 않고 중심을 잡고 똑똑하게 접근하고 싶은 모든 분들께 권합니다.

이 리뷰는 리앤프리서평단 자격으로 출판사로부터 도서를 무상으로 제공받아 주관적으로 작성하였습니다.

좋은 책 감사합니다.