무자비한 알고리즘

무자비한 알고리즘 - 왜 인공지능에도 윤리가 필요할까
카타리나 츠바이크 지음, 유영미 옮김 / 니케북스 / 2021년 1월

올해 초에 '알고리즘'에 대하여 특집기사를 읽었었다. 평소 사용하는 소셜미디어에서 좋아할만한 컨텐츠가 추천되도록 짜여진 알고리즘으로 인해 사고와 포용의 틀이 얼마나 협소해질 수 있는지를 알게 해준 기사였다. 조금은 섬찟한 기사였다. 내가 좋아해서 선택한 컨텐츠라고 생각했는데 어느 순간 알고리즘에 의해 선택된 컨텐츠만을 보고 비슷한 컨텐츠만 찾아 보게된다니 말이다. 누군가 만들어 놓은 틀에 갇힌 느낌이었다. 이러한 알고리즘에 대해 좀더 알고 싶어 '무자비한 알고리즘'을 읽게 되었다.

독일 공과대 교수이자 정보학 박사인 저자가 쓴 '무자비한 알고리즘'은 인공지능 시스템이 어떻게 만들어지는지, 알고리즘, 빅데이터, 데이터마이닝, 머신러닝 등이 무엇이며 서로 어떻게 연결되어 있는지를 소개하고 있다. 책의 후반부에서는 인공지능 윤리의 필요성에 대해 소개하고 있다.

'무자비한 알고리즘'은 저자의 약력이나 책 제목을 보았을 때 딱딱하고 어려운 개념들이 나열되어 있는 교과서 같은 책일 것 같았는데, 개념을 쉽게 이해할 수 있도록 삽입된 그림들과 일상에서 찾아볼 수 있는 쉬운 예시들 덕분에 알고리즘에 대한 좋은 입문서라는 생각이 들었다. 무엇보다도 후반부에서 소개한 '인공지능 윤리'는 별로 생각해 본 적이 없었는데, 이 책 덕분에 얼마나 중요한지 알게 되었으며, 이와 함께 얼마전 화제가 되었던 두 이슈가 생각이 났었다.

그 하나는 '실시간 검색어를 폐지'한다는 기사였다. 순수하게 사람들이 궁금해서 검색한 결과가 보여지지 않는 사례들로 인해 계속 논란이 되었었다보니 결국 폐지를 결정한 것 같다. 이와 같은 검색 알고리즘에 대해서도 논란이 발생했던 것을 보면, 어떤 알고리즘을 개발하든지 간에 의도치 않은 윤리적인 문제가 발생하지 않도록 검토해야 함을 엿볼 수 있었다. 또다른 하나는 소수자 혐오 발언 등으로 논란이 되었던 인공지능 챗봇 '이루다'가 아닐까 싶다. 이 사건 덕분에 인공지능 윤리교육이 얼마나 중요한지를 실감할 수 있었고, 이 사건 덕분에 인공지능 개발자들에게 서비스 설계 단계부터 인공지능 윤리를 염두에 두도록 했다고 하니 말이다.