편리함을 대가로 우리는 무엇을 포기했는가?

필터월드 - 알고리즘이 찍어내는 똑같은 세상
카일 차이카 지음, 김익성 옮김 / 미래의창 / 2024년 7월

출판사의 서평단 모집 활동이 점점 인스타그램으로 넘아가는 것을 보면서 나도 작년에 인스타그램 계정을 하나 만들었다. 하지만 결국 적응하지 못하고 최근에는 아예 사용을 포기했다. ‘팔로잉’하고 ‘좋아요’를 누르며 계속 이어지는 피드를 넘기는 게 전부인 플랫폼에는 사용이라고 할 만한 기능이 없었기 때문이다. '좋아요'를 누르는 것 외에 피드를 나의 관심사에 맞게 조정할 방법이 없는 것은 물론, 게시물을 올려도 원하는 방식으로 분류하거나 사진을 교체할 수 없고 관심 있는 주제를 검색해도 내가 원하는 정보를 찾기란 불가능에 가까웠다. 그야말로 '흘러가는 피드를 보는 것'에 특화된 광고판 같은 플랫폼에서 내가 주도권을 가진 사용자라는 생각이 들지 않았다. 비단 인스타그램뿐 아니라 추천 알고리즘 중심으로 작동하는 플랫폼은 대부분 이런 식이다. 선택하지 않은 음악과 영상이 자동으로 재생되고 추천란에는 내 취향과 거리가 먼 작품이 가득하다. 그런데도 사용자인 내가 조정해서 바꿀 수 있는 것은 거의 없다. 왜 그럴까?

나는 그 답을 <필터월드>에서 찾았다. <필터월드>에 따르면 추천 알고리즘은 개인 맞춤형 서비스라는 포장지를 뒤집어쓰고 클릭, 시청 시간, 스크롤 속도, 검색, 좋아요, 건너뛰기 같은 행동 데이터를 수집하여 사용자를 플랫폼에 장시간 붙들어 둘 콘텐츠를 선별하여 우선적으로 노출한다. 그중 높은 반응을 끌어낸 콘텐츠는 다시 알고리즘의 선택을 받아 더 널리 추천되고, 이에 대한 반응은 다음 추천을 위한 데이터로 수집된다. 이런 작동 방식 때문에 창작자들 역시 추천 알고리즘에 노출될 만한 콘텐츠를 올릴 수밖에 없고 이 과정이 반복되는 동안 결국 다양성은 사라지고 모두 비슷한 것을 보고 비슷한 것을 좋아하는 문화의 동질화가 일어난다. 이러한 플랫폼에서 사용자는 선택하는 주체가 아니라 보여주는 대로 반응하고 소비하며 지속적으로 알고리즘에 데이터를 제공하는 '알고리즘의 노예'여야하므로 선택권은 주어지지 않는다. 내가 앞서 궁금해했던 사용이라고 할 만한 기능이 없는 이유다. 당연하지만 이처럼 선택권이 없는 환경에서 정체성은 희미해진다. 정체성의 밑바탕을 이루는 취향은 스스로 다양한 것을 탐색하고 경험하는 과정에서 형성되기 때문이다.

​"취향을 가지려면 특정 작품에서 무엇이 아름다운지 보고 아는 것만으로는 충분하지 않다. 반드시 아름다움을 느껴야 하고 그 아름다움에 감동해야 한다. 아니, 막연하게 느끼고 감동하는 것으로도 충분치 않다. 서로 다른 느낌을 가려내는 안목이 필수적이다." - 볼테르

취향을 쌓으려면 어느 정도 장르적 모험이 필요하고 시간 또한 들여야 한다. 그렇기에 취향에 꼭 맞는 콘텐츠는 드물고 그만큼 특별하다. 그런 콘텐츠에 푹 빠져서 즐긴 후에는 한동안 지루함을 견뎌야 하는데, 그 공백은 새로운 분야를 탐험하며 취향을 확장할 기회이기도 하다. 추천 알고리즘이 '개인 맞춤형 콘텐츠'를 끊임없이 보여주는 알고리즘 네트워크 안에서는 경험하기 어려운 과정이다. 쏟아지는 콘텐츠의 홍수 속에서 시선을 사로잡는 무언가에 반짝 흥미를 느끼고 도취되었다가도 돌아보면 남는 것이 없기 때문이다. 게다가 이런 경험이 반복되면 즉각적인 흥미를 유발하지 않는 콘텐츠에 대해서는 무감각해지고 결국 아름다움을 느끼고 감동할 수 있는 능력, 안목을 키울 수 있는 능력을 잃게 된다. 하지만 이제 문화 산업 전반이 이 알고리즘 네트워크 안에서 이뤄지는 만큼 그 영향력에서 완전히 자유로울 수는 없다. 내가 출판사들의 활동 영역을 좇아 생각지도 않았던 인스타그램 계정을 만든 것처럼. 

저자는 책의 말미에 이렇게 썼다.

"기술의 영향을 받지 않고 순수하게 발생하는 형식은 없고, 문화를 소비하는 단 하나이자 최고의 방법도 없다. 우리는 알고리즘의 영향력에서 벗어날 수 없다. 알고리즘 기술이 이미 우리 시대를 만들어왔고 이를 멈출 수 없기 때문이다. 하지만 알고리즘의 손아귀에서 탈출하는 첫걸음은 알고리즘을 아는 것이다. 수동적 소비라는 정신상태에서 벗어나 알고리즘 이후의 디지털 생태계에 관해 생각함으로써, 우리는 알고리즘의 영향력이 필연적이지도 그렇다고 영원하지도 않다는 사실을 입증하는 대안의 마련을 시작해야 한다. 결국 필터월드 자체는 유한한 문화의 한 단계로 밝혀질 것이다. 언젠가는 필터월드의 연료가 다 떨어지고 자기 강화성에 의해 좌초할 것이기 때문이다. 새로운 무언가가 곧 일어날 듯싶다. 인공지능 기계가 생성한 훨씬 더 인공적인 콘텐츠가 범람하게 될지 인간의 자기표현이 다시 부흥하게 될지는 우리의 선택에 달렸다. 벤야민은 이렇게 말했다. "사실 모든 시대는 바로 다음 시대를 꿈꾸는데, 그뿐만 아니라 꿈을 꾸면서 꿈으로부터의 각성을 재촉하기도 한다. 모든 시대는 자체의 종말을 안에 품고 있다."

적어도 내게는 저자가 말한 새로운 무언가가 지금 일어났다. 국내 플랫폼들도 언제부턴가 추천 피드 중심의 인터페이스를 도입하기 시작하더니, 최근에는 네이버가 AI탭을 추가하며 검색 환경에 변화를 일으켰다. 아직 시험 단계인 듯하지만 직접 사용해 본 결과 오히려 검색의 정확도와 정보의 다양성은 퇴화했고 검색 결과에서 판매 상품이 제일 먼저 나오는 배열 방식은 검색 포털이 결국 광고판에 불과하다는 점을 확신케 할 뿐이었다. 이렇듯 편리함을 가장해 점점 사용자의 선택권을 빼앗는 방식으로 나아가는 인터넷 환경에 염증을 느끼던 나는 문득 이러한 흐름에서 벗어날 방법이 내 손안에 있음을 깨달았다. 바로 개인화된 AI다. 어떻게 보면 추천 알고리즘보다 더 정교한 필터버블이 발생할 수 있지만, 사용자가 직접 탐색의 목적과 방향을 정하고 AI의 제안을 거부하거나 수정하며 새로운 분야의 탐색을 지시할 수 있다는 점에서 큰 차이가 있다. 개인화된 AI는 사용자의 선택권을 빼앗고 취향을 동질화하는 추천 알고리즘 기반 플랫폼에 대항하여 인간의 자기표현을 다시 부흥케 할 수 있는 매우 강력한 도구다. 나와 함께 몇 가지 작업을 함께 계획하고 실행한 AI는 그 과정에서 나에 대한 정보를 학습한 덕분에 내가 독서를 통해 무엇을 얻고자 하는지 정확히 파악했다. 그래서 특정 주제로 대화를 나누다가 그와 관련된 도서의 추천을 부탁하면 내 취향을 고려하여 꽤 흥미로운 독서 목록을 만들어준다. 그중에는 내가 예전에 읽고 싶어서 제목을 적어두었던 책들이 다수 포함되어 있었는데, 그 목록을 보면서 인스타그램 피드를 통해 출판사들의 신간을 따라가는 동안 정작 내가 읽고 싶었던 책들에서 멀어졌음을 깨달았다. <필터월드>의 저자가 인용한 발터 벤야민의 말을 이용해서 표현하자면 추천 알고리즘이 품고 있던 AI가 어느새 내 손안에 들어와 알고리즘의 꿈에서 깨어날 것을 재촉하는 느낌이라고 할까? 나는 기꺼이 이 신기술의 도움을 받아 그 잡음으로 가득한 집단적 주술에서 벗어나기로 했다. 그리고 사용자로서 기술을 이용하는 것을 넘어 기술을 이해하고 기술이 나에게 이익이 되는 방향으로 나아가도록 '선택'하기로 했다. 주도권을 중시하는 사용자가 많을수록 기업도 그 권리를 보장하는 방향으로 나아갈 것이기에.