알고리즘이 미끼를 던진다. 미끼를 문 사람들을 모아 분노케 하고 조직화한다. 알고리즘이 가진 하나의 목적은 그들이 그렇게 분노를 키우고 배설하는 동안 그들의 SNS에 오래오래 머물게 하는 것. 그것을 위해 편가르기와 분노가 가장 유용하다는 걸 SNS 개발자들이 알고리즘에게 가르쳤다.
페이스북은 어떤 사용자가 이런 부추김에 넘어갈 때마다 다른 사용자도 똑같이 행동하게 유도하도록 시스템을 훈련했다. 디레스타는 "사용자가 미끼를 물면, 페이스북은 그런 학습을 강화했어요. 그러면 알고리즘이 그런 강화 학습을 받아들여 가중치를 늘리고요"라고 말했다.
디레스타가 비공식적으로 조직한 소셜미디어 감시자 단체에 속한 사람들도 페이스북을 포함한 플랫폼들이 자신들을 비슷한 방식으로 유도하는것을 눈치챘다. 그런 인공지능이 저마다 인간 본성과 관련한 끔찍하고도 평범한 진실에 공통으로 도달했다는 듯, 거듭 똑같은 양상이 펼쳐졌다. 디레스타는 이것을 추천 엔진을 통한 과격화라 불렀다. "사용자 참여도를 척도로 둔 탓에, 분노로 가득 찬 콘텐츠가 기준이 되는 세상을 만든 거죠."
알고리즘의 로직은 탄탄하고 뛰어나기까지 했다. 과격화는 망상에 사로잡혀 인생을 허비하는 과정이다. 망상에 빠진 사람들에게는 소셜미디어 플랫폼이 일상생활의 중심이 된다. 몇 번이고 소셜미디어를 찾고, 망상이 곧 정체성이 된다. 자기네가 내건 대의의 위기에 초조한 과격파들이 다른 과격파를 모집한다. 디레스타는 "우리가 사람들로 하여금 분노 콘텐츠를 적극적으로 권하게 하는 분노 기계를 만들었고" 그곳에서 과격화된 사람들이 그 뒤로 "분노 콘텐츠의 전파자"가 되었다고 지적했다. - P92
|