하인리히 크라머가 인쇄술을 이용해 혐오 발언을 퍼뜨린 것이 구텐베르크와 인쇄술 탓인가? 1994년에 르완다의 극단주의자들이 라디오를 이용해 사람들에게 투치족을 학살하라고 선동한 것이 라디오 기술 탓인가? 그게 아니라면, 2016~2017년에 불교 극단주의자들이 페이스북 계정을 이용해 로힝야족에 대한 증오를 퍼뜨린 것이 왜 페이스북 탓인가? - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/BGmehTo996GoJSpm7
여기서 우리는 소셜 미디어 알고리즘이 인쇄술이나 라디오 장치와는 근본적으로 다르다는 사실을 이해해야 한다. 2016~2017년에 페이스북 알고리즘은 스스로 능동적이고 운명적인 결정을 내리고 있었다. 알고리즘은 인쇄기보다는 신문 편집자에 더 가까웠다. 위라투의 증오 게시물을 수십만 명의 버마인에게 반복적으로 추천한 것은 페이스북 알고리즘이었다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/V4GAXx8mjTuAJ2t27
권위 있는 대상의 추천은 사람들에게 막대한 영향력을 미칠 수 있다. 《성경》이 추천 목록으로서 탄생했다는 사실을 떠올려보라. 아타나시우스와 여타 교부들은 기독교인들에게, 좀 더 관용적인 〈바울과 테클라의 행전〉이 아니라 여성 혐오적인 〈디모테오에게 보낸 첫째 편지〉를 읽도록 추천함으로써 역사의 경로를 바꾸었다. 《성경》의 경우 최종 권력은 여러 종교 소책자를 집필한 저자들이 아니라, 추천 목록을 만든 큐레이터들에게 있었다. 바로 이런 종류의 권력을 2010년대에 소셜 미디어 알고리즘이 휘두른 것이다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/Ag9LqQWoWH2sW5ku6
사람들이 페이스북 플랫폼에서 더 많은 시간을 보낼수록 페이스북은 부자가 되었다 - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/z1VwR4fWzTj9GM8P9
알고리즘은 수백만 사용자들을 대상으로 실험하면서 분노가 참여도를 높인다는 사실을 알아냈다. 인간은 자비를 가르치는 법문보다 증오로 가득한 음모론에 더 끌리는 경향이 있다. 따라서 알고리즘은 사용자 참여도를 늘리기 위해 분노를 퍼뜨리는 운명적인 결정을 내렸다 - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/UrMPHmbURf4R4VRT8
알고리즘을 제대로 관리하지 못한 페이스북 개발자와 경영진에도 일부 책임이 있다. 하지만 알고리즘 자체도 분명히 책임이 있다. 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 불구하고 분노 콘텐츠를 추천하기로 결정했다. 기계가 이렇게 스스로 학습하고 행동할 수 있는 능력을 보이는 것이 AI의 특징이다. 알고리즘의 책임이 단 1퍼센트라 해도, 이 사건은 비인간 지능이 내린 결정 때문에 일어난 사상 최초의 민족 청소 운동이다. 이번이 마지막이 될 가능성은 낮다. - <넥서스>, 유발 하라리 지음 / 김명주 옮김 - 밀리의서재
https://millie.page.link/4uyFwTQvUsP4CUX17
