아자는 "자신이 더러워진 것 같은 기분"이라고 말했다."우리가 하는 이 일들은 실제로 세상을 바꿀 수 있습니다. 그렇다면 즉시 다음과 같은 질문이 따라옵니다. 우리는 어떤 식으로 세상을 바꿨지?" 그는 사용하기 더 쉬운 기술을 만드는 일이 곧 세상을 더 낫게 만드는 일이라고 생각했음을 깨달았다. 그리고 이렇게 생각하기 시작했다. "설계자와 기술 전문가로서 얻은 가장 큰 배움 중 하나는, 무언가를 사용하기 쉽게 만드는 것이 꼭 인간성에도 좋은 건 아니라는 거예요." 그는 돌아가신 아버지와, 더 나은 사람이 될 자유를 주는 기술을 만들고자 노력했던 아버지의 헌신을 생각했다. 그리고 자신이 아버지의 비전에 따라 살고 있는지 자문했다. - P186
아자는 다음과 같은 사실을 깨달았다. "아이러니 중 하나는, 비반응적인 의사 결정을 내릴 수 있도록 정신적 공간을 마련하는 마음챙김 워크숍이 페이스북과 구글에서 무척이나 인기를 끈다는 겁니다. 그들이 바로 이 세상이 마음을 챙길 수 없게 하는 가장 큰 가해자인데 말이죠." - P188
언젠가 제임스 윌리엄스(내가 만난 전 구글 전략가)는 일류 기술 설계자 수백 명 앞에서 강연을 하며 "현재 자신이 설계하고 있는 세상에 살고 싶은 분이 얼마나 계십니까?"라는 단순한 질문을 던졌다. 강연장은 침묵에 휩싸였다. 사람들은 주위를 둘러보았다. 손을 든 사람은 아무도 없었다. - P189
트리스탄은 내부에서 이러한 유인책이 실제로 어떻게 작동하는지를 지켜보았다. 그는 내게 다음 상황을 상상해보라고 말했다. 한 엔지니어가 사람들의 집중력을 개선하거나 친구들과 더 많은 시간을 보내게 하는 약간의 수정을 제안한다. "그러면 무슨 일이 벌어지냐면, 2주에서 4주 후에 게시판에 관련 지표에 대한 리뷰가 올라옵니다. 관리자는 이렇게 말할 겁니다. ‘이봐, 왜 사이트에서 보낸 시간이 3주 전보다 낮아졌어? 아, 우리가 이 기능을 추가 해서 그런 걸 거야. 이 기능 다시 없애고, 수치가 회복되는지 보자고" 이건 음모론이 아니다. KFC가 사람들이 프라이드치킨을 더 많이 먹길 바란다는 말이 음모론이 아닌 것처럼 말이다. 이건 우리가 구축해서 계속 허용하고 있는 유인 구조의 당연한 결과일 뿐이다. 트리스탄은 말한다. "그들의 사업 모델은 스크린타임이지, 우리의 일생이 아니에요. - P198
우리의 집중력을 좀먹는 현재의 기술 작동 방식은 과거나 지금이나 선택의 결과다. 이 방식은 실리콘밸리의 선택이며, 실리콘밸리가 그렇게 하도록 허용하는 사회 전반의 선택이다. 과거에 인간은 다른 선택을 내릴 수 있었고, 현재에도 다른 선택을 내릴 수 있다. 트리스탄은 이러한 기술을 전부 그대로 보유하면서, 최대한 우리를 산만하게 하는 방향으로 설계하지 않을 수 있다고 말했다. 실제로 우리는 정반대의 목표를 가지고 이 기술들을 설계할 수 있다. 집중력을 유지해야 하는 사람들을 최대한 존중하고, 사람들을 최소한으로 방해하는 것이다. 더 중요하고 유의미한 목표에서 사람들을 떼어놓는 것이 아니라, 그러한 목표 성취를 돕도록 기술을 설계할 수 있다. - P200
진짜 논쟁은 이것이어야 한다. 어떤 기술이, 어떤 목적에서, 누구의 이익을 위해 설계되는가? - P201
페이스북(과 다른 모든 소셜미디어 기업)이 뉴스피드에서 우리가 볼 정보를 결정할 때, 이들에게는 보여줄 내용이 수천 가지나 있다. 그래서 이들은 우리가 무엇을 볼지 자동으로 결정하는 코드를 작성한다. 이들이 사용할 수 있는 알고리즘, 즉 우리가 무엇을 어떤 순서로 볼지 결정하는 방식은 무척 다양하다. […]
이들이 실제로 사용하는 알고리즘은 때에 따라 다르지만 일관된 핵심 원칙이 하나 있다. 소셜미디어는 우리가 화면을 계속 들여다보게 만들 정보를 보여준다. 그게 다다. 우리가 화면을 더 많이 들여다볼수록 그들이 버는 돈도 늘어난다는 사실을 기억하자. 그러므로 알고리즘은 언제나 우리가 핸드폰을 내려놓지 않도록 우리의 시선을 사로잡을 정보를 파악해서 그 내용을 점점 화면에 들이붓는다. 알고리즘은 집중을 방해하도록 설계된다. 그러나 트리스탄은 이러한 원칙이 (매우 뜻밖에도, 그 누구도 의도하지 않았는데도) 또 다른 변화로 이어지며, 이 변화가 믿기 힘들 만큼 중대하다는 사실을 깨닫고 있었다. - P202
퓨리서치센터의 한 연구에 따르면 페이스북 게시물을 ‘분개한 반대 의견‘으로 채울 경우 ‘좋아요‘ 수와 공유되는 횟수가 두 배로 는다. 그러므로 우리를 화면 앞에 붙잡아두는 일이 무엇보다 중요한 알고리즘은 (의도는 없었지만 불가피하게) 우리를 화나고 격노하게 만드는 일을 무엇보다 중시한다. 분노를 많이 일으킬수록 참여도도 높아진다. - P204
많은 사람이 많은 시간을 분노하는 데 쓰면 문화가 바뀌기 시작한다. 트리스탄이 말했듯이, 이러한 현상은 ‘증오를 습관화‘한다. 증오가 우리 사회의 뼈대에 스며드는 모습을 목격할 수 있다. 내가 10대였던 때 영국에서 열 살인 두 어린이가 막 걸음마를 뗀 제이미 벌저jamie Bulger라는 유아를 살해하는 끔찍한 범죄가 발생했다. 이에 당시 보수당 총리였던 존 메이저john Major는 우리가 "비난은 조금 더 많이, 이해는 조금 더 적게" 할 필요가 있다고 공개 발언했다. 14살이었던 내가 총리의 말이 완전히 틀렸다고 생각 했던 것이 기억난다. 악랄한 행동일지라도 (어쩌면 악랄한 행동일수록 더욱더) 사람들이 그렇게 행동한 이유를 이해하는 것이 언제나 더 낫다. 그러나 우리가 분노에 보상하고 자비에 벌을 주는 알고리즘의 장단에 맞춰 춤을 추면서, 오늘날 (비난은 더 하고 이해는 덜 하는) 이러한 태도는 좌파 우파 할 것 없이 모두의 반응이 되었다. - P204
우리가 거짓말 속에서 길을 잃고 끊임없이 동료 시민에게 화를 내면 여기서부터 연쇄반응이 일어난다. 우리는 실제로 벌어지는 일을 이해하지 못한다. 이러한 상황에서는 우리가 집단으로서 직면한 문제를 해결할 수 없다. 이렇게 되면 문제는 더 커지고 악화된다. 그 결과 사회는 위험하게 느껴지기만 하는 것이 아니라, 실제로 더 위험해진다. 상황이 나빠지기 시작한다. 그리고 실제 위험이 커질수록, 우리는 더더욱 각성 상태가 된다. - P210
|