페이스북이나 스냅챗, 트위터에서 메시지를 보내고 상태 업데이트를 할 때마다, 또는 구글에서 무언가를 검색할 때마다 사람들이 하는 모든 말이 스캔되고 분류되고 저장된다. 이 기업들은 우리의 프로필을 축적해서 우리를 겨냥하려는 광고주에게 판매한다. 예를 들어 2004년부터 우리가 지메일을 사용하면 구글의 자동 시스템이 우리의 사적인 이메일을 전부 스캔해 개개인의 ‘광고 프로필‘을 생성하고 있다. 우리가 이메일로 어머니에게 기저귀를 사야 한다고 말한다면, 지메일은 우리가 아기를 키운다는 정보와 우리에게 바로 아기용품 광고를 띄워야 한다는 사실을 알게된다. 우리가 이메일에 ‘관절염‘이라는 단어를 쓴다면 구글은 우리에게 관절염 치료제를 판매하려 할 것이다. - P195
내가 들은 설명에 따르면, 테크 기업이 무언가를 공짜로 제공한다면 그건 언제나 저주인형을 더욱 정교하게 만들기 위함이다. 구글맵은 왜 공짜일까? 저주 인형이 우리가 매일 가는 곳의 자세한 정보를 알아낼 수 있기 때문이다. 스마트 스피커인 아마존 에코와 구글 네스트 허브는 왜 생산 단가보다 훨씬 저렴한 약 30달러(25파운드)에 판매될까? 더 많은 정보를 모을 수 있기 때문이다. 즉 저주 인형이 우리가 화면에서 검색하는 내용뿐만 아니라 집에서 말하는 내용까지 포함할 수 있기 때문이다. 이것이 바로 우리가 살면서 너무 많은 시간을 보내는 웹사이트들을 만들고 유지하는 사업 모델이다. 이 시스템을 칭하는 전문용어 (뛰어난 하버드 대학 교수 쇼샤나 주보프 Shoshana Zuboff가 만들었다)는 ‘감시 자본주의‘다. 그의 연구 덕분에 우리는 현재 일어나고 있는 많은 일들을 이해할 수 있게 되었다. 물론 광고와 마케팅은 지난 100여 년 동안에도 점점 더 정교해지고 있었다. 그러나 이 시스템은 그야말로 비약적인 발전이다. 옥외 광고판은 우리가 지난목요일 새벽 3시에 구글에 무엇을 검색했는지 몰랐다. 잡지 광고는 우리가 페이스북이나 이메일에서 친구들에게 말한 내용을 전부 수집해 상세한 프로필을 만들지 않았다. 아자는 내게 이렇게말하며 이 시스템을 이해시키려고 했다. "체스를 둘 때 내가 당신보다 앞서서 당신의 수를 전부 예측한다고 상상해봐요. 당신을 이기는 건 식은죽 먹기일 거예요. 이게 바로 전인류의 규모로 일어나고 있는 일이에요." 때로는 구체적인 관행 중 일부가 법으로 금지되기도 한다. 예를 들어 2017년에 유럽연합은 인터넷 사용자를추적하는 일부 방식을 차단했다(이 지역에서는 더 이상 우리의 지메일을 스캔할 수 없다.) 그러나 더 광범위한 침략적 시스템이 유지되고있다. 이 모든 사실을 이해하면 화면을 내려놓고 친구와 가족을 만나라고 제안하는 버튼이 없는 이유를 알 수 있다. 그 버튼은 우리의 스크린타임을 극대화하는 대신 얼굴을 마주 보는 시간을 극대화할 것이다. 트리스탄은 말했다. "사람들이 페이스북에 들어와서 그날 밤 친구들과 할 재미있는 일을 찾은 다음 금방 다시 나간다면 페이스북의 주가는 어떻게 될까요? 현재 사람들이 페이스북에서 보내는 시간은 하루 평균 50분 정도예요. [하지만] 페이스북이 그런 버튼을 만든다면, 사람들은 페이스북에서 하루에 고작 몇 분도 보내지 않을 거예요. 훨씬 더 만족스러운 방식으로요." 페이스복의 주가는 폭락할 것이며, 그들에게 그건 재앙일 것이다. 이것이 바로 이러한 웹사이트들이 최대한 정신을 산만하게 만들도록 설계되는 이유다. 이들은 돈을 더 많이 벌기 위해 우리의 주의력을 흩뜨려야 한다 - P197
페이스북 피드를 열면 친구들과 그들의 사진, 뉴스 기사 같은 다양한 정보가 뜬다. 2008년에 처음 페이스북에 가입했을 때 나는 순진하게도 이것들이 그저 친구들이게시한한 순서대로 뜨는 거라고 생각했다. 내가 친구롭의 사진을 보고 있는 이유는 이 방금 막 그 사진을 올렸기 때문이고, 그음으로 고모의 상태 업데이트가 나오는 이유는 고모가 롭 바로 이전에 업데이트했기 때문이라고 생각한 것이다. 또는 게시글이 무작위로 선택될지도 모른다고 생각했다. 그러나 (우리 모두가 이 문제에 대해 더 잘 알게 되었듯이) 우리가 보는 내용이 알고리즘에 따라 결정된다는 사실을 알게 되었다. 페이스북과 다른 모든 소셜미디어 기업이 뉴스피드에서 우리가 볼 정보를 결정할 때, 이들에게는 보여줄 내용이 수천 가지나 있다. 그래서 이들은 우리가 무엇을 볼지 자동으로 결정하는 코드를 작성한다. 이들이 사용할 수 있는 알고리즘, 즉 우리가 무엇을 어떤 순서로 볼지 결정하는 방식은 무척 다양하다. 우리를 행복하게만들 정보를 보여주도록 설계된 알고리즘도, 우리를 슬프게 만들정보를 보여주도록 설계된 알고리즘도 있을 수 있다. 친구들이 가장 많이 언급하는 정보를 보여줄 알고리즘도 있을 수 있다. 이렇게 설계 가능한 알고리즘의 목록은 길게 이어진다. 이들이 실제로 사용하는 알고리즘은 때에 따라 다르지만 일관된 핵심 원칙이 하나 있다. 소셜미디어는 우리가 화면을 계속 들여다보게 만들 정보를 보여준다. 그게 다다. 우리가 화면을 더 많이 들여다볼수록 그들이 버는 돈도 늘어난다는 사실을 기억하자. 그러므로 알고리즘은 언제나 우리가 핸드폰을 내려놓지 않도록 우리의 시선을 사로잡을 정보를 파악해서 그 내용을 점점 화면에 들이붓는다. 알고리즘은 집중을 방해하도록 설계된다. - P201
부정편향否定偏向이라는 타고난 인간 특성이 온라인에서 막대한 영향을 미친다는 중거가 점점 늘고 있다. 유튜브에서 알고리즘의 선택을 받고 싶다면 영상 제목에 어떤 단어를 넣어야 할까? (유튜브 트렌드를 감시하는 가장 훌륭한 웹사이트에 따르면 그 단어들은 ‘증오, 말살, 혹평, 파괴‘다. 뉴욕 대학의 한 대규모 연구는 도덕적 분노를 자아내는 단어를 트윗에 하나 추가할 때마다 리트윗되는 비율이 평균 20퍼센트 증가하며, 리트윗 비율을 가장 많이 높이는 단어들은 ‘공격‘, ‘나쁜‘, ‘비난‘이라는 사실을 발견했다. 퓨리서치센터의 한 연구에따르면 페이스북 게시물을 ‘분개한 반대 의견‘으로 채울 경우 ‘좋아요‘ 수와 공유되는 횟수가 두 배로 는다 그러므로 우리를 화면앞에 붙잡아두는 일이 무엇보다 중요한 알고리즘은 의도는 없었지만 불가피하게) 우리를 화나고 격노하게 만드는 일을 무엇보다 중시한다. 분노를 많이 일으킬수록 참여도도 높아진다. 많은 사람이 많은 시간을 분노하는 데 쓰면 문화가 바뀌기 시작한다. 트리스탄이 말했듯이, 이러한 현상은 ‘증오를 습관화‘한다. 증오가 우리 사회의 뼈대에 스며드는 모습을 목격할 수 있다. - P204
현재 이 시스템이 집중력을 훼손하는 여섯 가지 방식을 보여주었음을 알 수 있었다. 첫째, 이 웹사이트와 앱들은 우리의 정신을 길들여 잦은 보상을갈망하게 만들도록 설계된다. 우리가 ‘하트‘와 ‘좋아요‘를 갈구하게 만든다. 프로빈스타운에서 이러한 반응을 빼앗겼을 때 나는 상실감과 고통스러운 금단 증상을 겪었다. 트리스탄은 한 인터뷰어에게 한번 이러한 강화에 길들여지면 "현실과 물리적 세계에 머물기가 무척 힘들다고 말했다. "이만큼 잦은 보상을 즉각적으로주지 않으니까요."10 이러한 갈망 때문에 우리는 이 시스템에 연결되지 않았을 때보다 핸드폰을 더 많이 집어 들게 된다. 달디단리트윗의 황홀감을 얻으려고 일과 관계에서 벗어나게 된다. 둘째, 이 웹사이트들은 평소보다 전환을 더 자주 하게 만든다. 핸드폰을 집어 들거나 노트북에서 페이스북을 클릭해야 하기 때문이다. 그 과정에서 전환이 집중력에 일으키는 피해가 고스란히 발생한다. 앞에서 다룬 증거들은 이러한 전환이 술이나 약에 취하는 것만큼이나 우리의 사고력에 나쁜 영향을미친다는 사실을 보여준다. - P206
넷째, 알고리즘의 작동방식 때문에 이 웹사이트들은 우리를 자주 화나게 만든다. 과학자들은 수년 전부터 실험을 통해 분노 자체가 우리의 집중력을 망가뜨린다는 사실을 입증해오고 있다. 과학자들은 사람들이 분노하면 주변에서 벌어지는 논쟁에 평소만큼 집중하지 못하며 "정보 처리의 깊이가 얕아짐을 발견했다. 2즉, 더 얄팍하고 부주의한 방식으로 사고하게 되는 것이다. 우리모두가 이런 기분을 느낀 적이 있다. 분노로 온몸이 떨리면 아무것도 들리지 않는다. 이 웹사이트들의 사업 모델은 매일같이 우리의 분노를 부채질한다. 이들의 알고리즘이 퍼뜨리는 단어가 ‘공격, 나쁜, 비난‘임을 떠올려보라. 다섯째, 이 웹사이트들은 우리를 화나게 만드는 것에 더해, 우리가 타인의 분노에 에워싸여 있다고 느끼게 만든다. 이 현상은우리에게 다양한 심리 반응을 일으킬 수 있다. 캘리포니아의 보건총감으로 이 책의 뒷부분에서 만나게 될 네이딘 해리스Nadine Harm는 이렇게 설명했다. 어느 날 우리가 곰 한 마리의 공격을 받았다고 상상해보자. 그때 우리는 그날 저녁에 무엇을 먹을지, 집세를어떻게 낼지와 같은 일상의 걱정에 주의를 기울이지 않을 것이다. 우리는 각성 상태가 된다. 우리의 주의력은 주변의 예상치 못한 위험을 살피는 상태로 바뀐다. 그로부터 몇 주가 지나면 일상사에 집중하기가 더욱 어려워진다. 이 문제는 곰에만 한정되지 않는다. 이 웹사이트들은 우리가 분노와 적대감으로 가득한 환경에 있다고 느끼게 만들고, 이로써 우리는 더욱 각성하게 된다. 이러한 상황에서 우리의 집중력은 위험을 찾는 상태로 바뀌고, 책을 읽거나 자녀와 함께 노는 활동처럼 더 느린 형태의 집중이 갈수록 힘들어진다. - P207
이런 식으로 한 사회로서 힘을 합쳐 문제를 파악하고 해결책을 찾아내는 우리의 능력을 이 웹사이트들이 심각하게 훼손하고 있다는 증거가 있다. 이 사이트들은 개인의 집중력뿐만 아니라 집단으로서의 집중력까지 파괴한다. 오늘날 소셜미디어에서는 거짓주장이 진실보다 훨씬 빨리 퍼져나가는데, 알고리즘이 분노를 유발하는 내용을 더 빠르고 멀리 퍼뜨리기 때문이다. 매사추세츠 공대의 한 연구 결과에 따르면 트위터에서 가짜뉴스는 진짜 뉴스보다 여섯 배 더 빠르게 이동하며, 2016년 미국 대선 당시 페이스북의 터무니없는 허위 사실이 주류 신문 19곳의 주요 뉴스를 다합친 것보다 더 큰 영향을 미쳤다. 그 결과, 우리는 늘 사실이 아난 헛소리에 주의를 기울이도록 떠밀리고 있다. - P209
평범한 청소년들이 매일같이 이러한 쓰레기를 빨아들이고 있다. 이들이 핸드폰을 내려놓으면 분노가 즉시 사라질까? 증거는 많은 사람이 그렇지 않다는 사실을 보여준다. 한 대규모 연구에서백인 민족주의자들에게 어떻게 급진화되었냐고 물었더니 다수가 그 원인으로 인터넷을 들며 유튜브가 자신에게 가장 큰 영향을미친 웹사이트라고 말했다. 트위터에서 활동하는 극우에 대한 또 다른 연구는 이들이 가장 많이 의존한 웹사이트가 유튜브임을 발견했다. 트리스탄은 "유튜브를 시청하는 것만으로도 급진화 될 수 있"다고 설명했다. 그는 저널리스트 데카 아이트켄헤드Decca Aickenhead 에게 유튜브 같은 기업은 우리가 썩은사과가 몇 개 섞여있을 뿐"이라고 생각하길 바라며, 다음과 같은 질문은 던지지 않길 바란다고 설명했다. "우리의 시스템이 매일 크랭크를 돌리듯 조직적으로 급진화를 쏟아내고 있는 것은 아닐까요? 우리는 썩은사과를 재배하고 있습니다. 우리는 썩은사과 공장입니다. 우리가썩은사과 농장이에요." - P212
브라질 사회는 긴급하게 해결해야 할 중대한 문제가 많았다. 그러나 소셜미디어 알고리즘은 극우파와 터무니없는 허위 정보에 힘을 실어주고 있었다. 선거 운동 기간에 알레망 같은 빈민가에 사는 많은 사람이 온라인에 퍼진 한 이야기를 깊이 우려했다. 보우소나루의 지지자들은 그의 주요 경쟁자인 페르난두 아다드Fermando Haddail가 브라질의 모든 아이들을 동성애자로 만들려고 하며 이를 위해 교묘한 기술을 개발했다고 경고하는 영상을 만들었다. 이 영상에서는 한 아기가 젖병을 빨고 있었는데, 병에 이상한점이 있었다. 젖병 젖꼭지가 페니스 모양이었던 것이다. 인터넷에 유포된 이야기에 따르면, 아다드는 이 젖병을 브라질의 모든유치원에 배포할 예정이었다. 이 이야기는 선거 기간에 가장 많이공유된 뉴스 중 하나가 되었다. 빈민가의 거주민들은 분개하며 아이들에게 페니스 모양의 젖꼭지를 빨게 하는 사람을 뽑을 수는 없다고 그러니 보우소나루에게 투표해야 한다고 주장했다. 알고리즘이 퍼뜨린 황당한 주장으로 나라 전체의 운명이 바뀌었다. 보우소나루가 예상 밖의 승리를 거두자 그의 지지자들은 "페이스북! 페이스북! 페이스북!"이라고 연호했다." 이들은 알고리즘이 해준 역할을 잘 알았다. 물론 브라질 사회의 여러 다른 요인이 작용했으며 알고리즘은 그중 하나일 뿐이지만, 신이 난 보우소나루의 지지자들이 가장 먼저 꼽은 요인은 페이스북이었다. 그로부터 얼마 지나지 않아 라울은 알레망의 자기 집에 있다가 폭발음 같은 소리를 들었다. 바깥으로 뛰쳐나가니 헬리콥터 한 대가 빈민가를 맴돌며 사람들에게 총을 쏘는 것이 보였다. 정확히 보우소나루가 공약한 종류의 폭력이었다. 라울은 겁에 질린 채 자녀들에게 집에 숨으라고 소리쳤다. 이후 나와 스카이프로 대화를나눌 때 그는 내가 본 그 어느 때보다 동요하고 있었다. 이러한 폭력은 이 글을 쓰는 지금도 점점 확대되고 있다. - P215
소셜미디어와 유튜브의 알고리즘이 집중력을 훼손하는 심각한 방식을 알 수 있었다. 이 효과는 폭포와 같다. 이 웹사이트들은 개인의 집중력을 망친다. 그 다음 사람들의 머릿속에 기괴한 거짓 정보를 가득 채워 넣어서 자기 존재에 대한 진짜 위협(독재자가 자신들에게 총을 쏘겠다고 맹세하는 것)과 존재하지도 않는 위협(아이들이 페니스 모양의 젖병 때문에 게이가 되는 것)을 구분하지 못하게 만든다. 어떤 국가든 이러한 거짓 정보에 오래 노출되면 분노와 비현실 속에서 길을 잃어 문제를이해하고 해결책을 찾는 일이 불가능해진다. 이는 곧 거리와 하늘이 실제로 더 위험해진다는 뜻이며, 이로써 우리는 과도한 각성상태가 되고, 이 상태는 우리의 집중력을 더욱더 망가뜨린다. 이러한 추세가 계속된다면 이것이 우리 모두의 미래가 될 수 있다. 실제로 브라질에서 일어나는 일은 여러분과 나의 삶에 직접적인 영향을 미친다. 보우소나루는 지구의 허파인 아마존 우림을 극적으로 파괴하고 있다. 이러한 자연 파괴가 장기간 계속된다면 우리는 더욱 심각한 기후재난에 봉착할 것이다 샌프란시스코에서 나와 이 모든 문제를 논할 때 트리스탄은 손으로 머리칼을 넘기며 이렇게 말했다. "이 알고리즘들이 사회의 토양을 망가뜨리고 있어요.••• 우리에겐 사회구조가 필요해요. 그 구조를 망가뜨리면, 어느 날 눈을 떴을 때 무슨 일이 벌어질지 몰라요." - P217
이러한 현실은 우리에게 어떤 영향을 미칠까? 이 문제를 연구한 과학자들은 우리 문화에서 다이어트를 통해 살을 뺀 사람의95퍼센트가 1년에서 5년 이내에 전 몸무게로 되돌아간다는 사실을 발견했다. "20명 중 19명꼴이다. 왜일까? (나를 비롯한 사람들이 애초에 체중이 늘어난 이유를 거의 놓치고 있기 때문이다. 시스템에 대한 분석이 전혀 없다. 식품 공급체계에 문제가 있어 이전 세대가 먹은 것과는 전혀 다른 중독적인 고가공 식품이 우리를 둘러싸고 있다는 이야기는 하지 않는다. 스트레스와 불안이 우리를 과식으로 몰고 가는 문제는 설명하지 않는다. 우리가 사는 도시에서는 어디든 가려면 강철로 된 박스에 몸을 욱여넣어야 한다는 사실은 다루지 않는다. 다이어트 책은 우리가 사는 사회와 문화가 매일같이 우리를 형성하고 밀어붙여 특정 방식으로 행동하게 만든다는 사실을 무시한다. 다이어트는 우리가 속한 환경을 바꾸지 않는다. 그리고 이 위기의 원인은 바로 이 환경에 있다. 다이어트가 끝나도 우리는 여전히 체중 증가를 유발하는 불건강한 환경에 산다. 우리가 만든 이러한 환경에서 체중을 감량하려고 노력하는 것은 끝없이 아래로 내려오는 에스컬레이터를 뛰어 올라가려고 노력하는 것과 같다. 몇몇 사람은 용맹스럽게 에스컬레이터 꼭대기까지 전력 질주할 수 있을지 모른다. 그러나 우리 대다수는이게 다 자기 잘못이라고 느끼며 에스컬레이터 맨 밑에 서 있게 될 것이다. 니르 같은 사람들의 말에 귀 기울인다면, 우리가 체중 문제에 대응한 것과 똑같은 방식으로 집중력 문제에 대응해 결국 똑같이 처참한 결과에 다다르게 될까봐 우려스럽다. 이러한 접근법을 밀어붙이는 것은 실리콘밸리뿐만이 아니다. 집중력 문제에 관해 현재 나와 있는 거의 모든 책(이 책의 자료 조사를 하면서 많이 읽었다)이이 문제를 개인의 변화가 필요한 개인의 결함으로 묘사하고 있다. 이 책들은 디지털 다이어트 책이다. 그러나 다이어트 책은 비만위기를 해결하지 못했고, 디지털 다이어트 책은 집중력 위기를 해결하지 못할 것이다. 우리는 이 문제에서 작동하는 더 거대한 세력을 이해해야 한다. - P238
|