알고리즘이 미끼를 던진다. 미끼를 문 사람들을 모아 ...

알고리즘이 미끼를 던진다. 미끼를 문 사람들을 모아 분노케 하고 조직화한다. 알고리즘이 가진 하나의 목적은 그들이 그렇게 분노를 키우고 배설하는 동안 그들의 SNS에 오래오래 머물게 하는 것. 그것을 위해 편가르기와 분노가 가장 유용하다는 걸 SNS 개발자들이 알고리즘에게 가르쳤다.

페이스북은 어떤 사용자가 이런 부추김에 넘어갈 때마다 다른 사용자도 똑같이 행동하게 유도하도록 시스템을 훈련했다. 디레스타는 "사용자가 미끼를 물면, 페이스북은 그런 학습을 강화했어요. 그러면 알고리즘이 그런 강화 학습을 받아들여 가중치를 늘리고요"라고 말했다.
디레스타가 비공식적으로 조직한 소셜미디어 감시자 단체에 속한 사람들도 페이스북을 포함한 플랫폼들이 자신들을 비슷한 방식으로 유도하는것을 눈치챘다. 그런 인공지능이 저마다 인간 본성과 관련한 끔찍하고도 평범한 진실에 공통으로 도달했다는 듯, 거듭 똑같은 양상이 펼쳐졌다. 디레스타는 이것을 추천 엔진을 통한 과격화라 불렀다. "사용자 참여도를 척도로 둔 탓에, 분노로 가득 찬 콘텐츠가 기준이 되는 세상을 만든 거죠."
알고리즘의 로직은 탄탄하고 뛰어나기까지 했다. 과격화는 망상에 사로잡혀 인생을 허비하는 과정이다. 망상에 빠진 사람들에게는 소셜미디어 플랫폼이 일상생활의 중심이 된다. 몇 번이고 소셜미디어를 찾고, 망상이 곧 정체성이 된다. 자기네가 내건 대의의 위기에 초조한 과격파들이 다른 과격파를 모집한다. 디레스타는 "우리가 사람들로 하여금 분노 콘텐츠를 적극적으로 권하게 하는 분노 기계를 만들었고" 그곳에서 과격화된 사람들이 그 뒤로 "분노 콘텐츠의 전파자"가 되었다고 지적했다. - P92

SNS에서 사람들은 왜 더 폭력적이 될까? 혹시 S...

SNS에서 사람들은 왜 더 폭력적이 될까?
혹시 SNS 회사들이 그 폭력화에 한몫하고 있는 건 아닐까?

그렇다. SNS 회사들은 가입자수 확대를 위해 폭력화의 버튼을 기꺼이 눌렀다.
인류가 인지적으로 관계를 유지할 수 있는 이른바 ‘던바의 수‘ 150명. 묘하게 SNS도 이 한계를 넘지 못했다. 원숭이들의 실험은 150명이 넘는 공동체에서는 투쟁과 도피 반응이 커지는 것을 보여줬다.

우리 뇌가 감당할 수 있는 안락의 한계를 넘도록 유도하는 SNS는 ‘폭력화‘라는 지뢰밭으로 수십억 인구를 몰아넣고 있는 것이다.

페이스북은 사용자 참여를 끌어올릴 수 있기를 바라며 이른바 던바의 수를 깨는 실험에 들어갔다. 1990년대에 영국 인류학자 로빈 던바 Robin Dunbar가 인간이 인지적으로 유지할 수 있는 인간관계는 150명이 한계라는 주장을 내놓았다. 150명은 우리가 진화한 사회 집단이 최대 150명인 데서 얻은 숫자다. 이 숫자를 넘기면 우리 뇌에서 사회 인지를 담당하는 신피질neocortex이 한계에 다다른다. 우리 행동도 회로 차단기가 작동하듯 바뀌어 다시 150명으로 돌아가려 한다. 온라인에서마저 사람들은 던바의 수에 자연스럽게 수렴했다. 2010년에 페이스북 사용자의 친구 수는 평균 130명이었고, 소셜네트워크 게임 프렌드스터는 친구 수를 아예 150명으로 제한했다.
"던바의 저주에서 벗어나는" 것은 실리콘밸리의 오랜 꿈이었다. 저커버그는 그 저주를 깨겠다고 공언했다. 하지만 계획이 물거품이 되었다.
아무리 페이스북이라도 수백만 년에 걸친 진화를 넘어설 수는 없었다. 적어도 아직은. 2013년에 다시 사용자 증가가 멈추자, 페이스북은 던바의 저주를 깨겠다는 목표를 중심으로 플랫폼을 재설계했다. 사용자에게 ‘약한 관계‘, 즉 친구의 친구, 지인의 지인, 친척의 친척이 만든 콘텐츠를 쏟아냈다.
정교한 알고리즘을 활용한 덕분에, 이 계획이 효과를 거뒀다. 페이스북은 던바의 수를 넘어 계속 확장하는, 건너 건너 아는 사람들의 집단으로 사용자를 끌어들었다. 비슷한 시기에 같은 정책을 펼친 트위터도 사용자에게낯선 사람의 트윗을 보여줘 친구의 친구를 팔로우하게 자극했다. 이 회사들은 인간이 타고난 신경학적 한계를 우회할 때 나타날 결과를 그리 신경쓰지 않았다. 늘 그랬듯 자기네 상품이 본질적으로 사람을 해방한다는 믿음 속에 회사를 운영했기 때문이다.
그런데 던바의 수가 인간과 비슷하다는 레서스원숭이와 마카크원숭이를 연구한 결과에 따르면, 이 원숭이들을 넌바의 수보다 더 큰 집단에 집어넣으면 공격성과 폭력성이 커지고 서로 더 불신했다. 마치 공동체 생활의 위험은 모조리 증가하고 기쁨은 줄어드는 듯한 모습이었다. 원숭이들은 부자연스럽게 큰 집단을 안전하게 탐색하는 일이 자기네 능력을 넘어선다는것을 알아챈 듯 끝없이 사회적 투쟁-도피 반응을 이어갔다. 또 일종의 방어 기제로 사회적 위기를 형성해 강제하는 데 더 몰두하는 모습을 보였다. - P91

세상을 바꾸려는 너드들의 천국, 실리콘밸리가 ‘근친상...

세상을 바꾸려는 너드들의 천국, 실리콘밸리가 ‘근친상간‘이라는 비판을 받는 이유

마거릿 오마라는 내게 "실리콘밸리에서는 사회 예절에 그다지 가치를 두지 않아요"라고 말했다. "기묘함에는 너그러운데, 그건 기묘한 사람들이 실적을 입증한 것도 한몫 했죠. 그게 실리콘밸리 문화의 다른 모습이에요.
하나같이 망할 놈들 같다고나 할까요." 이런 전형은 실리콘밸리의 토대가된 쇼클리반도체연구소와 전자부품 제조사 휴렛팩커드에서 비롯했다. 두 회사 모두 고루한 직장 생활과 관리 구조를 경멸한 괴팍한 창업자들이 기틀을 잡았기 때문에 동부로 이전하지 못했다. 이들은 무자비하게 경쟁하고 위계라면 거품을 물고 질색하는 사무 문화를 만들어, 엔지니어들에게 완전한 재량권을 주고 크게 간섭하지 않았다. 또 점잔 빼는 IBM이나 벨연구소에서 일하기에는 성격이 너무 까다롭거나 자유분방하고 자기들처럼 반골기질이 넘치는 괴팍한 사람들을 채용했다. 그러다 보니 사방이 따지기 좋아하고 불도저 같은 중퇴자 천지였으므로, 실리콘밸리는 그런 성격을 천재의 징표로 받아들였다. 
대다수 산업에서는 그런 특이성이 시간이 지나 새로운 사람이 들어오고 세대가 바뀌며 희석되곤 한다. 하지만 실리콘밸리에서 흔히 그렇듯, 벤처 자본주의가 모든 상황마다 문화와 경제를 좌지우지하는 숨은 힘으로 작용했다. 엔지니어가 벤처 자본가가 되어 다음 세대를 주무를 엔지니어를 고르는 관행이 이어지자, 이념의 유전자 풀이 근친상간에 가깝게 좁아졌다.
오늘날에도 소셜미디어업계의 주요 인물은 거의 모두 네 다리쯤만 거치면 쇼클리와 연결된다. - P74

저용량 도파민 중독이라는 합법적 중독을 통해 천문학적...

저용량 도파민 중독이라는 합법적 중독을 통해 천문학적 수익을 거두고 있는 혼란 유발자들.

파커가 설명했듯이 페이스북의 전략은 냅스터의 전략과 그다지 다르지 않았다. 다만 페이스북이 이용한 것은 음악 산업의 빈틈이 아니라 인간의 마음이었다. 
"이런 애플리케이션을 만들 때 반영된 사고 과정의 핵심은 ‘어떻게 해야 사람들의 시간과 주의력을 최대한 많이 소비할 수 있을까?‘였습니다. 그러려면 누군가가 사진이나 게시물에 ‘좋아요‘를 누르거나 댓글을 달았을 때 이따금 사용자를 도파민dopamine에 살짝 취하게 해야 합니다. ... 그러면 사용자가 더 많은 콘텐츠를 올릴 테고, 따라서 ‘좋아요‘와 댓글을 더많이 받겠죠." 
파커는 이런 현상을 ‘사회적 인정의 되먹임 고리 social-validationfeedback loop‘라 불렀다. 
"인간 심리의 취약점을 이용하는 것이니 딱 나같은 해커가 떠올릴 만한 일이죠." 파커에 따르면 파커도 저커버그도 처음부터 이 약점을 알고서 이용했다고 한다.
...

도파민은 소셜미디어의 공범, 우리 뇌 내부의 첩자다. 그래서 스마트폰에도 슬롯머신처럼 화려한 알림 배지, 쉭 소리가 나는 효과음, 부드러운 진동이 가득하다. 이런 자극 자체는 신경학적으로 의미가 없다. 하지만 친구에게 문자를 보내거나 휴대폰을 들여다보는 것 같은 행동과 짝을 이루면 자연스럽게 효과가 나타난다.
소셜 앱은 배고픔이나 탐욕보다 더 강력할 수 있는 충동인 연결 욕구를 장악한다. 이얄은 가상의 여성 바브라가 페이스북에 들어가 친척이 올린 사진을 보는 모습을 묘사한다. 더 많은 사진을 살펴보고 댓글을 달수록, 바브라의 뇌는 페이스북에 접속할 때 나는 소리와 화면을 사랑하는 사람들과 연결된 느낌에 결부시켰다. "시간이 지날수록 바브라는 페이스북에서 사회적 연결을 바라는 욕구를 연상하기 시작한다." 그래서 페이스북을 사용하는 행동으로 연결 욕구에 대응하지만, 실제로는 욕구를 좀체 충족하지 못한다. - P39

페이스북도 놀랐던 ‘폭발‘의 순간, 그들은 혐오가 돈...

페이스북도 놀랐던 ‘폭발‘의 순간, 그들은 혐오가 돈이 된다는 걸 알아버렸다.

최신 소식을 계속 알려주는 이 기능은 ‘뉴스피드‘였다. 페이스북은 뉴스피드를 지인이 모두 참석하는 끝없는 파티로 소개했다. 그런데 누구나 남의 디지털 생활을 속속들이 볼 수 있는 팬옵티콘panopticon에 강제로 들어 간다고 느낀 사용자들이 있었다. 페이스북 여기저기서 ‘페이스북 뉴스피드에 반대하는 학생들‘ 같은 그룹이 생겨났다. 이들이 어떤 행동에 나서지는 않았다. 그룹 가입이 곧 뉴스피드에 반대한다는 신호였다. 그게 다였다. 그런데 누군가가 그룹에 가입할 때마다, 뉴스피드가 그 사용자와 친구관계인 모든 사용자에게 이 소식을 알렸다. 친구가 마우스를 누르면 그 친구도 그룹에 가입할 수 있고, 그러면 다시 이 친구의 친구들에게 피드가 갔다. 몇 시간 만에 뉴스피드에 반대하는 그룹들이 사방으로 퍼졌다. 한 그룹은 첫날에 가입자가 10만 명을 넘겼고, 한 주 만에 거의 100만 명에 이르렀다.
사용자 가운데 실제로 그룹에 가입한 사람은 소수였다. 하지만 뉴스피드가 빠르게 퍼지면서 압도적 다수처럼 보였다. 설렁설렁 누른 ‘그룹 가입‘을 뉴스피드가 ‘뉴스피드에 반대한다‘나 ‘페이스북을 혐오한다‘ 같은 열띤 목소리로 바꿔놓았다. 겉으로는 분노가 널리 퍼진 듯 보여도, 실제로는 착시현상이었다. 그런데 우리 마음 깊숙한 곳에는 순응하려는 본능이 흐른다. 심리학자들에 따르면, 사람은 어떤 문제에 의견이 하나로 모였다고 생각할 때 그 뜻을 따를뿐더러 그런 정서를 자기 것으로 체화한다.
머잖아 분노가 행동으로 바뀌었다. 페이스북 고객센터에 이메일이 빗발쳤다. 다음 날 아침에는 위성 TV 트럭들이 페이스북의 팰로앨토 사무실을 에워쌌다. 경찰이 이렇게 큰 논란을 일으킨 기능을 꺼달라고 요청할 만큼 항의 시위자가 많이 모여들었기 때문이다. 페이스북 내부에서도 뉴스피드를 중단해야 한다고 동의하는 사람들이 있었다. 저커버그가 페이스북에
"무슨 말인지 알겠으니, 진정하고 한숨 놓으세요"라고 무뚝뚝한 공개 사과를 내놓고서야 위기가 가라앉았다. 그런데 페이스북 임직원들이 역설적인 사실을 깨달았다. 사용자들이 비난한 바로 그 서비스 덕분에 사용자들의 분노가 증폭되었다는 것이다.
디지털 세계에서 일어난 그런 증폭은 페이스북 사용자는 물론이고 경영진까지 깜빡 속여 플랫폼에서 가장 큰 목소리가 모든 사람을 대표하는 목소리라고 잘못 인식하게 했다. 또 곧 사그라지고 말았을 분노를 활활 타오르는 들불로 키웠다.

그런데 이런 증폭이 또 다른 큰 영향을 미쳤다. 사용자 참여도를 끌어올린 것이다. 그것도 아주 높이. 소셜미디어 산업은 사용자 참여도가 성공의 주요 척도다. 더군다나 페이스북은 야후의 10억 달러짜리 인수 제안을 거절한 것이 오만이 아니었다는 것을 어떻게든 증명하고 싶었으므로, 뉴스피드가 일으킨 왜곡을 그저 묵인하는 데 그치지 않고 두 팔 벌려 반겼다. 그리고 곧이어 누구에게나 가입을 허용했다(정확히는 아동 보호를 위해 만 13세 이상으로 연령을 제한한다). 직장인으로 사용자를 확장하려 할 때는 거의 꿈쩍도 하지 않던 사용자 증가율이 600~700%까지 폭발했다. 사용자가 페이스북에 머무는 평균 시간도 가파르게 늘었다. 겨우 13개월 뒤인 2007년 가을, 페이스북의 기업 가치는 껑충 뛰어 150억 달러가 되었다. - P35