감시 자본주의 시대 - 쇼샤나 주보프

감시 자본주의 시대 - 권력의 새로운 개척지에서 벌어지는 인류의 미래를 위한 투쟁
쇼샤나 주보프 지음, 김보영 옮김, 노동욱 감수 / 문학사상사 / 2021년 4월

인상깊은 구절

우리는 더 이상 가치 실현의 주체가 아니다.

그러나 어떤 사람들이 주장하듯이 구글이 판매하는 '제품'도 아니다. 

우리는 구글의 예측 공장을 위해 원재료를 추출당하고 몰수당하는 대상일 뿐이다. 

우리의 행동에 대한 예측이 구글이 만들어 파는 제품이며, 그 제품은 우리가 아닌 구글의 실질적 고객에게 판매된다.

우리는 다른 사람의 목적을 위한 수단이다. (pg 143-144)

최근에 인공지능이나 빅데이터 관련 책들을 몇 권 접하면서 나날이 진화하는 기술이 문득 두렵다는 생각이 들었다. 

왜 그런지 명확하게 알 수는 없었는데 이런 감정의 원인이 무엇이었는지 제대로 짚어 알려주는 책을 만났다. 

저자는 이 책을 통해 구글이라는 거대 AI기업이 어떻게 우리 사회를 지배해가고 있는지를 A부터 Z까지 상세히 설명해준다.

페이스북이나 인스타그램 등 다른 SNS기반 기업들도 '감시 자본주의' 영역에서 제법 큰 덩치를 자랑하고 있지만

그래도 구글에 비빌 정도는 아니라서 그런지 책에 등장하는 사례의 90% 정도가 구글 사례인 것 같다. 

감시 자본주의의 핵심이 되는 것은 바로 '행동잉여'라고 부르는 개인정보의 축적이다.

작게는 우리가 인터넷 브라우저를 통해 검색한 단어, 쇼핑한 내역, 방문한 사이트와 누적 시간 등이 있는데, 

IoT 기술의 발달로 인해 점차 그런 정보의 범위가 확장되고 있다.

현재는 많이 보급된 스마트 워치만 하더라도 내가 어디를 가는지, 얼마나 자주 가는지, 어떻게 가는지, 가서 얼마나 체류하는지 등등

내 동선에 관한 모든 것을 데이터화 할 수 있다. 

감시 자본주의가 부상하기 이전에는 이런 행동잉여들이 주로 사용자들의 편의성 개선에만 활용되었으나, 

이 데이터들이 황금알을 낳는 거위라는 것을 알게되면서 이런 데이터를 가공해 나온 '예측 상품'들이 구글을 비롯한 감시 자본주의

기업들에게 막대한 부를 가져다 주게 되었다는 것이다. 

이러한 일련의 과정들을 한 장의 그림으로 표현하면 아래와 같다. 

얼핏 단순해보이는 그림이지만 이 그림이 완성되게 된 경과와 각 부분들에 대한 설명이 700페이지에 달하는 이 책의 핵심이다. 

(초반부에 나오지만 책을 다 읽은 후 다시 보면 책 내용이 잘 정리되는 그림이다.)

 

(pg 147)

이제 구글은 구글에서 검색하는 사람들이 높은 확률로 '원할 것 같은' 상품들을 먼저 골라서 보여주고 

그 결과 얼마나 실제 구매로 이어지는지를 추적한 후 다음에는 더 개선된 예측 상품 목록을 보여줄 것이다.

이런 개선(지속적인 매출 신장)을 위해서 감시 자본주의 주체들은 더 많은 데이터, 더 정확한 예측력을 갖고 싶어한다. 

그렇기 때문에 구글을 비롯한 감시 자본주의 기업들이 IoT와 AI 기술 개발에 열을 올리게 되는 것이다. 

이런 예측 상품의 고도화가 계속되면 결국에는 개별 소비자의 행동을 '정확하게 예측'하는 것을 넘어

소비자의 행동 그 자체를 '직접 통제'하는 상황으로까지 발전할 수밖에 없게 된다는 점을 지적하고 있다.  

-전략- 행동잉여를 감시 자산으로 볼 수 있으며, 여기에 구글의 운명이 달려 있다.

이 자산은 감시 수익을 발생시키고, 결과적으로 감시 자본이 될 결정적 원재료다. -중략-

예전에 존재했던 기업과 사용자 사이의 호혜 관계가 이제는 우리의 행동잉여를 다른 사람의 목적을 위해 수집하는 

파생 프로젝트에 종속된다. 우리는 더 이상 가치 실현의 주체가 아니다.

그러나 어떤 사람들이 주장하듯이 구글이 판매하는 '제품'도 아니다. 

우리는 구글의 예측 공장을 위해 원재료를 추출당하고 몰수당하는 대상일 뿐이다. 

우리의 행동에 대한 예측이 구글이 만들어 파는 제품이며, 그 제품은 우리가 아닌 구글의 실질적 고객에게 판매된다.

우리는 다른 사람의 목적을 위한 수단이다. (pg 143-144)

예측의 절박성으로부터 나오는 모든 명령은 '알고 실행하는' 물질적 존재를 현실 세계 구석구석까지 퍼뜨릴 것을 요구한다.

새로운 장치는 예측의 절박성이 물질적으로 구현된 존재며, 확실성을 높이라는 경제적 압력에 의해 활성화되는 새로운 종류의

권력을 보여준다. 그리고 여기서 유비쿼터스 컴퓨팅 초기의 이상과 감시 자본주의의 경제성 요청이라는 두 개의 힘이 수렴된다. 

이 수렴은 디지털 인프라의 탈바꿈, 

즉 우리가 사물을 소유한다는 개념에서 사물이 우리를 소유한다는 개념으로의 변화를 예고한다. (pg 283)

여기서 감시 자본주의가 갖는 또 하나의 특징이 발생한다.

바로 저자가 '호혜성의 파괴'라고 명명한 현상인데, 감시 자본주의 기업에게 일반 대중들은 '고객'이 아니다.

우리는 구글이나 페이스북을 사용하면서 1원 한 장 쓰지 않는다.

구글의 고객은 구글이 우리의 정보를 캐서 만들어 낸 예측 상품을 구입하는 '다른 자본들'이다.

즉, 구글은 태생적으로 일반 대중의 눈치를 볼 이유가 없게 만들어졌다는 것이다. 

게다가 전통적인 자본주의와는 달리 감시 자본주의 기업은 채용과 급여를 통한 사회 부양에도 부정적인 영향을 미친다.

그들이 벌어들이는 어마어마한 수익 대비 인력 채용 규모는 정말 미미한 수준이기 때문이다. 

즉 부가 특정 계층에 집중되는 현상을 가속화하는 것도 감시 자본주의의 특징이 된다. 

견딜 수 없는 것은 사회경제적 불평등이 전 산업사회의 '봉건적' 유형으로 되돌아갔다는 점, 

그러나 우리 민중은 돌아가지 않았다는 점이다. 우리는 문맹의 농부도, 농노나 노예도 아니다. -중략- 

우리는 우리 자신이 존엄성과 유능한 삶을 살 기회를 가져야 마땅한 존재임을 안다.

일단 나온 후에는 다시 튜브에 넣을 수 없는 치약처럼, 한 번 해방된 우리의 자아는 다시 가둘 수 없다. 

마치 폭파음이 퍼져 나가듯, 불평등한 현실과 체감 사이의 이 지독한 충돌로부터 나온 고통과 분노는 

잔향을 남기며 우리 시대를 규정한다. (pg 78-79)

혹자는 그런 생각을 할지도 모르겠다.

어차피 행동잉여는 디지털 사회를 살아가는 사람이라면 누구나 발생시킬 수밖에 없는 것인데 이를 영리하게 수집하여 

수익성 있게 활용하는 것은 그 기업이 행한 혁신이기 때문에 문제될 것이 없다고 말이다. 

하지만 중요한 것은 행동잉여의 취합 과정에서 개별 사용자들의 동의 절차가 전혀 없다는 것과 

행동잉여의 종류와 수집 범위를 계속해서 확장하는 방향으로만 움직인다는 것이다.

사용자 입장에서는 사이트 하나를 가입하려 해도 길고 이해하기 어려운 약관을 읽어야 하는데, 

심지어 다 읽었다고 쳐도 약관에 동의하지 않으면 이용 자체가 불가능하다. 

동의는 쉽고 비동의는 어려운 구조를 만들어놓고 개인정보를 내놓지 않으면 사용을 제한해버리는 

이러한 비대칭적 권한은 감시 자본주의 기업들이 더욱 더 많은 개인정보를 눈치 보지 않고 수집할 수 있게 만든다. 

저자는 자본주의의 태동이 인간을 노동력으로 만들었다면, 감시 자본주의는 인간을 원재료로 만들었다고 말한다.

우리는 우리의 행동이 어떻게 기록되고 이용되는지 모르지만 

분명한 것은 우리의 행동으로 이익을 얻는 자들이 존재한다는 사실이며 그들은 점점 더 많은 것들을 요구할 것이다.

어쩌다 우리는 우리의 권한을 모두 넘겨주었음에도 불구하고 여태 이를 모르고 있었을까?

저자가 상세히 설명해주고 있지만 간략하게 말하면 기업들의 치밀한 전략과 로비, 그리고 우연(!)이 가져다 준 기회가 있었다. 

기업들의 전략과 로비야 대충 예상이 되었던 내용이지만 '911테러'라는 정말 우연한 사건이 가져다 준 영향이 생각보다 컸다.

미국의 자존심을 짖밟은 그 사건으로 사람들에게 '개인의 프라이버시가 어느 정도 침해되더라도 

일정 부분 국가에서 위험 요소를 감시하는 것이 좋다'라는 인식이 퍼지기 시작했다. 

하지만 미국 정부는 개인들의 신상을 파해칠 역량이 부족했는데 이 기회를 구글이 놓치지 않았다.

이미 개인정보 축적에 큰 역량을 보유하고 있던 구글은 미 정부에 손을 내밀어 필요한 데이터를 제공했다.

그 대가로 구글은 더 많은 개인정보를 수집할 수 있는 기술의 개발과 활용에 대한 미국 정부의 암묵적인 승인을 받은 셈이 된 것이다. 

쉽게 변하지 않는 법 체계는 나날이 발전하는 신기술을 활용한 개인정보 수집 확장 시도를 제대로 견제할 수 없었고, 

이 때의 폭발적인 성장으로 구글은 작은 IT벤쳐기업에서 감시 자본주의의 수장이자 IT고질라로 변화했다. 

괴물처럼 사람들의 정보를 빨아들여 엄청난 수익을 얻으며 이 수익으로 더 많은 정보를 얻을 수 있는 기술에 공격적으로 투자했다. 

투자자들은 구글이 인프라 규모와 과학을 모두 갖추고 있다는 점에서 구글을 따라잡는 업체가 나오기가 그 어느 때보다 힘들다고 본다.

구글은 "자체 클라우드에 탑재한 자체 제작 칩을 통해 자사의 알고리즘을 실행하며" 자체 데이터로 "이 알고리즘을 훈련시키는", 

이른바 '풀스택 AI회사'로 알려져 있다. 

구글이 가장 많은 데이터를 보유하고 있다는 사실은 그들의 지배력을 더욱 강화한다. 

기계학습에서 지능은 훈련에 사용되는 데이터의 양에 비례하기 때문이다. (pg 265)

영국에서는 대학교 행정가들이 이미 데이터 과학 분야의 '잃어버린 세대'에 관해 이야기하고 있다.

테크 기업들의 막대한 연봉이 너무 많은 전문 인력을 끌어감에 따라 

대학에 남아 차세대 후학을 가르치려는 사람이 아무도 없다는 것이다. 

어느 학자는 "진짜 문제는 이 사람들이 사회 전체에 분산되어 있지 않다는 점"이라고 지적했다. 

"지적 능력과 전문성을 갖춘 인재들이 소수의 기업에 집중되어 있다." (pg 266)

이 책은 구글을 선두로 한 감시 자본주의 체계가 어떻게 형성되었는지를 상세히 보여주는 책이다.

하지만 감시 자본주의라는 것 자체가 형성되는데 오랜 시간이 걸리지 않았고, 그 기반 또한 일반인들이 쉽게 이해하기 어려운

기술들이기 때문에 우리는 인지하지도 못한 채 이 체계 속으로 이미 깊숙이 들어와 버렸다.

우리는 과거 어느 때보다 자유로운 세상에서 살고 있다고 믿었지만 사실은 구글이 보라고 한 것들을 보고 

구글이 사라고 하는 것들을 사며 구글이 가라고 하는 곳에 가는 세상에 살고 있는 것이다.

페이스북이 누군가가 구매한 책과 영화, 노래를 모두 알게 되고, 당신이 낯선 도시에 가게 되면 페이스북의 예측 모델이 적당한 술집으로 

안내해주고, 그 술집에 가면 바텐더가 당신이 가장 좋아하는 술을 준비해놓을 것이라던 마크 저커버그의 자랑을 기억해보라. -중략-

구글의 에릭 슈미트는 2010년에 이렇게 말했다.

"사용자가 자신과 친구에 관한 정보를 더 많이 제공할수록 구글 검색의 질이 개선된다. 타이핑할 필요도 없게 될 것이다.

우리는 당신이 어디에 있는지, 어디에 있었는지를 안다. 무슨 생각을 하고 있는지도 어느 정도는 알 수 있다." (pg 668-669)

에릭 슈미트가 저런 섬뜩한 말을 뱉은지도 벌써 10년이 넘었다. 

지금은 어디까지 알고 있을지 모를 일이다.

그래서 우리는 어떻게 살면 좋을까?

아쉽게도 이 책은 감시 자본주의 사회가 출현한 역사와 현상의 분석에 초점을 맞춘 책이다. 

작가가 마지막에 나름대로의 대책을 제시하고 있긴 하지만 700여 페이지에 달하는 현실 분석에 비하면 맥이 좀 빠질 수 있다.

감시 자본주의 기업들은 필연적으로 민주주의에 역행할 수밖에 없으므로 시민권의 회복을 통한 저항이 중요하다 정도에 그치고 있는데, 

이 책은 어디까지나 사회학자의 눈으로 현재 사회를 냉철하게 분석한 책이니 이 책을 통해서는 '감시 자본주의'라는 개념에 

대해 공부한 뒤 계속해서 나오게 될 후속 논의들에 관심을 기울일 필요가 있을 것이다. 

책 제목을 보더니 집사람이 '딱 자기 책이네'라는 말을 할 정도로 내 취향에 딱 맞는 책이었다. 

700페이지가 넘는 두툼한 두께가 읽기도 전에 상당한 부담을 가지게 했었지만 제목부터가 도저히 읽지 않을 수 없었다.

다 읽고서 뭔가 모를 뿌듯함이 느껴질 법도 한데, 사실 읽은 뒤 허탈함과 두려움이 더 크게 다가온 책이다. 

책에 짧게 소개된 사례 중에 재직중인 직원들 중 이직할 사람을 미리 파악해서 경영진에게 알려주는 서비스도 이미

나왔는데 상당한 정확성을 자랑한다고 한다. (작년에 이직한 1인으로서 등골이 오싹해졌다.)

심지어 구글처럼 거대한 기업도 아니었는데 이 정도의 예측이 가능한 시대.

무심코 찍어 올리던 아이의 인스타 사진마저 어떤 정보로 변환되어 어떻게 돌아올지 두려워진다. 

그렇다고 러다이트 운동처럼 스마트폰 없이 살 수 있는 시대도 아니지 않은가. 

이익이 기술 발달의 동기가 되고 그렇게 개발된 기술의 수혜를 사회 구성원 모두가 누리는 것도 일면 사실이다.

하지만 그렇다고 해서 개인의 자유와 프라이버시가 어디까지 희생되어야 하는지, 또한 그런 희생 자체가 정당한지, 

이를 통해 얻어진 사회 전체적인 이익이 희생된 자유와 프라이버시 총합에 비해 질적, 양적으로 우수한 것인지 등등

아직까지 사회 전체적으로 논의되어야 할 질문들이 많이 남아 있다. 

문제는 감시 자본주의 주체들이 이런 질문에 대한 대답은 회피한 채 자신들의 수익을 위해서만 전진하고 있다는 것이다. 

이 때 우리 일반 시민들이 할 수 있는 일은 무엇일까. 

지금 시점에서 답을 알 수는 없지만 가장 먼저 해야 할 일은 현상을 '정확히 이해'하는 것이다. 

그 첫 걸음으로서 이 책은 아주 훌륭한 출발점이 될 것이라 생각한다.