지방에서 일어난 사건이지만 어째서 웨이보란 인터넷 여...

지방에서 일어난 사건이지만 어째서 웨이보란 인터넷 여론의 압력에 중국 정부가 양보했을까?
그 이유에는 독재정권이 가지는 역설이 있다. 독재국가는 민주주의 국가가 아니지만, 그렇다고 해도 민의를 무시할 수는 없다. 오히려 선거를 통해서 그 정당성을 담보받지 못한 만큼, 민주주의 국가 이상으로 여론에 민감한 측면이 있다. 궁극적으로는 폭력적인 탄압을 행사하는 힘을 선택지로 가지고 있다 하더라도, 민중이 독재정권을 지지한다는 점을 표면적으로는 가능한 한 유지할 필요가 있는 것이다. - P123

글을 올린 본인조차 검열을 당했는지 알아차리지 못하는 검열이 바로 ‘보이지 않는 삭제다. 글을 쓴 본인에게는 게시글이 평소와 똑같아 보이지만, 글을 열람하는 사람에게는 표시되지 않는 시스템이다. 그 밖에도 리트윗 할 수 없다‘, ‘검색으로 표시되지 않는다‘, ‘추천글에 오르지 않는다‘는 등 다양한 형태가 있다. 게시글 자체를 삭제하지는 않고, 글이 확산되어 인터넷상에서 논란을 불러일으키지 않도록 고안한 것이다. - P128

‘아키텍처‘를 통한 행동 규제란, 공원 벤치에 팔걸이...

‘아키텍처‘를 통한 행동 규제란, 공원 벤치에 팔걸이를 설치해 노숙자들이 눕기 어렵게 만드는 등, 인프라나 건조물 등을 물리적으로 설계해 어떤 특정한 행동을 ‘할 수 없게 만드는 규제를 말한다. 레시그는 대기업이 제공하는 아키텍처를 통한 규제로 사이버 공간에서 자유롭고 창조적인 행동이 제한되는 정도가 강해졌다고 경종을 울렸다. - P102

따지고 보면 자유주의적 온정주의는 민주주의의 근간을 건드리는 문제를 안고 있다는 비판은 지금까지도 나오고 있다. ‘민의를 반영한 것이라면 설령 어리석은 선택이라 하더라도 받아들이는‘ 것이 민주주의 정신이라고 한다면, 자유주의적 온정주의는 그 정신과 양립할수 없는 측면이 분명히 있기 때문이다.
예를 들어 정부든 민간이든 정말로 바람직한 넛지나 아키텍처를 설계할 수 있는 인력을 조달할 구조를 갖출 수 있을까? 만약 그 일이 가능하다고 하더라도, 사람들의 행동을 좌우할 넛지나 아키텍처 설계에서 배제되고 그것들을 따르기만 할 사람들과의 ‘격차‘가 점점 커지지는 않을까? - P105

결국, 행복이나 안전을 어느 정도 기술을 통해 추구하게 된 사회에서 근대적 가치관, 즉 특정 가치관을 가진 개인을 차별하고 배제하지 않는 데 가치를 두는 자유주의 가치관에만 충실한다면, ‘모든 사회 구성원이 평등하게 감시당해서 평등한 사회의 상징으로서 ‘하이퍼 판옵티콘‘을 받아들일 수밖에 없지 않을까 하는 것이 오야가 제기한 문제다. - P108

금융 분야 개인정보 수집을 진행하면서 다양한 분야의 ...

금융 분야 개인정보 수집을 진행하면서 다양한 분야의 문제 기업과 개인의 블랙리스트를 작성하고 공개하게 되었다. 탈세나 규칙위반 및 환경오염 기업의 블랙리스트, 여행지에서 문제를 일으킨 개인의 블랙리스트 등, 각 관공서에서는 대량의 블랙리스트를 만들고 있다.
예전에는 블랙리스트가 개별적이었지만, 2014년 이후로는 여러 블랙리스트를 연결해 일괄 검색할 수 있는 데이터베이스를 구축하기 시작했다. - P82

중국은 세계에서 가장 오래된 관료제 국가이자 사회주의 국가인데, 이 두 가지 요소는 관료주의적인 법 규제를 남발하는 큰 요건이라고 할 수 있다. 그 때문에 실현성이 전혀 없는 법률이나 규제가 만들어지는 경우가 더러 있다. 그중에는 너무 어처구니가 없어서 웃음이 나오는 것도 적지 않다. - P86

룽청시는 공공 서비스가 충실하고 행정 절차도 편하지만, 반면에 숨이 막힐 것 같은 감시사회이기도 하다. 철저한 전자정부화로 시민의 편리성을 향상하는 점과, 웬지 숨 막힐 듯한 감시사회라는 점이 하나가 되어 존재한다. - P95

거핑안 부청장은 "이직 문제는 앞으로 대책이 마련될 것이다. 저장성은 머지않아 인력자원사회보장청의 정보 시스템 건설을 추진하고, 기업과 개인 양쪽에 신용 시스템을 구축한다. 어느 한 개인이 빈번하게 이직을 반복하면 그 사람의 신용은 문제가 될 것이다" 라고 답했다. 이직이라는 노동자의 권리 행사도 신용에 영향을 주게 한다는 점은 비판받았지만, 통치자에게는 시민을 의도하는 쪽으로 유도할 수 있다는 점에서 도덕적 사회신용점수가 매력적인 선택지로 비칠 것이다. - P99

신용이라는 말은 일본어에서도 중국어에서도 크게 세가지...

신용이라는 말은 일본어에서도 중국어에서도 크게 세가지 의미가 있다. ‘특정한 누군가나 무언가를 신뢰하는 것‘, 즉 일대일 관계의 신용, 사회로부터 인정받는다‘라는 의미의 신용, 그리고 신용대출 등 금융에서 사용되는 신용 등 3종이다. 중국의 사회신용시스템은 이 세 가지 의미를 전부 별개의 프로그램으로 대응하고 있다. - P75

즈마신용은 (중략) 인터넷 쇼핑, 모바일 결제, 인터넷상의 인간관계, 보유 자산, 학력 등 신용기록 이외의 데이터를 바탕으로 AI가 점수를 산출하는 시스템이다. 필자가 취재할 때, 즈마신용의 홍보 담당자는 "학생이나 농민 등 지금까지 금융 서비스를 받지 못한 사람에게도 서비스가 적용되길 목표로 한다"고 말했다. - P78

즈마신용의 이용자들은 너도나도 "즈마신용 점수는 문제가 없는 인간인지 아닌지를 보여주는 것" 이라고 말했다. (중략) 이용자들은 점수로 차별적인 대우를 받았다고 느낀 적이 없다고 말한다. 규칙을 잘 지키는 사람이라면 필요한 점수를 충분히 얻을 수 있고, 극단적으로 문제가 있는 사람만 배제하는 시스템이란 것이다. - P81

즈마신용 등의 신용점수가 토큰 이코노미와 다른 점은 점수가 올랐다가 내렸다가 하는 이유를 잘 알 수 없다는 것이다. 예를 들어 즈마신용은 이용 시 SNS상의 친구 관계나 학력 등도 입력하길 요구하는데, 어느 정도의 중요도로 점수를 계산하는지는 공표하지 않는다. (중략) 이렇게 ‘잘 알 수 없는 시스템‘에 행동을 평가받고, 그 평가가 어떤 형태로 자신에게 이익과 손해를 불러오는 식이다. 이러한 재귀적인 행동평가 시스템이 블랙박스가 되면, 사람들은 소위 ‘자발적 복종‘이라고 불리는 행동을 취하게 된다. 즉, 얌전히 따르는 편이 더 많은 혜택을 얻을 수 있기 때문에 다들 자발적으로 따르는 상황이 발생하는 것이다. - P82

선전시 유괴사건은 중국인이 왜 감시카메라를 용인하고 ...

선전시 유괴사건은 중국인이 왜 감시카메라를 용인하고 있는지를 보여주는 상징적인 사건이다. 중국에서 유괴는 아주 일상적으로 벌어지는 위협이다. - P71

한때 중국 사회가 가진 일반적인 이미지는 대단히 공격적이고 혼란스러운 에너지가 넘치는 사회 (나쁘게 말하면 규칙이 있어도 지키지 않고 제 맘대로 해석해 행동하는 사회)였는데, 현재는 그러한 이미지와는 달라지고 있다. - P72

이러한 일련의 시위에서 눈길을 끈 점은 참가자, 특히 젊은이들의 차림새였다. 너도나도 검은색 셔츠에 마스크, 고글, 헬멧 등을 착용해 얼굴을 가린 채 참가한 모습이 눈에 띄었다. 또한 집회에 참여할 때는 스마트폰의 위치추적 기능을 끄거나 SNS 메시지를 하나하나 삭제하고, 지하철을 탈 때도 기록이 남는 선불카드가 아닌 현금으로 표를 사는 등 ‘기록이 남는 기술을 굳이 사용하지 않는 ‘디지털 단절‘ 행동이 눈에 띄었다.
이와 같은 현상은 최루탄으로부터 몸을 보호하고 집회 참여 행위가 당국에 파악되는 일을 경계하는 동시에, 중국 본토 못지않은 안면인식 등의 AI기술을 갖춘 감시카메라 시스템이 언젠가는 홍콩에도 도입되어 행동의 자유를 빼앗길지도 모른다는 데에 대한 젊은이들의 반발심이 표출된 것이라는 지적도 나오고 있다. - P74