니콜라스 카 <유리 감옥>

유리 감옥 - 생각을 통제하는 거대한 힘
니콜라스 카 지음, 이진원 옮김 / 한국경제신문 / 2014년 9월

이게 하버드 식 글쓰기인가? 

여기저기서 긁어다가 붙인 느낌. 

열심히 쓴 건 알겠고 나도 열심히 읽었는데 마음에 남는 게 적다. 

지금부터 60년 전에는 비행기 조종석에 종종 다섯 명의 숙련된 고임금 전문가들의 자리가 준비되어 있었다. 항공사, 무선통신사, 항공 기관사, 그리고 조종사 두 명의 자리였다. 1950년대에 커뮤니케이션 시스템의 신뢰성이 높아지고 사용법이 쉬워지자, 가장 먼저 조종실에서 무선통신사의 자리가 사라졌다. 1960년대에 관성 내비게이션 시스템이 발달하자, 항공사가 조종실에서 쫓겨났다. 비행기의 기기 배열을 감시하고, 중요한 정보를 조종사들에게 전달하는 일을 주로 맡았던 항공 기관사는 1970년대 말에 자동화된 비행기 조종석이 등장할 때까지만 자리를 지켰다. (중략) 2011년에 열린 항공 컨퍼런스에 참석한 보잉의 고위 임원인 James Albaugh는 "조종사가 없는 비행기의 시대가 열릴 것이다"라면서 "그건 단지 시간문제일 뿐이다"라고 말했다.
- P98

칼턴 대학의 교수이자 인류학자인 Caludio Apota는 다년간 이누이트 족 사냥꾼들을 연구해왔다. 그는 위성 내비게이션의 이점이 매력적이지만, 이누이트 족들이 그 기기를 사용하면서 길 찾기 능력이 퇴보했고, 일반적으로 봤을 때는 땅에 대한 감각이 약화됐다고 주장했다. GPS 장비를 갖춘 설상차를 모는 사냥꾼은 컴퓨터 지시에만 관심을 집중하기 때문에 주변 상황을 제대로 파악하지 못한다. 아포타가 말한 대로 그럴 경우 그는 "눈을 가리고" 사냥을 하는 것과 같다. 수천 년 동안 이어진 한 부족이 갖고 있던 뛰어나고 특별한 재능이 앞으로 불과 1-2 세대 만에 사라질 것이라고 말해도 감히 무리가 아니다.
- P190

LAR(Lethal Autonomous Robot)의 배치를 막는 것을 더 어렵게 하는 이유는 그것의 전략적 효율성이 뛰어나기 때문만은 아니다. LAR의 배치로 인해 기계 자체의 도덕적 성격을 떠나서 몇 가지 윤리적인 이점도 누릴 수 있기 때문이다. (중략) 크리스토프 헤인즈는 "일반적으로 로봇은 복수나 공포나 분노나 악의나 편견이나 두려움 때문에 행동하지는 않을 것이다. 아울러 특별히 그렇게 하도록 프로그램되어 있지 않는 한, 로봇은 고문 같은 방법을 통해 민간인들에게 의도적 고통을 안겨주지 않을 것이다. 로봇은 또 강간도 하지 않는다"라고 말했다. (중략) 무엇보다 중요한 사실은, 국가는 전쟁을 하기 위해 LAR을 사용함으로써 인간 병사들의 죽음이나 부상을 피할 수 있다.
- P282

소셜 네트워크들은 그들이 운영하는 회사들의 이해관계에 편견에 맞게 우리 자신을 드러내 보이게 만든다. (중략) 페이스북은 어린 시절부터 시작해서 죽어야 끝날 것 같은 일관된 서사 형식에 따라 전개되며, 한평생 지속되는 하나의 ‘자아’ 속에 회원들을 가둬놓고 싶어 한다. 이런 의도는 자아와 그 가능성들에 대해 페이스북 창업자가 가진 편협한 관점과 부합한다. 마크 저커버그는 "당신은 한 가지 신원만을 갖고 있다. 당신이 직장 동료나 친구들과 그 밖의 지인에게 각기 다른 이미지를 보여주던 시절은 아주 빨리 마감될지 모른다"라고 말했다. 그는 심지어 "당신이 두 개의 신원을 가졌다면 당신은 진실하지 않다는 뜻이다"라고도 주장했다. 당연한 말 같지만, 이런 관점은 광고주들을 위해 회원들을 깔끔하고 일관된 데이터 세트로 포장하고자 하는 페이스북의 욕구와 정확히 일치한다.
- P302

미국 국립안전위원회National Safety Council가 분석한 결과, 2011년 미국의 도로에서 일어난 전체 사고들 중 4분의 1이 운전자가 휴대폰을 사용하다가 일어난 것으로 파악됐다. 하지만 구글과 다른 일류 기술 기업들은 사람들이 운전 도중 전화 통화를 하거나, 문자 메시지를 하거나, 애플리케이션을 사용하지 못하도록 하는 소프트웨어 개발에는 사실상 별다른 노력을 기울이지 않고 있다. 분명 그런 일들은 자율형 자동차를 만드는 것에 비해서 훨씬 더 쉬운 일임에 분명하다. 우리는 컴퓨터 기업들이 사회의 안녀을 위해 노력하려는 중요한 기여를 반겨야 한다. 하지만 그런 기업들의 관심 사항을 우리의 관심 사항과 혼동해서는 안 된다.
- P306

불쾌하고 불편하다.

다가오는 말들 - 나와 당신을 연결하는 이해와 공감의 말들
은유 지음 / 어크로스 / 2019년 3월

읽는 내내 불쾌하고 불편한 느낌이 드는 책이었다. 

필자는 상처 받은 사람들의 이야기를 글로 써서 알리는 일과 사람들이 자신의 상처를 스스로 글로 표현하도록 돕는 일을 열심히 하는 사람이다. 필요한 일이고 가치 있는 일이다. 그렇지만 자신이 만난 남들의 상처에 필자 자신의 상처까지 더해서 끝없이 늘어놓고 이해와 공감을 끝없이 요구하는 글들을 읽고 있자니 피로감이 쌓인다. 가족의 죽음이나 성폭력 피해 같은 상처 앞에서는 이쪽도 긴장하게 되지만, 필자에게는 가난도 상처고 채무도 상처고 직장 노동 가사 노동도 상처고 학교 공부도 가족 관계도 전부 상처다. 도대체 아프지 않은 사람이 없고 피해자 아닌 사람이 없다.

이해와 공감은 중요하다. 내가 그를 이해하기 위해 노력하고 그가 나를 이해하기 위해 노력할 때 이해와 공감은 발전적인 것이 된다. 그렇지만 가족도 친구도 동료도 고객도 아닌 나와 아무 상관없는 사람이, 내가 힘들어하는 것에 대해서는 아무런 관심도 보이지 않는 사람이, 자기 힘들다는 얘기를 끝도 없이 하는 것을 듣고 있자니, “그만 좀 징징대라.”하는 생각이 슬며시 올라온다.

상처가 없는 사람은 없다. 사는 것이 힘들지 않은 사람도 없다. 저마다 자기 몫의 십자가를 지고 필사적으로 삶이라는 고해를 헤쳐 나간다. “이 정도는 괜찮아.”, “힘든 일도 있지만 좋은 일도 많아.”, “나는 그래도 행복한 사람이야.” 라고 자기를 격려하면서, 다들 힘들지만 참고 열심히 산다. 열심히 산다는 자기 긍정은 자존감의 원천이 된다. 그래서 누군가가 ‘참고 열심히 사는’ 것의 가치를 부정하고 있다고 느낄 때 우리는 불쾌해지고 불편해진다.

물론 살다 보면 도저히 자기 힘으로는 빠져나올 수 없는 수렁에 빠질 때가 있다. 그 때는 다른 사람에게 도움을 청하는 것이 당연하다. 그렇지만, 도와준 사람에게 고마워하고 미안해하는 마음은 가져야 한다. 그런 것을 염치라고 부르지 않나? 특히 어린이, 청소년과 관련된 부분을 읽으면서, 필자가 열심히 하고 있는 일이 부디 파렴치를 정당화하는 일이 되지 않기를 바라게 되었다.

한 젊은 여성은 이런 글을 썼다. (좋은 엄마가 아닌) 엄마가 자식에게 미치는 영향만 연구되고, 자식이 엄마에게 미치는 영향은 왜 연구되지 않는 거죠?
- P60

인간 사회는 민폐 사슬이다. 인간은 나약하기에 사회성을 갖는다. 살자면 기대지 않을 수도 기댐을 안 받을 수도 없다. 아기를 안고 공부에 나선 엄마처럼 폐 끼치는 상황을 두려워 말아야 하고 공동체는 아이들을 군말 없이 품어야 한다. 배제를 당하면서 자란 ‘키즈’들이 타자를 배제하는 어른이 되리란 건 자명하다. 건강한 의존성을 확장해나가는 과정을 통해서만 우리는 관계에 눈뜨고 삶을 배우는 어른이 될 수 있다.
- P100

일단 쓸 수 있는 걸 쓸 수 있는 데에 썼다. 블로그에 에세이를 쓰고 "오마이뉴스"에 시민기자로 등록해 활동했다. (중략) 돈벌이는 별도로 충당했다. 자유기고가를 주업으로 일감이 없을 땐 자서전을 대필하고, 공공기관 백서를 쓰고, 게스트하우스 주인을 인터뷰해 납품했다. 이 세상에 나쁜 언어를 유포하는 일이 아니면 닥치는 대로 썼고, 원고료를 받아 책과 커피와 쌀을 사먹고 그렇게 살아남아서 ‘쓰고 싶은 글’을 썼다.
작가를 꿈꾸는 학생에게 말했다. "쓰고 싶으면 빨리 쓰세요. 작가는 쓰는 사람이지 쓰기 위해 준비하는 사람이 아니에요." 문창과 간다고 작가의 길이 보증되고 경영학과 간다고 그 길이 봉쇄되진 않는다. 가장 큰 장벽은 부모의 반대가 아니라 자기 생각의 빈곤이다. 자꾸 몸에 들러붙는 생각, 솟아나는 얘기, 복받치는 불행이 아니라면 무엇을 쓸까.
- P144

"딸이 있어 얼마나 다행이니." 우리 엄마도 자주 말했다. 속 하나 안 썩이고 없는 것처럼 자란 속 깊은 딸, 엄마의 자랑, 엄마의 보험, 엄마의 친구. 이 모든 명예 훈장은 실은 집안의 일손이자 엄마의 보조 노동력이자 감정 해우소로 딸을 승인하는 몹쓸 언어다. 그 딸들은 며느리가 되어서도 "집안의 사노비" 신세를 면치 못한다.
- P173

A는 인턴십형이다. 청소, 빨래, 설거지, 요리 등 애인의 총체적인 살림 능력을 검증하기 위해 6개월간 자취하게 한 후 결혼했다. 인턴십처럼 예비 심사 기간을 두고 판단한 것. B는 단체협약형이다. 일상 업무 분담은 물론 명절 및 양가 부모 생신 때의 역할과 책임까지 치밀한 세부 규정을 마련하고 조인식 후 결혼했다. C는 일상돌파형이다. 어느 날 남편에게 아이스크림을 좀 만들어달라고 했단다. 남편이 깜짝 놀라서 "나 그런 거 못 해. 한 번도 안 해봤어"라고 말하길래 "이때까지 내가 했던 음식들 나도 결혼 전엔 한 번도 안 해봤는데 다 배워서 하는 거야. 당신도 배워서 만들어줘" 라고 요구했다고. 지혜가 샘물처럼 넘치고 용기가 화산처럼 솟구치는 현대 여성들의 처신에 나는 매번 탄복한다.
- P231

호출형 노동자는 시간 관리가 생명이다. ‘시간은 돈’이므로. 돈이 되는 시간 창출을 위해 주도적으로 머리를 싸매야 한다. 나는 취재를 위한 왕복 이동 시간, 원고 집필 시간을 측정해 일을 수주받았고 조금의 오차도 없이 진행했다. 마감 기계로 일하다 보니 나를 호출하는 곳이 불어났고 그럴수록 내 속도에 발맞추지 않는 동료를 견디지 못했다.
프리랜서 생활 5년. 나는 "정확성, 효율성, 생산성을 모토로 삼"는 시간 노예가 되었다. 그 사실을 몰랐고 힘들지도 않았다. 몸에 밴 자기 착취의 습성으로 ‘쪼는 사람’ 없어도 스스로 일하는 근면함은 신자유주의 사회에서 경쟁력이기도 했으니까. 그런데 글쓰기 수업을 진행하면서 내 부지런한 노동자 성향, 즉 강박적 시간관념에 충돌이 일어났다. ‘게으름뱅이들’을 만난 것이다.
- P268

부모나 교사가 시키는 무리한 것들을 ‘싫어도’ 해낸다면 훗날 자기보다 힘이 센 사람이 시키는 별의별 일도 ‘싫은데’ 꾸역꾸역 감당할 여지가 있다. 복종은 습관이다. 성찰 없는 순종이 몸에 배면 자기의 좋음과 싫음의 감각은 퇴화한다. 자기를 모르는 사람은 자기를 지키기 어렵다.
- P289

전쟁으로 군수산업이 돈을 벌고 힘없는 병사들이 죽어가듯 입시 전쟁에서는 학원산업이 득을 보고 평범한 아이들은 조용히 스러져간다.
- P295

올해 고등학생이 된 딸은 5월에 수학여행을 가는 줄 알았는데 알고 보니 수련회였다며 가지 않겠다고 했다. 놀 시간도 안 주고 극기훈련이랑 교육만 시키는 수련회는 딱 질색이라며 다른 애들도 그러기로 했단다. 나는 무조건 지지한다고 했다.
- P303

추천자의 삶의 조건과 목적은 특수하다. 평생 활자와 친했고, 책 보는 게 직업이거나 일과 중 독서 시간 확보가 가능한, 읽는 훈련이 된 일부 계층의 관점이 반영된 목록이다. 그런 책들이, 책을 거의 안 봤거나 볼 시간이 없고 고된 노동과 학습에 지친 이들의 일상에 지적 정서적 쾌락을 주는 ‘좋은 책’으로 스밀 수 있을가. 추천자와 독자 사이에 ‘공감 격차’가 발생할 수밖에 없다.
- P327

저마다 누려야 할 고요와 기분을 방해하는 집단의 출입을 금지해야 한다면 노키즈존보다 ‘노아재존’이 시급하다. 그러나 생기지 않았고 생기지 않을 것이다. 가부장제 사회에서 아버지는 곧 법이고 돈이다. 생산력과 구매력을 가진 집단이기에 은행에서도 음식점에서도 그들을 함부로 금지하거나 차별하거나 배제하지 않는다. 역사상 흑인 전용 화장실은 있었지만 백인 전용 화장실은 없었던 이유와 같다.
- P337

긴장감 없는 디스토피아

화성에서 살 생각인가?
이사카 고타로 지음, 민경욱 옮김 / arte(아르테) / 2017년 8월

지난 겨울에 한국에 번역된 이사카 코타로의 작품을 전부 다 읽었다.

아주 즐겁게 읽은 것도 있고 (<밤의 나라 쿠파>!!!)

지루한 것도 있지만, (<사막>이랑 <골든 슬럼버>)

대체로 다 편안하게 술술 읽혔고 그런 대로 재미있었다.

오웰의 <1984>를 읽는 도중에 <화성에서 살 생각인가>가 생각나서 빌려다가 다시 읽었는데,

평화로운 시대에 평화로운 나라에서 태어나 자란 작가라서

전쟁을 경험한 오웰과는 위기감의 수준이 비교가 되지 않지만,

(<마왕>과 <모던 타임즈>에 나오는디스토피아란 게 남자가 군대에 가는 나라이다ㅋ.)

역시 술술 읽혔고 그런 대로 재미있었다. ^^

인간이 인간답게 활동하는 것은 무리를 짓지 않을 때뿐이다. - P441

로봇 시대의 여러 문제들에 대한 알기 쉬운 안내서

로봇 시대, 인간의 일 - 인공지능 시대를 살아가야 할 이들을 위한 안내서
구본권 지음 / 어크로스 / 2015년 11월

정보화 사회의 시민들이 꼭 알아야 할 

로봇 시대의 사회적, 철학적 문제들을 알기 쉽게 소개해 주는 책이다.

수많은 관련 연구들을 재빠르게 소개하고 넘어가는 리뷰 페이퍼 같은 느낌이라,

약간 TMI랄까, 읽고 있으면 숨가쁜 느낌도 들었지만,

더 읽어볼 만한 책들을 알게 된 것은 큰 소득이다.

니콜라스 카 <유리 감옥>과 <생각하지 않는 사람들>

대니얼 샥터 <기억의 일곱 가지 죄악)

질 프라이스, 바트 데이비스 <모든 것을 기억하는 여자>

대니얼 부어스틴 <이미지와 환상>

을 읽어야 할 책 리스트에 올려둔다.

사람을 상대하는 것이 딱 질색인 나의 생각으로는

로봇 시대의 가장 큰 위험은 우리가 사람을 상대하지 않아도 되게 만들어 준다는 것이다.

개인이 사람을 상대하는 능력을 길러야 하는 이유와 동기가 사라지면,

사회 구성원들의 관계 능력이 심각하게 저하됨으로써 사회의 유지도 어려워질 것이다.

쉴 필요도 없고 잊어버리지도 않는 성실한 학습자인 인공지능 로봇이

태양열을 이용해서 스스로 에너지를 마련하고 스스로를 수리할 수도 있게 된다면

결국 인간은 자신이 멸종시킨 많은 생물들처럼 멸종하게 될 수도 있지 않을까 싶은데,

뭐, 워낙 못되처먹은 종이었으니, 멸종한다 해도 별로 안타깝지는 않다.

디지털 세상에서 모든 것은 0과 1로 이뤄진 데이터이고, 모든 데이터는 기계에 의해서 처리processing된다. 데이터에 접근할 수 있고 그를 활용한 알고리즘과 플랫폼을 만들어내는 능력을 소유한 집단이 모든 것을 지배한다. 그 지배집단은 검색과 디지털 서비스의 운영체제, 소셜미디어 플랫폼을 만들어낸 글로벌 정보기술 기업들이고, 사용자들의 활동내역에 접근하고자 하는 국가권력이다. 우리는 데이터를 만들어내는 주체이지만, 사용하는 주인이 아니다. - P14

등록금 부담이 없거나 낮고 출석과 과제 등의 의무가 적은데다 학생이 시간과 장소에 구애받지 않고 언제 어디서든 스마트폰으로 수강할 수 있다는 편리함은 동시에 온라인 교육 프로그램의 치명적 단점이 됐다. 낮은 참여율과 몰입도, 높은 중도 포기율, 학습 의무감 저하, 시험 성적 저하 등의 결과가 나타났던 것이다.
- P91

대학은 특정한 목표를 추구하는 호기심 강한 동년배 집단을 강의실과 실험실, 커뮤니티를 통해서 만나게 하는, 대체 불가능한 공간이자 제도라는 특성을 지닌다. 온라인에 대한 의존도가 높아질수록 거꾸로 오프라인에서의 면대면 만남과 몰입이라는 희소해진 경험을 제공하는 기능도 주목받는다. - P94

구글의 검색 기술은 해당 페이지가 다른 사이트에서 얼마나 많이 언급되고 링크로 연결되어 있는가를 통해 순위를 알려준다고 해서 PageRank로 불린다. 페이지랭크는 인터넷의 정보량이 많아질수록 진가가 드러났다. 야후의 즐겨찾기(디렉토리) 방식은 검색 전문가가 일일이 사이트를 살펴본 후 추천사이트로 올리는 구조이기 때문에 정보량이 증가하면 정확성이 떨어지고 최신 상태를 반영하기도 어렵다. 야후가 눈썰미 좋은 안내자를 통해 인터넷 서핑의 비결을 알려주고자 했다면 구글은 최대한 정교한 수학공식을 만들어 사람의 개입 없이 기계가 가장 정확한 답을 빠르게 내놓을 수 있도록 설계됐다. 정보량이 늘어나고 참여자가 많아질수록 효율성과 정확도가 높아진다는 점에서 인터넷 구조에 적합한 알고리즘이다.
- P108

로봇robot이라는 단어 자체가 인간의 노동을 대체한다는 뜻을 담고 있다. 체코의 극작가 카렐 차페크가 1920년에 발표한 희곡 <로숨의 유니버설 로봇>에서 처음 사용했으며, 허드렛일 또는 노예상태를 뜻하는 체코어 로보타robota로부터 만든 말이다. 차페크는 "우리는 왜 로봇을 만드는가"에 대해 "일을 시키기 위해서"라고 말한다. 로봇과 비교하면 인간 노동은 "대책이 안 설 만큼 불완전"하다는 것이다. 차페크가 작품에서 ‘로봇’을 등장시킨 지 100년이 채 안 되어, 현실에서 인간의 일자리를 로봇이 위협하기 시작했다. - P125

특정 계층의 전유물이었던 여가가 대중사회에서 대중화, 민주화되었다는 것은 여가 활동이 누구나 손쉽게 구매하고 소비할 수 있는 상품이 되었다는 의미다. 대표적인 것이 여행이다. 미국의 역사학자 대니얼 부어스틴은 1962년 "이미지와 환상"에서 지난날 일종의 모험이자 수고로운 일travail로서의 고유한 경험이던 여행travel이 대중사회화와 상품화로 인해 누구나 구매할 수 있는 관광tour으로 변한 현실을 지적했다. 미지의 모험이자 예측 불가능한 경험의 연속이라는 여행의 본질은 사라지고 모든 과정이 예측되고 통제되는 준비된 상품으로서의 이미지만 남아 대중적으로 소비되는 현실을 꼬집은 것이다. 수고로움과 위험을 동반한 트래블이 투어가 되면서 여행의 진짜 경험은 사라져버리고 사진 찍기용 상품이 되어버린 가짜 사건pseudo-event의 연속이 되어버린 것이다. - P166

우리는 왜 성실하고 유능한 시간 절약 도우미들을 여럿 고용했는데도 오히려 그 이전보다 시간이 더 부족하다고 느끼는 것일까? (중략) 첫째, 과거에 비해서 할 일이 훨씬 많아졌기 때문이다. (중략) 둘째, 과거보다 소비 영역이 확대되고 하고 싶은 일이 많아졌다. (중략) 셋째, 자신의 시간을 중요하지 않은 영역에 주로 사용하는 바람에 정작 필요한 일을 처리할 시간이 부족한 경우다. (중략) 스마트폰을 들여다본 몇 시간 동안 무엇을 했는지 기억나지 않지만 현실에서 해야 할 일들은 그대로 쌓여 있으니 언제나 바쁜 것이 당연하다.
- P172

사교와 돌봄 기능을 대신할 반려로봇은 우리가 사람과의 관계에서 피하기 어려운 정서적 부담을 회피할 방법을 제시하는 도구이기도 하다. 로봇과 감정적 유대를 경험한다는 것은 사람과의 관계에서 불가피하게 만나게 되는 다양한 감정들 중에서 내가 원하지 않는 감정들을 제거하고 내가 필요로 하는 감정들만으로 관계를 맺는다는 의미다. 인간관계에서 만족감을 느끼기도 하지만 동시에 피로감을 느끼는 배경에는 내가 통제할 수 없는 감정 상태를 경험하게 된다는 점과 상대의 요구와 기대를 충족시켜야 한다는 점이 있다. 일라이자의 사례처럼 로봇과의 관계는 교감으로 보이지만 사실은 상대가 나에게 요구하는 것이 없는, 의무 없는 편안한 관계다.
- P212

빅데이터는 이유를 알지 못해도 인과 법칙과 유사한 수준의 정확도로 결과를 예측할 수 있게 해준다. (중략) 이유를 알지 못해도 빅데이터를 통한 상관분석만으로도 충분한 결론에 이를 수 있게 해준다. (중략) 검색과 빅데이터를 활용한 예측 알고리즘은 유용한 결과를 제공하지만 우리가 사고와 추리를 통해 지적 능력을 작동시키고 강화하는 과정을 퇴화시킨다. 우리가 세상을 이해하기 위해 가설과 추론으로 이어지는 인과성을 추구할 필요가 없어지는 것이다.
- P267

2011년 2월 14, 15일 ‘제퍼디 쇼’에서 인간 대표는 컴퓨터 왓슨에게 깨끗하게 패배했다. 제닝스는 퀴즈 대회의 승패가 결정 난 직후 이렇게 말했다. "20세기에 새 조립라인 로봇이 등장하면서 공장의 일자리가 사라졌듯이 나는 새로운 세대의 생각하는 기계에 밀려난 최초의 지식산업 노동자입니다. 퀴즈쇼 참가는 왓슨에게 밀려난 첫 일자리이지 않을까요? 내가 마지막은 아닐 거라고 봅니다." - P285

도구에 기억을 의존하게 되면서 우리는 외부에 저장 관리되는 정보를 필요한 순간에 호출할 수 있게 된 대신 해당 정보에 대해 통제력을 잃어버리게 되는, 예상하지 못한 결과에 직면하게 됐다. 기억을 통제하는 사람은 의식의 주체인 내가 아니다. 기기와 서비스를 개발하고 운영하는 기업 그리고 그 데이터에 접근권을 갖고 있는 국가권력이다. 여기에서 중요한 문제는 이 데이터가 지워지지 않는다는 점이다. - P290

플라톤의 "파이드로스"에는 소크라테스가 기억의 외부 의존에 대해 경고하는 내용이 실려 있다. (중략) 기억을 외부에 의존하는 행위가 스스로의 무지함을 깨닫지 못한 채 자신에게 지식이 있는 것으로 잘못 판단하게 만든다는 말은 인터넷 환경에서 더욱 돋보이는 통찰이다. - P304

우리가 기억을 아웃소싱하게 되면 기억의 주인이 더 이상 우리가 아닐 수 있다. 기억을 아웃소싱하는 행위는 우리가 무엇인가를 기억하려고 시도하기도 전에 스스로 기억을 포기하는 행위이기 때문이다. "뉴욕타임스" 칼럼니스트 데이비드 브룩스는 이러한 자발적인 기억의 포기가 결국 자신이 내려야 하는 판단과 결정을 포기하는 것과 마찬가지라고 지적했다. 우리의 사고와 판단은 내재된 기억을 통해서 가능하다. 기억을 아웃소싱하는 것은 결국 자신의 판단과 결정까지도 기계와 알고리즘에 맡긴다는 의미이고, 기억에 대해 자신의 통제를 상실하도록 방치하는 행위일 수도 있다. - P305

인공지능 시대에 사람을 사람답게 만드는 것은 무엇보다 결핍과 그로 인한 고통이다. 인류의 역사와 문명은 이러한 결핍과 고통에서 느낀 감정을 동력으로 삼아 발달시켜온 고유의 생존 시스템이다. 처음 직면하는 위험과 결핍은 두렵고 고통스러웠지만 인류는 놀라운 유연성과 창의적 능력으로 대응체계를 만들어냈다. 결핍과 고통을 벗어나는 과정에서 인류가 경험을 통해 체득한 생존의 노하유가 유연성과 창의성이다. 결핍에서 오는 절박함이 만들어낸 인간의 유연성과 창의성은 기계에게 가르치기가 거의 불가능한 속성이다. 그래서 인간의 약점은 인간을 인간답게 하는, 기계와 구별되는 최후의 요소다.
- P327

조지 오웰 <1984>

1984 (Mass Market Paperback, 미국판) - 『1984』 원서
조지 오웰 지음 / Signet / 1950년 7월

6월 19일에 다 읽음.

이걸로 조지 오웰 책 6권 + 2권 (원서) 을 다 끝냈다!!! 

모자란 영어 실력으로도 확 빨려들어가게 되는 매력적인 부분들이 드문드문 있었다.

특히 O'Brien의 선동적인 말투는 혼을 쏙 빼놓더라ㅋ. 

냉정하게 다시 생각하면 헛소리지만, 

이런 식의 프로파간다에 속아넘어갈 사람들이 분명히 많을 듯하다.

Winston Smith의 가장 큰  한계는 권위에 복종하려는 습성이 아닐까 싶다.

Brotherhood의 가입 맹세 장면에서 

이 새끼 뭐지? 왜 이렇게 고분고분해? 라고 생각했는데, 역시나 뒤에 문제가 되더라.

Party에 저항하기 위해서라고 하지만 O'Brien에 대해서 환상을 가지고 복종하는 건 아니지.

모든 권위를 의심하고, 사랑을 강요하는 자들에게 저항하고,

자기 머리로 생각하고 자기 몸뚱이로 일하고 자기 의지대로 사는 것이 존엄하게 사는 것이다.

자유로운 인간으로 존재하기 위해서는 아버지와 스승과 조국을 저버릴 필요가 있는 것이다.

거짓말과 폭력과 온갖 어리석은 짓들을 몸바쳐 해야 하는 당원 노릇은 그만두고

85%의 빈민 속에 들어가서 눈에 띄지 않게 작은 행복을 찾아다니며 산다면

이런 시대에도 가치 있는 삶이 가능하지 않을까?

뒤뜰에서 빨래를 하는 중년 여인의 노래와 

어린 시절 어머니와 깔깔 웃으며 같이 게임을 했던 흐릿한 기억이

어쩌면 이 암울하기만 한 이야기 속에 작가가 숨겨둔 희망의 불씨인지도 모르겠다.

The name of every organization, or body of people, or doctrine, or country, or institution, or public building, was invariably cut down into the familiar shape; that is, a single easily pronounced word with the smallest number of syllables. (중략) It was perceived that in thus abbreviating a name one narrowed and subtly altered its meaning, by cutting out most of the associations that would otherwise cling to it. (중략) Comintern is a word that can be uttered almost without taking thought, whereas Communist International is a phrase over which one is obliged to linger at least monentarily. In the same way, the association called up by a word Minitrue are fewer and more controllabe than those called up by Ministry of Truth. - P307

The Ministry of Truth – Minitrue, in Nespeak – was startlingly differebt from any other object in sight. It was an enormous pyramidal structure of glittering white concrete, soaring up, terrace after terrace, three hundred meters into the air. From where Winston stood it was just possible to read, picked out on its white face in elegant lettering, the tree slogans of the Party: WAR IS PEACE. FREEDOM IS SLAVERY. IGNORANCE IS STRENGTH.
- P4

He disliked nearly all women, and especially the young and pretty ones. It was always the women, and above all the young ones, who were the most bigoted adherents of the Party, the swallowers of slogans, the amateur spies and nosers-out of unorthodoxy.
- P10

And if all others accepted the lie which the Party imposed – if all records told the same tale – then the lie passed into history and became truth. "Who controls the past," ran the Party slogan, "controls the future: who controls the present controls the past." And yet the past, though of its nature alterable, never had been altered. Whatever was true now was the true from everlasting to everlasting. It was quite simple. All that was needed was an unending series of victories over your own memory. "Reality control," the called it; In Newspeak, "doublethink."
- P34

And then a voice from the telescreen was singing:
"Under the spreading cestnut tree / I sold you and you sold me: / There lied they, and here lie we / Under the spreading chestnut tree."
The three men never stirred. But when Winston glanced at Rutherford’s ruinous face, he saw that his eyes were full of tears. And for the first time he noticed, with a kind of inward shudder, and yet not knowing at what he shuddered, that both Aaronson and Rutherford had broken noses.
- P77

Talking to her, he realized how easy it was to present an appearance of orthodoxy while having no grasp whatever of what orthodoxy meant. In a way, the world-view of the Party imposed itself most successfully on people incapable of understanding it. They could be made to accept the most flagrant violations of reality, because they never fully grasped the enormity of what was demanded of them, and were not sufficently interested in public events to notice what was happening. By lack of understanding they remained sane. They simply swallowed everything, and what they swallowed did them to harm, because it lift no residue behind, just as a grain of corn will pass undigested through the body of a bird.
- P156

The book fascinated him, or more exactly it reassured him. In a sense it told him nothing that was new, but that was part of the attraction. It said what he would have said, if it had been possible for him to set his scattered thoughts in order. It was the product of a mind similar to his own, but enormously more powerful, more systematic, less fear-ridden. The best books, he perceived, are those that tell you what you know already.
- P200

The new aristocracy was made up for the most part of bureaucrats, scientists, technicians, trade-union organizers, publicity experts, sociologists, teachers, journalists, and professional politicians. These people, whose origins lay in the salaried middle class and the upper grades of the working class, had been shaped and brought together by the barren world of monopoly industry and centralized government. As compared with their opposite number in past ages, they were less avaricious, less tempted by luxury, hungrier for pure power, and, above all, more conscious of what they were doing and more intent on crushing opposition.
- P205

Being in a minority, even a minority of one, did not make you mad. There was truth and there was untruth, and if you clung to the truth even against the whole world, you were not mad.
- P217

He heard Julia snap her teeth together. "I suppose we may as well say good-by," she said.
"you may as well say good-by," said the voice. Ant then another quite different voice, a thin, cultivated voice which Winston had the impression of having heard before, struck in: "And by the way, while we are on the subject, Here comes a candle to light you to bed, here comes a chopper to chop off your head!"
- P222

"Shall I tell you why we have brought you here? To cure you! To make you sane! Will you understand, Winston, that no one whom we bring to this place ever leaves our hands uncured? The Party is not interested in the overt act: the thought is all we care about. We do not merely destroy our enemies; we change them."
- P253

"We are the priests of power," he said. "God is power. But at present power is only a word so far as you are concerned. It is time for you to gather some idea of what power means. The first thing you must realize is that power is collective. The individual only has power in so far as he ceases to be a individual. (중략) Alone - free - the human being is always defeated. It must be so, because every human being is doomed to die, which is the greatest of all failure. But if he can make complete, utter submission, if he can escape from his identity, if he can merge himself in the Party so that he is the Party, then he is all-powerful and immortal. The second thing for you to realize is that power is power over human beings. Over the body - but, above all, over the mind.
- P264

"How does one man assert his power over another, Winston?"
Winston thought. "By making him suffer," he said.
"Exactly. By making him suffer. Obedience is not enough. Unless he is suffering, how can you be sure that he is obeying your will and not his own? Power is in inflicting pain and humilation. (중략) Progress in our world will be progress toward more pain. The old civilizations claimed that they were fonded on love and justice. Ours is founded upon hatred. In our world there will be no emotions except fear, rage, triumph, and self-abasement. Everything else we shall destroy - everything. Already we are breaking down the habits of thought which have survived from before the Revolution. We have cut the links between child and parent, and between man and man, and between man and woman. No one dares trust a wife or a child or a friend any longer.
- P266

"Tell me," he said, "how soon will they shoot me?"
"It might be a long time," said O‘Brien. "You are a difficult case. But don‘t give up hope. Everything is cured sooner or later. In the end we shall shoot you."
- P274

"Sometimes," she said, "the threaten you with something - something you can‘t stand up to, can‘t even think about. And the you say, ‘Don‘t do it to me, do it to somebody else, do it to so-and-so.‘ (중략) You thik there‘s no other way of saving yourself, and you‘re quite ready to save yourself that way. You want it to happen to the other person. You don‘t give a damn what they suffer. All you care about is yourself."
"All you care about is yourself," he echoed.
"And after that, you don‘t feel the same toward the other person any longer."
"No," he said, "you don‘t feel the same."
There did not seem to be anything more to say.
- P292