<같이 읽을까>
3회차 선정된 책
<21세기를 위한 21가지 제안>은
전자책으로 읽어서 뭔가 아쉽다.
-----------------------
왜 우리는 정보와 힘을 축적하는 데는 이렇게 뛰어나면서 지혜를 얻는 데는 그다지 성공하지 못했을까? 7쪽
우리의 통제력을 벗어나 우리가 의도하지 않는 결과의 홍수를 일으킬지도 모르는 알고리즘 영혼을 수십억 개나 불러냈다. 9쪽
인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도, 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다. 나치즘과 스탈린주의는 이렇게 탄생한 것이다. 두 체제는 이례적인 망상으로 결속된 이례적으로 강력한 네트워크였다. 조지 오웰이 남긴 유명한 말처럼 무지가 힘이 된 것이다. 10쪽
21세기에 새로운 전체주의 정권이 히틀러와 스탈린이 실패한 곳에서 성공할 수도 있다. 즉 모든 것을 통제하는 네트워크를 만들어, 후손들이 그들의 거짓과 허위를 폭로할 엄두조차 내지 못하게 만들지도 모른다. 망상에 기반한 네트워크는 필패한다고 가정해서는 안된다. 그런 네트워크의 승리를 막고 싶다면 적극적으로 노력해야 한다. 11쪽
* ‘순진한 정보관‘에 대한 말들(15~16쪽)
- 레이컨 대통령
전체주의적 통제라는 골리앗은 마이크로칩이라는 다윗에 의해 빠르게 무너질 것
최고의 빅브라더도 통신 기술앞에 점점 무력해지고 있습니다.
정보는 현대 사회의 산소입니다.
정보는 가시철조망으로 덮인 벽 속으로 스며들고, 전기가 흐르고 부비트랩이 설치된 국경을 넘나듭니다. 전자빔의 산들바람은 철의 장막을 그것이 마치 레이스인양 뚫고 들어옵니다.
- 버락오바마
˝나는 기술의 신봉자이며 정보의 흐름에 관한 한 개방성을 믿습니다.
나는 정보가 자유롭게 흐를수록 튼튼해진다고 생각합니다.
- 마크 저커버그
페이스북의 목표는 ˝사람들이 더 많은 것을 공유하도록 도움으로써 세상을 더 개방적으로 만들고, 사람들 사이의 이해를 촉진하는 것˝
- 레이 커즈와일
<특이점이 가까워졌다>에서
˝기하급수적으로 발전하는 기술 덕분에 삶의 거의 모든 측면이 점점 나아지고 있는 것이 현실˝
-구글의 사명 선언문
˝순진한 정보관을 가장 간명하게 요약한 말을 꼽자면 ˝전 세계의 정보를 정리하여 모두가 편리하게 이용할 수 있도록 하는 것˝
ーーーーー
AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 우리 모두 명심해야 된다. 21쪽
AI는 우리 종의 역사뿐만 아니라 모든 생명 형태의 진화 경로를 바꿀 가능성이 있다. 22쪽
실리콘칩은 잠을 자지 않는 스파이, 절대 잊어버리지 않는 금융업자, 영원히 죽지 않는 독재자를 만들어 낼 수 있다. 이것이 사회, 경제, 정치를 어떻게 변화시킬까? 32쪽
우리가 대화를 나누고 있는 대상이 또 다른 인간인지 아니면 인간인 척 가장하는 챗봇인지 더 이상 알수 없다면, 민주주의 사회는 어떻게 금융이나 젠더 같은 특정 주제에 대한 공개 대화를 계속해 나갈 수 있을까? 33쪽
인간사회는 물론 다른 생물 시스템과 물리적 시스템에서도 정보의 대부분은 아무것도 나타내지 않는다. 43쪽
정확성을 추구하는 시도가 극단으로 치달으면 호르헤 루이스 보르헤스의 단편소설 <과학의 정확성에 대하여>(1946)에서처럼 세상을 1대1 비율로 재현하는 지경에까지 이를 수 있다. 47쪽
점성술의 예는 오류, 거짓말, 환상, 허구도 정보라는 것을 보여준다. 순진한 정보관이 주장하는 것과 달리, 정보는 진실과 딱히 관련이 없으며, 정보가 역사에서 하는 역할은 실존하는 현실을 그대로 재현하는 것이 아니다. 오히려 정보가 하는 일은 별개의 것들을 하나로 묶어서 연인이든 제국이든 새로운 현실을 만들어내는 것이다. 50쪽
2024년 시점에 메타버스는 허황된 몽상처럼 보이지만, 20~30년 내에 수십억 명의 사람들이 그곳으로 이주하여 증강된 가상현실에서 인생의 대부분을 보내고 그곳에서 사회생활과 직업 활동의 대부분을 할지도 모른다. 사람들은 원자가 아니라 비트로 이루어진 환경에서 인간관계를 맺고, 사회운동에 참여하고 직업을 갖고, 감정 기록을 경험하게 될 것이다. 54쪽
순진한 정보관의 믿음과 달리 호모 사피엔스가 세계를 정복한 이유는 정보를 현실의 정확한 지도로 바꾸는데 탁월한 재능이 있어서가 아니었다. 오히려 사피엔스의 성공비결은 정보를 활용하여 많은 개인을 연결하는 일에 탁월한 재능을 발휘한 것이다.
하지만 안타깝게도 이 능력은 거짓, 오류, 환상을 믿는 것과도 밀접한 관련이 있다. 57쪽
예수의 당대 초상화는 현재 남아 있지 않고 <성경>에도 그의 외모가 묘사되어 있지 않지만, 상상으로 그려진 예수의 초상은 세상에서 가장 유명한 아이콘이 되었다. 63쪽
역사의 경로는 결정론적인 권력관계보다는, 매력적이지만 유해한 이야기를 믿는 데서 비롯되는 비극적인 실수에 의해 결정되는 경우가 많다. 75쪽
오히려 인간의 정보 네트워크가 성공하기 위해서는 진실 발견과 질서 유지라는 두 가지 일을 동시에 해야 한다. 83쪽
우리 뇌는 아무리 많은 양의 정보도 이야기 형태로 만들면 쉽게 흡수되고 기억하고 처리하도록 진화했다. 91쪽
신경 과학자들은 기억에 대한 연구에서 얼마간 진전을 이루었지만, 아직까지 기억이 무엇인지, 기억이 정확히 어떻게 저장되고 검색되는지 잘 모른다. 97쪽
관료제(bureaucracy)는 말 그대로 ‘책상에 의한 통치‘라는 뜻이다. 이 용어는 18세기에 프랑스에서 생겨났는데, 당시 전형적인 관료들은 서랍이 달린 책상인 뷔로(bureau)옆에 앉아 업무를 보았다. 따라서 관료제 질서의 중심에는 서랍이 있다. 관료제는 책상을 서랍으로 나누고 어떤 문서가 어느 서랍에 들어가는지 파악함으로써 검색 문제를 해결하려고 한다. 99쪽
복잡하게 얽힌 현실을 한정된 수의 고정된 서랍으로 환원하면 관료들이 질서를 유지하는 데는 도움이 되지만 그 대가로 진실이 희생된다.
관료들은 현실이 훨씬 더 복잡한데도 자신들이 만든 서랍에 집착하기 때문에 세상을 왜곡된 눈으로 보기 쉽다.
또한 관료들은 현실을 경직된 서랍으로 나누는 데 급급하기 때문에 자신들의 행동이 미칠 광범위한 영향은 고려하지 못하고 좁은 목표를 추구하게 된다. 100쪽
이롭든 해돕든 모든 관료제는 인간이 이해하기 어렵다는 핵심적인 공통점을 가지고 있다. 108쪽
관료제 덕분에 중앙정보는 국민에 대한 정보를 더 많이 수집하고 기록할 수 있었지만, 국민은 시스템 자체가 어떻게 작동하는지 이해하기 어려운 처지가 되었다. 110쪽
카프카의 소설 <소송>... 이 소설을 우주에서의 인간 조건과 신의 불가해성을 나타내는 실존적, 신학적 은유로 해석하기도 하지만, 일상적인 차원에서 이 이야기는 관료제의 악몽 같은 특성을 조명한다. 111쪽
조지프 헬러의 대표작 <캐치-22>는 전쟁에서 관료제가 하는 중요한 역할을 풍자적으로 보여주었다. 110쪽
유대교는 <성경>보다 <탈무드>의 영향을 훨씬 더 많이 받았고, <탈무드>자체보다 <탈무드>해석에 대한 랍비들의 주장이 훨씬 더 중요해졌다. 140쪽
랍비들이 <구약>을 선별했다는 사실을 대부분의 유대인이 잊었듯이, 대부분의 기독교인들도 교회 공의회가 <신약>을 편찬했다는 사실을 잊고 단순히 그것을 오류 없는 하나님 말씀으로 여기게 되었다.(...)
유대교가 <구약>과 <미시나>를 정경화하는 과정에서 랍비 제도가 탄생했듯이, 기독교에서도 <신약>을 정경화하는 과정에서 통합된 기독교 교회가 탄생했다. 150쪽
정보 네트워크의 역사에서 근대 초 유럽에서 일어난 인쇄혁명은 가톨릭교회의 정보 네트워크 독점을 깨뜨린 승리의 순간으로 평가된다.
(....)
사실 인쇄술은 과학적 사실만이 아니라 종교적 환상, 가짜 뉴스, 음모론도 빠르게 확산시켰다. 155쪽
크라머의 <마녀의 망치>는 근대 초에 유럽 최고의 베스트 셀러 중 하나가 되었다. 159쪽
근대 초 유럽을 휩쓴 마녀 광풍의 역사는 정보 흐름의 장벽을 없앤다고 해서 진실된 정보가 확산된다는 보장은 없다는 것을 보여준다.(...) 인쇄업자들과 서적상들은 코페르니쿠스의 <천구의 회전에 관하여>에 나오는 지루한 수학보다는 <마녀의 망치>의 선정적인 이야기로 훨씬 더 많은 돈을 벌었다. 167쪽
강압적인 지도자들이 민주주의를 망가뜨리기 위해 사용하는 가장 흔한 방법은 자정 장치를 차례로 공격하는 것이다. 대개 법원과 언론부터 시작한다. 전형적인 독재형 지도자들은 법원의 권한을 박탈하거나 법원을 자기 사람으로 채우고, 모든 독립적인 언론 매체를 폐쇄하는 한편 전방위적 선전 기계를 구축한다. 194쪽
무엇보다도 선거는 진실을 발견하는 방법이 아니라는 점을 잊어서는 안된다. 198쪽
선진국에서 정보는 이미 가장 막강한 기관이며, 불편한 사실을 왜곡하거나 감춤으로써 얻을 수 있는 이익이 막대하다. 정부에 진실 추구를 감독하라고 하는 것은 여우에게 닭장을 지키라고 하는 꼴이다. 201쪽
포퓰리즘의 이런 신조는 ‘국민‘이 다양한 이해관계와 의견을 지닌 실존하는 개인들의 집합이 아니라 ‘국민의 뜻‘이라는 하나의 의사를 지닌 정체불명의 통합체라는 믿음에서 비롯된다.(...)
포퓰리스트는 자신만이 국민을 대변하며 의견이 다른 사람은 누구든 (국가 관료든, 소수 집단이든, 심지어 과반수의 투표자일지라도) 허위 의식을 가지고 있거나 진짜 국민이 아니라고 주장하는 사람들이다.
(...)
포퓰리즘은 ‘국민의 힘‘이라는 민주주의 원리를 따르는 것처럼 보이지만 실제로는 민주주의를 유명무실하게 만들고 독재 정권을 수립하려고 한다.205쪽
사실 민주주의는 정치 영역에서 권위가 국민으로부터 나온다는 뜻일뿐 그 외의 영역에서는 권위의 다른 원천이 있을 수 있다는 사실을 부정하지 않는다. 206쪽
여기서의 오해는 민주주의를 선거와 동일시하는 것이다. 218쪽
로마 제국과 한나라 같은 근대 이전의 대규모 정치체제는 주로 정보기술의 한계 때문에 전체주의가 아닌 전제주의로 기울었다.
진나라와 같은 제국들도 완전한 전체주의를 꿈꾸었을지 모르지만 이 꿈을 실현하기 위해서는 현대 기술이 등장할 때까지 기다려야 했다. 242쪽
라디오가 등장하면서 교황은 지구상에서 가장 영향력이 큰 사람 중 하나가 되었다. 262쪽
이제부터 인간은 디지털 신화 제작자들, 디지털 관료들과 경쟁해야 한다. 21세기에 정치가 분열된다면, 민주주의와 전체주의 사이의 분열이 아니라 인간과 비인간 사이의 분열이 될 것이다.(...) 모든 인류를 불가해한 알고리즘 지배자와 분리할 것이다. 280쪽
----------------------------
제2부 비유기적 네트워크
지금 진행되고 있는 혁명의 씨앗은 컴퓨터다. 인터넷부터 AI까지 다른 모든 것은 부산물이다. 284쪽
인간은 체스 경기, 자동차 운전, 시 쓰기 같은 특정한 일들은 영원히 컴퓨터가 할 수 없을 것이라고 주장해왔다. 하지만 ‘영원히‘는 겨우 몇 년으로 끝났다. 284쪽
소셜 미디어 알고리즘이 많은 나라에서 증오를 퍼뜨리고 사회적 결속을 약화시키는 데 기여하고 있다는 사실은 컴퓨터의 새로운 힘을 보여주는 대표적인 사례다. 가장 악명 높은 초기 사례 중 하나는 2016~2017년 미얀마(버마)에서 페이스북 알고리즘이 반로힝야족 폭력을 부추겼던 일이다. 286쪽
어떤 게시 글을 추천할 지 결정한 것은 페이스북 알고리즘이었다.
(...)
2018년 유엔 사실 조사단은 페이스북이 증오로 가득한 콘텐츠를 유포함으로써 민족 청소 운동에 ‘결정적인 역할‘을 했다고 결론지었다. 289쪽
