지난 10만 년 동안 우리 사피엔스는 실로 막대한 힘을 갖게 되었다. 우리가 해낸 발견, 발명, 정복을 나열하는 것만으로도 책을 쓸수 있을 정도다. 하지만 힘은 지혜가 아니라서, 10만 년 동안 발견하고 발명하고 정복한 후 인류는 스스로를 실존적 위기에 밀어 넣었다. 즉 우리는 생태적 붕괴 직전에 있는데, 이는 우리가 가진 힘을 오용한 탓이다. 또한 우리는 인공지능과 같은 새로운 기술을만들어내는 데 여념이 없는데, 이런 기술들은 우리의 통제를 벗어나 우리를 노예로 만들거나 전멸시킬지도 모른다. 하지만 우리 종은 이런 실존적 위협에 대처하기 위해 힘을 합칠 생각이 없어 보인•다. 국제적 긴장이 날로 고조되고, 세계적 협력은 점점 요원해지기 - P6
왜 우리는 정보와 힘을 축적하는 데는 이렇게 뛰어나면서 지혜를얻는 데는 그다지 성공하지 못했을까? 역사를 통틀어 많은 종교적,
철학적 전통의 공통된 믿음은, 인간 본성에 치명적인 결함이 있어서 우리가 제어할 수 없는 힘을 가지려는 유혹에 빠진다는 것이다.
그리스 파에톤 신화는 자기가 태양신 헬리오스의 아들임을 알게 된소년에 대한 이야기다. 파에톤은 신의 자식임을 증명하고 싶어서헬리오스에게 태양마차를 몰게 해달라고 조른다. 헬리오스는 파에톤에게 태양 마차를 끄는 천상의 말들은 인간이 통제할 수 없다고경고한다. 그럼에도 파에톤이 고집을 부리자 결국 태양신은 마음이 - P7
그렇다면 우리는 어떻게 해야 할까? 앞의 우화들은 신이나 마법사가 와서 우리를 구해줄 때까지 기다리라는 것 외에는 뾰족한 답을 내놓지 않는다. 이것은 물론 엄청나게 위험한 메시지다. 사람들에게 책임을 내팽개치고 대신 신과 마법사를 믿으라고 부추기기 때문이다. 게다가 마차, 빗자루, 알고리즘과 마찬가지로 신과 마법사도 다름 아닌 인간이 만들어낸 발명품이라는 사실을 깜박한다. 실제로, 우리가 강력한 무언가를 만들어 의도하지 않은 결과를 초래하는 행동 패턴을 보이기 시작한 것은 증기기관이나 AI가 생겼을때가 아니라 종교가 생겼을 때였다. 예언자들과 신학자들은 강력한영혼들을 소환했지만 이 영혼들은 가져다준다던 사랑과 기쁨 대신때때로 세상을 피로 물들였다.
파에톤 신화와 괴테의 시가 유용한 조언이 되지 못하는 이유는그 이야기들이 인간이 힘을 얻는 방식을 잘못 이해했기 때문이다. 두 우화에서 모두 한 인간이 막대한 힘을 얻고 나서 교만과 탐욕에빠진다. 따라서 결론은, 개인의 심리적 결함이 힘을 남용하게 만든다는 것이다. 이 단순한 분석은 인간의 힘이 개인의 노력만으로 얻어진 결과가 아니라는 점을 간과한다. 힘은 항상 많은 사람들이 협력할 때 나온다. - P9
통제할 수 없는 힘을 불러내는 인간의 경향은 개인 심리에서 나오는 게 아니라 대규모로 협력하는 우리 종의 독특한 특징에서 비롯한다. 이 책의 핵심 논지는, 인간은 대규모 협력 네트워크를 구축함으로써 막대한 힘을 얻지만 바로 네트워크를 구축하는 그 방식때문에 애초에 힘을 지혜롭게 사용하기가 쉽지 않다는 것이다. 즉우리의 문제는 네트워크 문제다.
더 구체적으로는 정보 문제다. 정보는 네트워크를 하나로 결속시키는 접착제다. 하지만 사피엔스는 수만 년 동안 신, 마법에 걸린빗자루, AI 같은 것들에 대한 허구, 환상, 집단 망상을 꾸며내고 퍼뜨리는 방법으로 대규모 네트워크를 구축하고 유지해왔다. 인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도, 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다. 나치즘과 스탈린주의는 이렇게 탄생한 것이다. 두 체제는 이례적인 망상으로 결속된 이례적으로 강력한 네트워크였다.
조지 오웰이 남긴 유명한 말처럼 무지가 힘이 된 것이다. - P10
순진한 관점. 우리가 망상에 기반한 네트워크의 힘을 과소평가하게 되는 이유는 대규모 정보 네트워크(망상적이든 그렇지 않든)가 작동하는 방식에 대한 널리 퍼진 오해 때문이다. 이런 오해를 나는 한마디로 ‘정보에 대한 순진한 관점‘이라고 부른다. 파에톤 신화나 <마법사의 제자> 같은 우화들은 인간 개개인의 심리에 대해 지나치게 비관적인 관점을 제시하는 반면, 정보에 대한 순진한 관점은 12 대규모 인간 네트워크에 대한 지나치게 낙관적인 관점을 유포한다. - P11
하지만 순진한 정보관은 우리가 정보를 수집하고 처리하는 과정에서 맞닥뜨리는 문제들 대부분은 훨씬 더 많은 정보를 수집하고처리하면 해결된다고 본다. 오류를 완전히 피할 수는 없지만, 대체로는 정보가 많을수록 정확성이 높아진다는 것이다. 의사 한 명이환자 한 명을 진찰하여 전염병의 원인을 파악하는 것보다 의사 수천명이 환자 수백만 명의 데이터를 수집할 때 성공할 가능성이 높다. 의사들이 공모하여 진실을 숨길 경우, 의료 정보를 대중과 탐사보도 기자들에게 더 자유롭게 공개하면 사기가 드러날 것이다. 이관점에 따르면, 정보 네트워크는 규모가 커질수록 진실에 더 가까워지는 것이 틀림없다.
당연한 말이지만, 우리가 정보를 정확하게 분석하여 중요한 진실을 발견한다고 해서 그 결과물을 지혜롭게 사용한다는 보장은 없다. 지혜는 흔히 ‘올바른 결정을 내리는 것‘을 의미하지만, 무엇이‘올바른‘ 것인지는 사람, 문화, 이념에 따라 다를 수 있다. 새로운 병원체를 발견한 과학자는 아마 사람들을 보호하기 위해 백신을 개발 - P13
이 경우에도 정보에 대한 순진한 관점은 더 많은 정보가 있으면문제가 적어도 일부는 해결된다고 주장한다. 순진한 정보관에 따르면, 가치관의 차이는 실제로는 정보 부족이나 고의적인 허위 정보 때문에 생긴다. 다시 말해, 인종차별주의자들은 생물학과 역사에 대한 사실들을 잘 모르는 정보가 어두운 사람들인 것이다. 그들은 ‘인종‘이 유효한 생물학적 범주라고 생각하며, 가짜 음모론에 세뇌되어 있다. 그러므로 인종차별주의는 사람들에게 더 많은 생물학적, 역사적 사실을 제공하면 해결된다. 시간이 걸릴 수는 있지만, 자유로운 정보 시장에서는 결국 진실이 승리할 것이다.
물론 순진한 정보관은 이보다는 복잡하고 신중하지만, 이 관점의핵심 신조는 정보는 본질적으로 좋은 것이라서 많이 가질수록 좋다는 것이다. 충분한 정보와 시간이 주어지면 우리는 바이러스 감염부터 인종차별적 편향에 이르기까지 다양한 사안에 대한 진실을 밝힐 수 있으며, 그 결과 힘뿐만 아니라 그 힘을 잘 사용하기 위해 필요한 지혜도 생긴다. - P14
순진한 정보관을 가장 간명하게 요약한 말을 꼽자면 "전 세계의정보를 정리하여 모두가 편리하게 이용할 수 있도록 하는 것"이라는 구글의 사명 선언문일 것이다. 괴테의 경고에 대한 구글의 답변은 이렇다. 스승의 비밀 주문 책을 슬쩍한 한 명의 제자는 재앙을초래할 수 있지만, 많은 제자들이 전 세계 모든 정보에 자유롭게 접근할 수 있을 때 그들은 일을 도와줄 마법의 빗자루를 만들어낼 뿐만 아니라 그것을 지혜롭게 다루는 방법도 배울 것이다. - P16
오히려 전문가들은 두 가지 시나리오에 대해 경고한다.
첫째, AI의 힘은 기존의 인간 갈등을 증폭하여 인류를 분열시킬가능성이 있다. 20세기에 철의 장막이 냉전 시대 경쟁 강국들을 분열시켰듯이, 21세기에는 가시철조망 대신 실리콘칩과 컴퓨터 코드로 만들어진 실리콘 장막이 새로운 세계 갈등을 일으켜 경쟁 강국들을 분열시킬지도 모른다. AI 군비경쟁으로 점점 더 파괴적인 무기가 생산될 테니, 작은 스파크만 일어도 파멸적인 화재로 번질 수있을 것이다.
둘째, 실리콘 장막은 인간을 한 집단과 다른 집단으로 분리하는것이 아니라, 모든 인간을 인간의 새로운 지배자 AI와 분리할지도모른다. 우리는 어디에 살든 불가해한 알고리즘으로 짜인 거미줄 속에 갇히게 될 것이다. 이 알고리즘들이 우리의 삶을 관리하고, 우리의 정치와 문화를 재편하며, 심지어 우리의 몸과 마음까지 재설계하는 동안 우리는 우리를 통제하는 힘을 멈추기는커녕 더 이상 이해할 수 없게 될 것이다. 만일 21세기의 전체주의 네트워크가 세계 정복에 성공한다면, 그때 전체주의를 운영하는 주체는 인간 독재자가아니라 비인간 지능일 것이다. 중국이나 러시아 또는 민주주의 이후의 미국을 전체주의 악몽의 불씨로 꼽는 사람들은 위험을 잘못 이해하고 있는 것이다. 실제로는 중국인, 러시아인, 미국인, 그 밖의 모든인간이 비인간 지능의 전체주의적인 잠재력에 함께 위협받고 있다.
기거야 할 문제 - P20
2016년에 나는 새로운 정보 기술이 인류에게 가져올위험들 중 일부를 조명한 책 《호모 데우스>를 출간했다. 그 책에서나는 역사의 진짜 주인공은 호모 사피엔스가 아니라 언제나 정보였으며, 과학자들은 역사 외에 생물학, 정치, 경제도 점점 정보 흐름의관점에서 이해하고 있다고 주장했다. - P22
포퓰리즘은 또한 정보에 대한 순진한관점에 급진적인 도전을 제기했다. 도널드 트럼프와 자이르 보우소나루 같은 포퓰리스트 지도자들, 그리고 큐어넌QAnon과 백신 반대론자 같은 포퓰리즘 운동과 음모론의 주장에 따르면, 정보를 수집하여진실을 발견한다는 주장으로 권위를 얻는 모든 전통 기관은 실제로는 거짓말을 하고 있는 것이다. 관료, 판사, 의사, 주류 언론인, 학계전문가들은 진실에는 관심이 없고 ‘국민‘을 희생시켜 권력과 특권을 얻기 위해 고의적으로 허위 정보를 퍼뜨리는 엘리트 카르텔이다.
트럼프 같은 정치인과 큐어넌 같은 음모단이 등장한 데는 2010년대말 미국의 독특한 상황이라는 정치적 맥락이 있다. 하지만 포퓰리즘을 반체제적인 세계관으로 이해한다면 그것은 트럼프가 등장하기훨씬 전부터 존재했으며, 현재와 미래의 수많은 역사적 맥락과 관련이 있다. 한마디로 포퓰리즘은 정보를 무기로 간주한다.
정보에 대한 포퓰리즘적 관점
정보→ 힘
더 극단적인 형태의 포퓰리즘은 객관적 진실은 존재하지 않으며모든 사람은 각자 자기만의 진실‘을 가지고 그것을 경쟁자를 항복시키기 위한 무기로 사용한다고 가정한다. 이 세계관에 따르면 권 24 권력이 유일한 현실이다. 인간은 오직 권력에만 관심이 있기 때문에 모든 사회적 상호 작용은 권력 투쟁이다. 진실이나 정의 등 다른 것에 관심이 있다는 주장은 권력을 얻기 위한 계략에 지나지 않는다. - P23
19세기 중반에 그는 권력만이 유일한 현실이며, 정보는 무기이고, 진실과 정의를 수호한다고 주장하는 엘리트는 실제로는 편협한 계급적 특권을 추구한다고 주장했다. 1848년 <공산당 선언》에는 이런 말이 나온다. "지금까지 존재한 모든 사회의 역사는계급투쟁의 역사다. 자유민과 노예, 귀족과 평민, 영주와 농노, 장인과 도제 등 억압하는 자와 억압받는 자는 서로 끊임없이 대립하는 관계였으며, 때로는 숨기고 때로는 공개했을 뿐 끊임없는 전쟁을 치렀다." 역사에 대한 이런 이분법적 해석은 인간의 모든 상호작용이 억압하는 자와 억압받는 자 사이의 권력투쟁임을 암시한다.
따라서 누군가가 무슨 말을 할 때마다 던져야 할 질문은 "무슨 말입니까? 그게 사실입니까?"가 아니라 "누가 그렇게 말합니까? 누구의특권을 위한 것입니까?"이다.
물론 트럼프와 보우소나루 같은 우파 포퓰리즘 성향의 정치인들이 푸코나 마르크스의 책을 읽었을 리 없고, 실제로 그들은 열렬한반마르크스주의자임을 자처한다. 또한 그들이 조세와 복지 같은 분야에서 제안한 정책들은 마르크스주의와는 거리가 멀다. 하지만 사회와 정보에 대한 그들의 기본 관점은 인간의 모든 상호작용을 억압하는 자와 억압받는 자 사이의 권력투쟁으로 보는 마르크스주의와 놀랍도록 비슷하다. 예를 들어 트럼프는 2017년 취임사에서 "국민이 비용을 부담하는 동안 미국 수도에 있는 작은 집단이 정부의혜택을 다 가져갔다"고 선언했다. 23 이런 수사는 포퓰리즘의 단골메뉴다. 정치학자 카스 무데는 포퓰리즘은 "사회가 궁극적으로 ‘순수한 국민‘과 ‘부패한 엘리트‘라는 두 개의 상호 적대적인 동질적 - P25
포퓰리즘이 궁지에서 빠져나오기 위해 동원하는 또 다른 방법은‘연구‘를 통해 진실을 찾으려는 현대 과학의 이상을 포기하고 대신신의 계시나 신비주의에 의존하는 시대로 돌아가는 것이다. 기독교, 이슬람교, 힌두교와 같은 전통 종교들은 일반적으로 인간을, 전지전능한 신의 개입을 통해서만 진실에 접근할 수 있는, 권력에 굶주린 믿을 수 없는 존재로 간주해왔다. 2010년대와 2020년대 초반,
브라질에서 튀르키예, 미국에서 인도에 이르기까지 포퓰리즘 정당들은 이런 전통 종교의 입장에 동조했다. 이들은 현대 제도에 대한급진적 의구심을 표명하는 반면 고대 경전에 대해서는 완전한 믿음을 선언했다. 포퓰리스트들은 <뉴욕 타임스>나 <사이언스》에 실린기사는 권력을 얻기 위한 엘리트의 계략에 불과하지만, <성경> <쿠란》 《베다》에 쓰인 내용은 절대적 진리라고 주장한다.
이 주장의 변형된 버전은 트럼프와 보우소나루 같은 강력한 지도자를 신뢰하라고 부추긴다. 지지자들은 이런 정치인을 신의 메신저‘ 또는 ‘국민‘과 신비로운 유대로 묶인 존재로 묘사한다. 평범한정치인들은 권력을 얻기 위해 국민을 속이지만, 이런 카리스마 넘 - P27
카리스마 넘치는 지도자나 불가해한 AI에게 권력을 넘겨주고 싶지 않다면, 먼저 정보가 무엇인지, 정보가 인간 네트워크의 구축을어떻게 돕는지, 정보가 진실이나 권력과 어떤 관계인지 이해할 필요가 있다. 포퓰리스트들이 순진한 정보관을 의심하는 것은 옳지만,
권력이 유일한 현실이며 정보는 무기에 불과하다는 생각은 잘못되었다. 정보는 진실의 원재료가 아니지만 단순히 무기인 것도 아니다. 이런 양극단 사이에서 우리는 인간의 정보 네트워크와 힘을 현 29 현명하게 다루는 인간의 지혜에 대한 복합적이고 희망적인 관점을 충분히 찾을 수 있다. 이 책은 그런 중간 지대를 탐색하려고 한다. - P28
재현하는 것이 아니다. 오히려 정보가 하는 일은 별개의 것들을 하나로 묶어서 연인이든 제국이든 새로운 현실을 만들어내는 것이다.
정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란서로 다른 지점들을 네트워크로 연결하는 무언가다. 정보가 꼭 어떤 것들에 대해 무언가를 알릴 필요는 없다. 오히려 정보는 서로 다른 것들을 무언가로 묶는 역할을 한다. 별자리 운세는 연인을 별점으로 묶고, 선전 방송은 유권자를 정치적으로 묶고, 군가는 병사들을 군사 대형으로 묶는다. - P50
하지만 정보를 재현으로 보는 순진한 관점을 거부한다고 해서 진실이라는 개념을 거부해야 하는 것도, 정보를 무기로 보는 포퓰리즘적 관점을 수용해야 하는 것도 아니라는 점을 강조하고 싶다. 정보는 항상 연결하는 역할을 하지만, 과학책부터 정치 연설까지 몇가지 유형의 정보는 현실의 특정 측면을 정확하게 표현함으로써 사람들을 연결하려고 시도한다. 하지만 이는 특별한 노력을 필요로하는 일이며, 대부분의 정보는 그런 노력을 기울이지 않는다. 더 강력한 정보 기술을 만들어내기만 하면 세상을 더 정확하게 이해할수 있다고 믿는 순진한 관점이 틀린 이유가 여기 있다. 저울을 진실쪽으로 기울이기 위해 따로 노력을 기울이지 않는다면, 정보의 양과속도가 증가할수록 비교적 드물고 값비싼 진실한 정보가 그보다훨씬 흔하고 값싼 유형의 정보에 파묻힐 가능성이 높다.
따라서 석기시대부터 실리콘 시대까지 정보의 역사를 살펴보면,
연결은 지속적으로 증가했지만 진실이나 지혜도 함께 증가하지는않았다. 순진한 정보관의 믿음과 달리 호모 사피엔스가 세계를 정 - P56
사피엔스 무리들 사이의 협력이가능해진 것은 허구적 이야기를 말하고, 믿고, 그런 이야기에 깊이감동받을 수 있게 되면서부터였다. 이런 능력은 아마도 진화 과정에서 뇌 구조와 언어 능력에 변화가 일어나면서 생겼을 것이다. 네안데르탈인처럼 사람과 사람의 연결만으로 네트워크를 구축하는대신, 호모 사피엔스는 인간과 이야기의 연결이라는 새로운 유형의사슬을 갖게 되었다. 사피엔스는 이제 서로를 개인적으로 알지 못해도 협력할 수 있었다. 똑같은 이야기를 알고 있기만 하면 되었다.
그리고 그 똑같은 이야기를 수십 억 명이 공유할 수 있었다. 이렇듯 - P59
플라톤은 이미 <국가>에서 이상적인 국가의 헌법은 ‘고귀한 거짓말‘에 기반해야 한다고 상상했다. 고귀한 거짓말은 사회질서의 기원에 대한 허구적 이야기로, 시민의 애국심을 확보하고 헌법에 의문을 품지 못하게 만든다. 플라톤은 시민들에게 이렇게 말해야 한다고 주장했다. 모든 사람은 흙에서 태어났으니 땅이 어머니이고따라서 모국에 효심을 가져야 한다. 또한 사회 구성원들이 잉태될때 신들이 금, 은, 동, 철 등 다양한 금속을 섞어 만들었기 때문에 금으로 된 통치자와 동으로 된 하인들 사이의 위계는 태생적인 것이다. 플라톤의 유토피아는 실제로 실현되지 않았지만, 여러 시대의수많은 정치체제가 시민들에게 이 고귀한 거짓말의 다양한 버전을 - P79
하지만 다행히도 우리가 현실에 안주하거나 낙담하지 않는다면,
스스로의 힘을 견제하는 균형 잡힌 정보 네트워크를 만들어낼 수있다. 이는 또 다른 기적의 기술을 발명하거나 이전 세대는 생각하지 못한 기발한 아이디어를 떠올려야 한다는 말이 아니다. 오히려우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소•재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지 - P560
|