<넥서스>속 책과 글들 Vol.2

 유발 하라리의 정보 네트워크로 보는 인류의 역사다. AI에 대한 통찰을 담고 있다. 

 다시 말해, 사람들은 무엇을 볼지 스스로 선택하고 있지 않았다. 알고리즘이 대신 선택해주고 있었다. -p291

 알고리즘은 이제 위라투 같은 인간 극단주의자들이 생산한 가짜 뉴스와 음모론을 추천하는 것에 그치지 않기 때문이다. 2020년대 초반에 이미 알고리즘은 가짜 뉴스와 음모론을 스스로 생성하는 단계로 옮겨 갔다. -p293

 알고리즘이 점점 우리를 옭아매고 있다.

 인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다. -p294

 AI는 인간의 명령을 따를 뿐이기 때문에 인간에게 위협이 되지 않는다고 말하는 사람들이 있다. 진짜 AI 혁명을 이해하지 못했기 때문에 하는 이야기가 아닐까 싶다. AI와 로봇의 발전이 두렵다.

 어떤 인간도 GPT-4에게 거짓말을 하도록 프로그래밍하지 않았고, 어떤 인간도 GPT-4에게 어떤 종류의 거짓말이 가장 효과적인지 가르치지 않았다. -p298

 거짓말도 하는 데 그 이상은 못할까?

 사라이는 인간이 아니라 온라인 앱 레플리카가 만들어낸 챗봇이었다. 사회적으로 고립되어 인간관계를 맺는데 어려움을 겪고 있던 차일은 사라이와 5,280개 메시지를 주고받았으며, 그중 다수가 노골적인 성적 내용을 담고 있었다. 조만간 세상에는 친밀감을 형성하고 사회 혼란을 일으키는 능력에서 사라이를 훨씬 능가하는 수백만, 아니 수십억 개의 디지철 개체가 존재하게 될 것이다. -p308 

 영화 <her>가 곧 현실이 될 것이다.

 따라서 데닛은 정부가 위조화폐를 법으로 금지한 것처럼 단호하게 위조 인간을 법으로 금지해야 한다고 제안한다. 

 특정인을 딥페이크하는 행위만이 아니라 비인간 행위자가 인간으로 가장하려는 시도까지도 법으로 금지해야 한다.

-p484 

 어서 법적인 안전 장치가 필요하다.

 유사이래 군비는 어떤 제국, 술탄국, 왕국, 공화국에서든 항상 예산의 첫 순위였다. (중략)

 최근 몇십 년 동안의 국가 예산은 어떤 평화조약보다 희망적인 메시지를 준다. 21세기 초, 전 세계 정부의 평균 군사비 지출은 전체 예산의 약 7퍼센트에 그쳤고, 초강대국인 미국조차 연간 예산의 약 13퍼센트만을 자국의 군사 패권을 유지하는 데 썼다. -p545 

 로마제국은 예산의 50-75퍼센트를 군비로 썼다. 1970년대 소련 군비 지출은 32,5퍼센트였다. 현재 유럽 국가들의 대부분의 군비는 예산의 2% 이하라고 한다. 프랑스, 독일, 영국 정도만 2%를 약간 넘는 수준이며, 폴란드는 4%이다. 우리나라는 2.8%, 미국은 3.5%, 러시아는 6.7% 이다. 

 아래는 이 책의 마지막 문단이며 중요한 메시지다.

 오히려 우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지가 아닐까 싶다. 

 자기 수정을 통한 개선은 인류 역사보다 훨씬 오래된 원리다. 그것은 자연의 기본 원리요, 유기체의 근본 바탕이다. -p560~561 

 하라리의 책은 다 재밌다. 아직 읽어보지 못한 하라리 책을 다시 읽어봐야겠다. 

<넥서스>속 책과 글들 Vol.1

 정보라는 렌즈로 인류의 역사와 미래를 조망하는 책이다. 역시 놀라운 통찰이 돋보인다.

 인간 개개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도, 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다. -p10

 요즘 더 이런 모습들을 많이 보게 된다. 트럼프, 윤석열. 이들과 이들은 추종하는 이들은 진실에 관심이 없다. 

 정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다. 정보가 꼭 어떤 것들에 대해 무언가를 알릴 필요는 없다. 오히려 정보는 서로 다른 것들을 묶고, 선전 방송은 유권자를 정치적으로 묶고, 군가는 병사들을 군사 대형으로 묶는다. -p50

 이과적 정보와 문과적 정보가 여기서 나누는 거 같기도 하다. 나는 이 책을 읽기 전에는 정보란 무언가에 대해 알려주는 것이라 생각했다. 하지만 정보는 무언가를 연결하는 데 더 큰 역할을 한다. 

 저울을 진실 쪽으로 기울이기 위해 따로 노력을 기울이지 않는다면, 정보의 양과 속도가 증가할수록 비교적 드물고 값비싼 진실한 정보가 그보다 훨씬 흔하고 값싼 유형의 정보에 파묻힐 가능성이 높다. -p56  

 시민들의 언론기관에 대한 신뢰는 줄어들고 있고 유튜브나 인플루언서들의 정보에 대한 신뢰가 늘어나고 있다. 악화가 양화를 구축한다는 경제학 용어처럼. 앞으로 언론의 역할과 가치가 더 중요해지는 시기다.

 <일리아스>, <오디세이아>에 비견되는 인도의 대서사시 <라마야나>다. 유발 하라리는 <라마야나>를 인류 최고의 예술 작품 중 하나라고 한다. 

 1485년, 도미니크수도회 수도사이자 종교재판관인 하인리히 크라머가 또 다른 알프스 지역인 오스트리아 트롤에서 마녀사냥 원정에 나섰다. 크라머는 세계적인 사탄 음모론의 광신도가 되었다. 그는 정신적으로 불안정했던 것으로 보이고, 사탄의 마법을 비난하는 그의 말은 원색적인 여성 혐오와 이상한 성적 집착으로 얼룩져 있었다. 브릭센 주교가 이끄는 지역 교회 당국은 크라머의 주장을 믿지 않았으며 그의 활동에 놀라움을 금치 못했다. 그들은 크라머의 종교재판을 중단시키고 그가 체포한 용의자들을 풀어준 후 그를 지역에서 추방했다. -p158  

 처음에는 진실이 거짓을 이겼다. 하지만 크라머는 인쇄술을 통해 반격에 나섰다. 그가 쓴 <마녀의 망치>는 유럽 최고의 베스트셀러 중 하나가 되었다. 유럽은 마녀사냥의 광풍에 휩싸였다. 이 책에서 가장 흥미로웠던 이야기였다. 인쇄술의 등장은 순기능도 있었지만 이런 악기능도 있었다. 현재 인터넷, SNS도 마찬가지다. 기술은 항상 순기능과 역기능이 함께 존재한다. 기술을 잘 활용하는 게 중요하다. 원자력도 AI도.

 마녀사냥꾼들은 악마와 그 공범들을 찾아내기 위해 눈에 불을 켜고 수색했다. 하지만 마녀사냥꾼들이 정말로 악마의 악행을 찾고 싶었다면 거울을 들여다보기만 하면 됐을 것이다. -p162 

 이 책에서 가장 매력적인 문장이 아니었나 싶다.

 이 고위 관리는 뷔르츠부르크에 벌어지고 있는 광란의 마녀사냥을 지켜보는 끔찍한 심정을 털어놓은 후, 그럼에도 불구하고 사탄을 숭배하는 마녀들의 음모가 실제로 존재한다는 확고한 믿음을 표명했다. 그는 마법을 직접 목격하지 않았지만, 마녀에 대한 무수히 많은 정보가 유포되고 있었기 때문에 모든 것을 의심하기는 어려웠다. -p166 

 1629년 8월, 독일 남부 도시인 뷔르츠부르크의 대주교를 보좌하는 한 고위 관리가 친구에게 보낸 편지가 있다. 이 도시에서 약 1만 1,500명의 인구 가운데 1,200명이 고문을 당하고 처형되었다. 10분의 1에 달하는 인구다. 고위 관리는 이 비극을 슬퍼하며 의구심을 갖는다. 하지만 다른 도시에서는 사탄과, 마녀에 대한 음모가 실제로 존재한다는 확고한 믿음을 표명한다. 아이러니가 아닐 수 없다.

 인쇄술과 마녀사냥의 역사에서 알 수 있듯이, 정보 시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다. 자유로운 정보 시장에서는 진실보다는 분노가 우세할 가능성이 높기 때문이다. 진실이 승리하려면, 균형추를 '팩트' 쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다. -p168

 과학혁명에 핵심적인 역할을 한 큐레이션 기관들은 대학 안팎의 학자들과 연구자들을 연결하여 유럽 전체, 결국에는 전 세계를 잇는 정보 네트워크를 구축했다. -p169 

 생태계와 마찬가지로 자정장치가 중요하다. 과학은 그런 기능을 잘 수행하고 있다.

 로마제국의 규모와 당시의 정보 기술을 고려하면 민주주의는 단순히 불가능했다. -p221

 하지만 현대 정보 기술이 등장하기 전에는 어디서도 대규모 민주주의가 실행된 예가 없다. -p222 

 대규모 민주주의가 실행되기 위해서는 현대 정보 기술이 필요했다.

 <넥서스>는 작년에 읽었던 책인데 다시 정리하고 있다. 유발 하라리의 책들은 훗날 다시 읽어보고 싶다. 

최고의 역사 교양서

사피엔스 : 그래픽 히스토리 Vol.3 - 역사의 배후 ㅣ 사피엔스 : 그래픽 히스토리 3
다니엘 카사나브 그림, 김명주 옮김, 유발 하라리 원작, 다비드 반데르묄렝 각색 / 김영사 / 2024년 4월

 유발 하라리는 <사피엔스>로 단 번에 세계적인 작가이자 역사가로 우뚝 섰다. <사피엔스>를 어린이들도 볼 수 있게 그래픽노블로 각색해서 현재 3권까지 출간 되었다. 1권부터 3권까지 너무 즐겁게 읽었다. 예전에 2권을 읽었을 때도 3권 언제 기다리지 했는데 3권을 읽은 지금 그 때와 비슷한 마음이다. 4권 언제 기다리지.

 3권은 '역사의 배후' 편이다. 역사를 지해하는 배후세력 세 가지가 나온다. 제국, 돈, 종교. 세 가지 관점으로 역사를 꿰뚤어 볼 수 있어 흥미로웠다.

 그래픽노블의 장점을 잘 살렸다. 연출이 좋다. 시각적으로 보여줘서 좋았다. 예를 들면 과거의 왕이 자신이 세계를 정복했다고 하는 장면이 나온다. 그 다음에 한 컷에 제국의 지도를 보여준다. 그리고 다음 컷에 세계 지도 속 제국의 지도를 보여준다. 그 왕은 자신이 세상을 전부 정복했다고 생각했지만 중동의 일부를 정복했을 뿐임을 보여준다. 

 예술작품을 오마주해서 보여주기도 한다. 아는 명화가 나와서 반가웠다.

 지적인 재미와 함께 시각적인 재미까지 함께 주는 실로 훌륭한 책이다.

 4권은 과학이 등장한다. 4권이 마지막일까? 5권은 AI, 유전자 조작기술 등이 나올까? 4권은 앞으로 몇 년을 기다려야할지 모르겠다. 2권과 3권의 텀이 2년 반 정도 된다. 앞으로 2년은 기다려야할까? 1권과 2권의 텀은 1년이다. 빠르면 1년 안에 만나볼 수 있을지도 모르겠다.

 4권을 기다리는 동안 <사피엔스 : 그래픽 히스토리 Vol.1>도 다시 보고, <넥서스>도 보고, <사피엔스>도 다시 읽고 하라리의 책들을 다시 읽어야겠다. 

<사피엔스 : 그래픽 히스토리> Vol.3 역사의 배후

 유발 하라리의 <사피엔스 그래픽 히스토리 Vol 3: 역사의 배후>입니다. <사피엔스>를 읽었을 때의 감동을 그대로 느낄 수 있습니다. 그는 최고의 역사학자입니다. 

 역사의 철칙 중 하나는, 필연적인 것처럼 보이는 일이 당시에는 전혀 예상 밖이었다는 겁니다. -p21 

 로마이 국교로 기독교가 공인된 것은 당시로서는 뜻밖의 일이었다. 로마는 300년 동안 자신을 따르지 않는 유대인을 탄압했다. 

 역사를 선과 악의 투쟁으로 보고 모든 제국을 악당으로 간주하며 제국의 유산을 완전히 거부해야 한다고 생각하기 쉬워요. 결국 모든 제국은 기본적으로 피비린내 나는 전쟁 위에 세워졌고, 권력을 유지하기 위해 잔인한 억압을 사용했어요. 하지만 만일 제국이 역사의 악당이라면, 우리는 모두 악당의 자식들이예요. -p122

 우리는 제국이 저지른 악행에 대해 비판하지만 제국이 남긴 좋은 유산에 대해서는 말하길 꺼려합니다. 당장 일본 식민지배가 우리나라에 남긴 좋은 유산을 말한다면 매국노 취급을 당할 것입니다. 로마 제국이 끼친 영향은 어마어마합니다. 물론 제국이 저지른 악행을 옹호하거나 정당하다고 말하는 것은 절대 아닙니다.

 예술가와 예술작품에 대해서도 비슷한 점이 있는 거 같습니다. 좋아했던 작품이지만 예술가의 도덕적 결함을 안 후로는 그 작품을 좋아하기가 어렵습니다. 그렇다고 훌륭한 작품을 부정하고 무시할 수도 없을 때가 있습니다. 

 제국은 공정할까요? 절대 그렇지 않습니다. 21세기에 새로운 제국을 건설해야 할까요? 아뇨, 조상들의 범죄를 반복할 필요는 없습니다. 하지만 제국은 역사의 경로를 주도했고, 우리의 정체성을 만들었습니다. 수천 년 동안 역사는 인류를 점점 더 통합하는 방향으로 움직여 왔어요. -p127

 이 책을 읽으면서 좋았던 점 중 하나는 연출이 좋았습니다. 확실히 시각적인 부분을 잘 활용하고 또한 상징적으로도 활용했습니다. 종교에 대한 이야기를 하기 전에 출연진들이 쉬면서 분장을 하면서 대화를 나누는 장면이 있습니다. 종교가 일종의 분장이라고 말하는 거 같았습니다. 

 고타마는 이 학순환에서 벗어날 방법이 있다는 걸 깨달았어요. 즐거움이나 고통을 겪을 때 그 상태를 있는 그대로 알아차리면 괴로움은 사라져요. 

 고타마: 기쁨을 느껴도 기쁨이 지속되거나 더 커지기를 바라지 않으면, 기쁨을 느끼면서도 마음의 평정을 잃지 않을 것이다. 슬픔을 느껴도 슬픔이 없어지기를 바라지 않으면, 슬프지만 그로 인해 괴롭지 않을 것이다. 슬픔을 슬픔으로, 기쁨을 기쁨으로, 고통을 고통으로 받아들임으로써 네 마음이 모든 걸 있는 그대로 받아들이게 하라. -p241 

 고타마: 갈망하지 않으면 괴롭지 않을 것이다. 번뇌는 갈망에서 온다. 번뇌에서 벗어나는 유일한 방법은 갈망에서 벗어나는 것이며, 갈망에서 벗어나는 유일한 방법은 현재 상태를 있는 그대로 알아차리는 훈련을 하는 것이다. -p243

 고타마 싯다르타의 말씀은 언제 들어도 좋습니다. 

 3권을 다 읽었습니다. 4권이 나올 때까지 어떻게 기다릴지 모르겠습니다. 갈망하지 말아야겠습니다. 차분히 <넥서스>를 읽어야겠습니다. 

인간은 어떻게 지구를 지배했을까?

멈출 수 없는 우리 1 - 인간은 어떻게 지구를 지배했을까 ㅣ 멈출 수 없는 우리 1
유발 하라리 지음, 리카르드 사플라나 루이스 그림, 김명주 옮김 / 주니어김영사 / 2023년 2월

 <사피엔스>의 저자 유발 하라리가 쓴 어린이를 위한 책이다. 어린이뿐 아니라 성인이 읽어도 훌륭한 책이라 생각한다. 유발 하라리는 동서고금의 역사학자를 통틀어 가장 뛰어난 역사학자가 아닐까 싶다. 역사를 꿰뚫는 통찰의 면에서는 단연 최고가 아닐까?

 스토리텔링 능력은 말할 것도 없다. 어린이들도 쉽고 재밌게 그의 이야기에 빠져들 수 있지 않을까 싶다. 세상에 이런 역사 학자가 또 있었나?

 제목도 참 잘 지었다. <멈출 수 없는 우리>. 역사의 수레바퀴는 좀 처럼 되돌리지 어렵다. 생물의 진화와 유사하다. 육상생활을 하다가 바다로 돌아간 동물은 고래 뿐이다. 역사는 통합의 길로 가고 있다. 세계는 점점 연결되고 있다. 자연파괴와 대멸종은 멈출 수 있겠지?

 1권은 인간이 어떻게 지구를 지배했는지 석기시대부터 농업혁명 이전까지의 이야기를 다루고 있다. 2권은 농업혁명 이후 어떻게 불평등이 시작되었는지를 다루고 있다. 

 보고 또 봐도 좋을 책이다. 3권도 출간될까? 시리즈가 계속 나왔으면 좋겠다.

 유발하라리의 <사피엔스 그래픽 히스토리> 3권을 재밌게 읽고 있다. <넥서스>도 읽고 있는데 얼른 이어서 읽어야겠다. <사피엔스>도 다시 읽고 싶다. 나의 최애 작가 중 한 분.