[2025-25] 넥서스

넥서스 - 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사
유발 하라리 지음, 김명주 옮김 / 김영사 / 2024년 10월

제목 : 넥서스

작가 : 유발 하라리

출판사 : 김영사

읽은기간 : 2025/04/14 -2025/07/08

이렇게 오래 읽을 책은 아닌데 시간이 꽤 걸렸다. 

이 책은 회사에서 점심을 먹고 점심시간에 읽었는데 회사에서 점심약속이 많다보니 읽을 시간이 부족했다. 

정보에 대한 빅히스토리같은 책이고, 인공지능의 위험성과 인공지능의 발전에 따른 인류의 위험에 대해서 자세하게 기술이 되어 있다. 

인류를 능가하는 지능과 능력을 가진 존재의 출현은 당연히 두려울 수 밖에 없다. 

수많은 SF영화의 주제였으니까.. 

큰 문제가 없다면 인류는 인공지능을 적절하게 제어하면서 더 풍요로운 삶을 살게될 것이다. 그러나 그런 상태가 될 때까지 수많은 시행착오와 피해를 입는 인류가 나오겠지.. 

제발 내가 아니고 우리 가족이 그런 피해자가 아니길 빈다... 

크나큰 변화의 시기에 별일없이 사는게 얼마나 감사할 일인지 다시금 생각하게 한다.. 

p8 늙은 마법사가 돌아오자 제자는 도와달라고 애원한다. “제가 불러낸 영혼들, 이제 다시는 떨쳐낼 수 없군요” 마법사는 즉시 주문을 풀고 물난리를 멈춘다. 제자와 인류에게 주는 교훈은 분명하다. 통제할 수 없는 힘을 함부로 불러내면 안 된다.

p10 통제할 수 없는 힘을 물러내는 인간의 경향은 개인 심리에서 나오는 게 아니라 대규모로 협력하는 우리 종의 독특한 특징에서 비롯한다. 이 책의 핵심 논지는, 인간은 대규모 협력 네트워크를 구축함으로써 막대한 힘을 얻지만 바로 네트워크를 구축하는 그 방식 대문에 애초에 힘을 지헤롭게 사용하기가 쉽지 않다는 것이다.

p20 만일 21세기의 전체주의 네트워크가 세계 정복에 성공한다면, 그때 전체주의를 운영하는 주체는 인간 독재자가 아니라 비인간 지능일 것이다.

p21 AI는 스스로 정보를 처리할 수 있고 따라서 인간을 대신하여 결정을 내릴 수 있다. AI는 도구가 아니라 행위자다

p22 호모 데우스가 출간된 후 수년 동안 변화의 속도는 오직 가속화되었을 뿐이며, 힘은 실제로 인간에게서 알고리즘으로 이동하고 있따. 예술을 창조하고 인간인 척 가장하는 알고리즘, 우리 삶의 큰 영향을 미치는 중요한 결정을 내리고 우리에 대해 우리보다 더 많은 것을 아는 알고리즘처럼 2016년에는 과학소설처럼 들렸던 시나리오들이 2024년에 이르러 일상이 되었다.

p27 직접 연구한 것만 믿으라는 말은 어뜻 과학적으로 들리지만 사실상 객관적 진실은 존재하지 않는다는 말과 같다. 4장에서 살펴보겠지만, 과학은 개인적인 탐구가 아니라 제도적인 협업이다.

p31 역사에 대한 깊은 지식은 현재의 정보 기술이 AI의 무엇이 새로운지, 그것이 과거의 인쇄술이나 라디오와 어떻게 근본적으로 다른지, 그리고 미래의 AI 독재가 어떤 면에서 우리가 과거에 본 어떤 것과도 완전히 다를 수 있는지 이해하는 데도 중요하다.

p43 나는 순진한 정보관에 대해 많은 문제를 제기하지만, 진실이 현실을 정화하게 표현하는 것이라는 점에는 동의한다. 하지만 이 책의 입장은 정보의 대부분은 현실을 재현하려는 시도가 아니며 정보를 정의하는 기준은 완전히 다른 무언가라는 것이다.

p61 브랜드는 특정 종류의 이야기다. 상품을 브랜딩한다는 것은 그 상품에 대한 이야기를 들려준다는 뜻이다. 이야기는 상품의 실제 품질과는 거의 관계가 없지만 소비자들은 그것을 듣고 해당 상품을 떠올린다.

p68 2010년에 라스즐로 핸예츠가 1만 비트코인으로 피자 2판을 샀다. 그것은 비트코인으로 이루어진 최초의 공식적인 상거래였고, 이제와 생각해보면 세상에서 가장 비싼 피자였다.

p73 마르크스주의 관점은 냉소적일 뿐만 아니라 틀렸다. 물질적 이해관계가 십자군 전쟁, 제1차 세계대전, 이라크 전쟁 등 인간의 분쟁들 대부분에 중요한 역할을 한 것을 분명하지만, 그렇다고 종교, 민족주의 자유주의 이상이 아무 역할도 하지 않은 건 아니다.

p81 미국 헌법은 우리 합중국 국민은이라고 시작한다. 인간이 작성한 것임을 인정함으로써 수정할 권한을 인간에게 부여한다. 십계명은 “너희 하나님은 나 야훼다”로 시작한다. 즉 신적 기원을 주장함으로써 인간이 수정할 여지를 차단한다. 그 결과 성경 텍스트는 지금도 여전히 노예제를 지지한다.

p100 또한 관료들은 현실을 경직된 사람으로 나누는 데 급급하기 때문에, 자신들의 행동이 미칠 광범위한 영향은 고려하지 못하고 좁은 목표를 추구하게 된다.

p102 진화는 관료주의적 도식에 잘 들어맞지 않는다. 진화의 핵심은 종이 끊임없이 변한다는 것이므로, 각각의 종을 하나의 고정된 사람에 넣는다는 사실 자체가 생물학적 현실을 왜곡하는 것이다.

p116 대부분의 할리우드와 발리우드 블록버스터는 부채담보부증권을 다루지 않는다. 오히려 21세기에도 대부분의 블록버스터는 사실상 영웅이 여자를 구하기 위해 괴물과 싸우는 석기시대 이야기다.

p140 미시나가 정경화되어 사본이 만들어지자마자 유대인들은 미시나의 올바른 해석을 두고 논쟁하기 시작했다. 마침내 미시나의 해석에 대한 합의가 이루어져 5,6세기에 세 번째 거룩한 책 탈무드로 정경화되었지만, 유대인들은 또다시 탈무드의 해석에 동의하지 못했다.

p1 마법에 대한 중세 교회의 공식 입장이 담긴 문서로 자주 인용되는 10세기 문헌 종교법령에 따르면, 마법으로 일컬어지는 것은 대부분 환상이며 마법에 대한 믿음은 기독교 교리에 어긋나는 미신이었다. 유럽의 마녀사냥 광풍은 중세적 현상이라기보다는 근대적 현상이었다.

p167 근대초 유럽을 휩쓴 마녀 광풍의 역사는 정보 흐름의 장벽을 없앤다고 해서 진실된 정보가 확산된다는 보장은 없다는 것을 보여준다. 거짓과 환상이 확산되어 유해한 정보 생태계가 만들어지기도 그만큼이나 쉽다.

p179 과학이 비교적 빠른 속도로 발전하고 있는 것은 제도적 실수를 기꺼이 시인하는 태도 덕분이다. 일단 증거가 확인되면 정설로 인정되던 이론이 몇 세대 내에 폐기되고 새로운 이론으로 대체된다. 21세기 초 대학에서 생물학, 인류학, 역사학을 전공하는 학생들이 배우는 내용은 한 세기 전에 배웠던 것과는 판이하게 다르다.

p190 독재는 강력한 자정 장치가 없는 중앙 집중화된 정보 네트워크다. 반면 민주주의는 강력한 자정 장치를 갖춘 분산된 정보네트워크다.

p193 민주주의는 숫자와는 아무 관계가 없다. 정치적 견해가 다르다고 권리를 박탈하는 것은민주적 네트워크에 필수적인 자정 장치 중 하나를 해체하는 것과 같다.

p197 정부가 누군가를 죽이지는 않지만 그렇다고 살인으로부터 시민을 보호하기 위해 아무 노력도 하지 않는다면 그것은 민주주의가 아니라 무정부 상태일 것이다

p203 포퓰리스트들은 표를 많이 받지 못해도 여전히 자신들만이 국민을 대변한다고 믿는다. 유사 사례로 공산당을 들 수 있다.

p205 그렇다면 누가 국민이고 누가 국민이 아닌지를 어떻게 알 수 있을까? 간단하다. 지도자를 지지하면 국민이다. 독일 정치철학자 얀베르나 뮐러에 따르면 그것이 포퓰리즘의 핵심이다. 즉 포퓰리스트는 자신만이 국민을 대변하며 의견이 다른 사람은 누구든 (국가 관료든, 소수 집단이든, 심지어 과반수의 투표자일지라도) 허위의식을 가지고 있거나 진짜 국민이 아니라고 주장하는 사람들이다.

p232 2장에서 언급했듯이 건국의 아버지들은 노예제를 지지하고 여성에게 투표권을 주지 않는 등 엄청난 실수를 범했지만, 동시에 후손들이 이런 실수를 바로잡을 수 있는 도구를 제공했다. 이것야말로 그들의 가장 위대한 유산이다.

p236 전체주의는 전국의 모든 사람이 매일 매 순간 무엇을 하고 무슨 말을 하는지 통제하려는 시도다. 심지어 무슨 생각을 하고 어떤 기분을 느끼는지도 통제할 수 있다.

p244 전체주의의 세 부분은 병렬적으로 운영되었다. 민주주의가 서로를 견제하는 중첩되는 자정 장치를 둠으로써 유지되듯이, 현대 전체주의는 서로를 통제하는 중첩되는 감시 장치를 두었다.

p255 백해-발트해 운하 건설과 북극 지역 광산 개발 등 수많은 악명 높은 국책 사업이 수백만 죄수들의 노동력으로 달성되었는데, 그중 상당수가 쿨라크였다. 이는 역사상 가장 신속하고 큰 규모로 진행된 노예화 작전 중 하나였다.

p265 나는 2019년에 체르노빌을 둘러보러 갔을 당시 원전 사고의 원인을 설명하던 우크라이나인 가이드가 한 말을 잊을 수가 없다. “미국인은 질문을 하면 답을 들을 수 있다는 생각을 가지고 자라지만, 소련 시민들은 질문을 하면 곤란에 처한다는 생각을 가지고 자랐습니다”

p273 스탈린주의는 연민이라고는 찾아볼 수 없으며 진실을 무자비하게 짓밟았음에도 불구하고, 아니 어쩌면 그 덕분에 거대한 규모의 질서를 월등히 효율적으로 관리할 수 있었다.

p280 21세기에 정치가 분열된다면, 민주주의와 전체주의 사이의 분열이 아니라 인간과 비인간 사이의 분열이 될 것이다. 새로운 실리콘 장막은 민주주의 체제를 전체주의 체제와 분리하는 대신, 모든 인류를 불가해한 알고리즘 지배자와 분리할 것이다.

p288 미얀마 인구의 90퍼센트에 육박하는 불교도들은 자신들이 쫓겨나거나 소수 집단이 될까봐 두려워했다. 이런 선전 공세가 없었다면, 조직도 제대로 갖춰지지 않은 ARSA의 몇 차례 공격에 전체 로힝야족을 겨냥한 총력전으로 맞대응할 이유가 없었을 것이다. 페이스북 알고리즘은 그런 선전 활동에 중요한 역할을 했다.

p290 알고리즘은 사용자들의 뉴스 피드 상단에 무엇을 배치할지, 어떤 콘텐츠를 홍보할지, 어느 페이스북 그룹에 가입하라고 추천할지 결정했다. p292 알고리즘은 수백만 사용자들을 대상으로 실험하면서 분노가 참여도를 높인다는 사실을 알아냈다. 인간은 자비를 가르치는 법문보다 증오로 가득한 음모론에 더 끌리는 경향이 있다. 따라서 알고리즘은 사용자 참여도를 늘리기 위해 분노를 퍼뜨리는 운명적인 결정을 내렸다

p293 기계가 이렇게 스스로 학습하고 행동할 수 있는 능력을 보이는 것이 AI의 특징이다. 알고리즘의 책임이 단 1퍼센트라 해도, 이 사건은 비인간지능이 내린 결정 때문에 일어난 사상 최초의 민족 청소 운동이다.

p296 의식이 없는 페이스북 알고리즘도 더 많은 사람들이 페이스북에서 더 많은 시간을 보내게 만들겠다는 목표를 가질 수 있다. 그런 다음 목표를 달성하는 데 도움이 된다면 터무니없는 음모론을 의도적으로 퍼뜨리기로 결정할 수 있다.

p302 컴퓨터는 관료제에 능통해서, 자동으로 법안을 작성하고 법률 위반을 감시하고, 법적 허점을 찾아내는데 초인적 효율성을 발휘할 수 있다.

p314 단순한 비유로, 우리가 지금 인류가 축축한 점토에 막대기로 기호를 새기는 방법을 처음 생각해낸 지 80년이 된 고대 메소포타미아에 있다고 상상해보자. 그 시점에 우리가 알렉산드리아 도서관, 성경의 히미, 소련 NKVD의 기록 보관소를 떠올릴 수 있었을까?

p317 앞선 논의에서 명백히 확인된 이유들 대문에 이제는 AI를 이질적인 지능의 약자로 간주하는 것이 더 나을지도 모른다. AI는 진화함에 따라 (인간 설계에 대한 의존도 측면에서) 덜 인공적이 되고 더 이질적으로 변한다

p320 2022년에 최고 기술 기업들은 미국에 로비하는 비용으로 거의 7,000만 달러를 썼고, 유럽연합 기관에 로비하는 비용으로 1억 1,300만 유로를 썼다. 이는 석유 회사와 제약 회사가 지출한 로비 비용을 앞지르는 액수다.

p327 컴퓨터 과학을 전공한 졸업생 중 제2의 오드리 탕이 되고 싶어 하는 사람의 몇 배 많은 사람들이 제2의 잡스, 저커버그, 머스크가 되어 수십억 달러 규모의 민간 기업을 창업하고 싶어 할 것이다.

p340 오늘날 스마트폰은 때때로 그렇게 한다. 게다가 이오시페스쿠가 뉴스를 읽고, 친구와 잡담을 나누고, 먹을거리를 사는 것처럼 컴퓨터의 도움 없이 했던 활동들 가운데 상당 부분이 지금은 온라인으로 이루어지기 때문에, 네트워크는 우리가 뭘하고 무슨 말을 하는지 훨씬 알아내기 쉽다.

p347 인간의 뇌 안에서 데이터를 수집하는 것은 점점 실현 가능한 일이 되고 있지만, 그러한 데이터를 인간의 비밀을 해독하는 데 사용하려면 아직 갈 길이 멀다

p331 FBI는 차량 번호판이 찍힌 영상을 토대로, 뉴욕에 사는 한 남성이 1월 6일 아침 6시 6분 8초에 헨리 허드슨 브리지를 건건 순간부터 그날 밤 23시 59분 22초에 조지 워싱턴 브리지를 건너 집으로 돌아갈 때까지의 동선을 정확히 파악했다.

p359 트립어드바이저는 카메라나 스파이웨어에 투자할 필요도, 고도로 정교한 생체 인식 알고리즘을 개발할 필요도 없다. 수백만 명의 인간 이용자들이 회사 운영에 필요한 거의 모든 데이터를 제공하고 거의 모든 업무를 수행한다. 트립어드바이저 알고리즘이 하는 일은 인간이 매긴 점수를 집계하여 웹에 게시하는 것뿐이다.

p362 돈으로 살 수 없는 것들을 점수화하기 위한 비화폐 시스템이 존재했는데, 이것은 명예, 지위, 평판 등 다양한 이름으로 불렸다. 사회신용 시스템의 목적은 평판 시장에서 가치를 평가하는 방법을 표준화하는 것이다.

p364 사회신용 시스템은 전체주의적 통제 시스템이 될 가능성이 있다.

p370 양자역학에서는 아원자 입자를 관찰하는 행위가 입자의 행동을 바꾼다. 인간의 관찰 행위도 마찬가지다. 관찰 도구가 강력해질수록 영향력도 커진다.

p372 관심을 놓고 경쟁하는 유튜버들은 거짓말로 가득한 터무니없는 영상을 올리면 알고리즘이 수많은 이용자에게 그것을 추천해주고 따라서 인기와 수익을 얻을 수 있다는 사실을 알게 되었다. 반대로 분노의 강도를 낮추고 진실을 보여주면 알고리즘은 그것을 무시하는 경향이 있었다. 알고리즘이 이런 식으로 강화 학습을 제공한 지 몇 달 만에 많은 유튜버가 트롤로 변신했다.

p379 저울을 진실 쪽으로 기울이려면, 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다. 이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다.

p381 인스턴트 아티클이 출시되자 “미얀마에서 하루아침에 낚시성 콘텐츠를 만드는 사람들이 우후죽순 생겨났다. 자극적인 흥미 유발용 콘텐츠를 만드는 레시피만 알면 페이스북으로부터 매달 수천 달러의 광고 수익을 창출할 수 있었다. 이는 평균 월급의 열 배에 달하는 금액이다.

p386 나폴레옹은 기존의 구조를 해체하여 독일인들과 이탈리아인들에게 민족 통합의 경험을 맛보게 함으로써 의도치 않게 독일과 이탈리아의 최종 통합을 위한 토대를 마련했다.

p390 보스트롬이 지적하고 싶었던 점은 컴퓨터의 문제는 특별히 사악하다는 것이 아니라 특별히 강력하다는 데 있다는 것이었다. 그리고 컴퓨터가 강력해질수록 우리가 컴퓨터의 목표를 정의할 때 궁극적인 목표에 정확히 부합하도록 신중을 기해야 한다는 것이다.

p391 보스트롬의 사고실험은 컴퓨터의 경우 정렬 문제를 해결하는 것이 더욱 시급한 두 번째 이유를 강조한다. 컴퓨터는 유기체가 아니기 때문에 어떤 사람의 머릿속에도 떠오른 적이 없어서 우리가 미연에 방지할 수 없는 전략들을 채택할 가능성이 높다

p392 목표는 B인데 A에 보상을 제공하는 것, 바로 이것이 정렬 문제의 본질이다. 사회적 이익을 극대화하는 것이 목표라면, 이용자 참여를 극대화하는 행위에 보상을 제공하는 것은 좋지 않은 생각이다.

p394 컴퓨터 네트워크의 궁극적 목표에 대해 사전에 합의하는 것이 왜 불가능한지 이해하기 위해 클아우제비츠의 전쟁론으로 다시 돌아가보자. 합리성을 부합성과 동일시하는 그의 논리에는 한 가지 치명적인 결함이 있다. 클라우제비츠의 이론은 모든 행동은 궁극적 목표에 부합해야 한다고 요구하지만 그런 목표를 정의하는 합리적인 방법을 전혀 제시하지 않는다.

p404 동성애는 자연 질서에 위배되며 인간을 인간답지 않게 만든다는 견해는 아이히만 같은 나치가 강제수용소의 동성애자들을 살해나는 것을 정당화할 수 있는 길을 열어주었다. 동성애자들은 동물보다 낮은 수준으로 여겨졌기 때문에 인간을 살해하며 안 된다는 칸트의 보편 법칙은 동성애자들에게는 적용되지 않았다.

p417 이 시스템은 친사회적 행동과 반사회적 행동을 정확히 어떻게 정의할까? 만일 정부 정책을 비판하거나, 외국 문헌을 읽거나, 소수 종교를 믿거나, 종교가 없거나 저신용자들과 어울릴 때마다 신용 점수를 차감한다면 어떤 일이 벌어질까?

p418 안타깝게도, 수많은 연구는 컴퓨터도 대개 뿌리 깊은 자체 편향을 가지고 있다느 ㄴ사실을 보여주었다. 컴퓨터는 생물학적 존재가 아니며, 의식도 없지만, 디지털 마음과 비슷한 무언가를 가지고 있으며, 심지어는 일종의 상호 컴퓨터 신화도 가지고 있다.

p423 불행히도 실제 회사들이 이미 어떤 종류의 편향에 물들어 있다면, 아기 알고리즘은 이런 편향을 학습하고 심지어 증폭할 것이다. 예를 들어 실제 데이터를 통해 좋은 직원의 패턴을 찾으며 학습한 알고리즘은 다른 조건이야 어떻든 사장의 조카를 채용하면 된다는 결론에 이를지도 모른다. 사장의 조카가 지원하면 대개는 채용되며 거의 해고되지 않는다는 것을 데이터가 분명히 보여주기 때문이다.

p433 신기술의 긍정적인 면이 부정적인 면보다 클지라도, 해피엔딩에 이르는 길에는 많은 시행착오와 우여곡절이 따른다. 새로운 기술은 종종 역사적 재앙으로 이어지는데, 이는 그 기술이 본질적으로 나빠서가 아니라, 인간이 그것을 지혜롭게 사용하는 방법을 학습하는 데는 시간이 걸리기 때문이다.

p436 인류 문명의 생존도 위태롭다. 우리가 생태적으로도 지속 가능한 산업사회를 건설한 능력은 아직 없어 보이므로, 지금의 인류 세대가 그토록 자랑하는 번영은 다른 생명체와 미래 인류 세대의 희생이라는 끔직한 대가를 치르고 얻은 것이다.

p449 설거지나 간호가 영원히 자동화될 수 없다는 것을 뜻하지 않는다. 그보다는 2050년에 일자리를 구하는 사람들은 지적 능력 못지 않게 운동 능력과 사회성에도 투자해야 한다는 것을 암시한다.

p457 트럼프 지지자들은 기존 제도가 제대로 작동하고 있지 않으므로 그것을 파괴하고 완전히 새로운 구조를 처음부터 새로 건설하는 것 외에는 대안이 없다고 설명할 것이다. 하지만 이 관점이 옳든 그르든, 이는 보수주의가 아니라 사실상 혁명이다. 보수의 자멸에 진보는 경악했고, 미국 민주당 같은 진보 정당들은 구질서와 기존 제도를 수호하는 역할을 떠맡게 되었다.

p464 COMPAS 알고리즘은 노스포인트사의 사적 자산이었는데, 회사는 알고리즘의 방법론이 영업 비밀이라고 주장했다. 하지만 알고리즘이 어떻게 그 결정을 내렸는지 모른다면 루미스나 판사가 그 알고리즘이 편향이나 오류가 없는 신뢰할 수 있는 도구라고 어떻게 확신할 수 있을까?

p467 너무 이례적인 수라서 이세돌은 응수하기까지 15분이나 걸렸고 심지어 자리에서 일어나 바깥에서 걷기까지 했다. 통제실에서 지켜보던 우리는 그 긴장이 비현실적으로 느껴졌다. 하지만 종반전으로 접어들면서 실수처럼 보였던 수가 결정적인 수였다는 것이 밝혀졌다.

p483 화폐 위조에 적용되는 원칙이 인간을 위조하는 경우에도 똑같이 적용되어야 한다. 정부가 화폐에 대한 신뢰를 유지하기 위해 단호한 조치를 취한다면, 인간에 대한 신뢰를 유지하기 위해서도 똑같이 단호한 조치를 취하는 것이 합리적이다.

p490 머신러닝 알고리즘이 등장했다. 이 기술이야말로 전 세게의 스탈린들이 기다렸던 것인지도 모른다. AI는 기술적으로 힘의 균형을 전체주의에 유리하게 기울일 수 있다. 실제로 정보가 밀려들 때 인간은 압도되어 오류를 범하는 경향이 있지만, AI는 효율이 높아지는 경향이 있다. 따라서 AI는 정보와 의사 결정을 한 곳에 집중하는 것을 선호하는 것처럼 보인다.

p496 일전에 체르노빌에서 만난 우크라이나 가이드가 내게 말했듯이, 전체주의 국가의 국민은 질문하면 고난에 처한다는 생각을 가지고 자란다. 하지만 ‘질문하면 곤란에 처한다’는 원리에 따라 알고리즘을 훈련한다면 알고리즘이 어떻게 학습하고 발전할 수 있을까?

p498 위대한 지도자는 감시 및 안보 알고리즘에게 너무 많은 권한을 부여한 결과 이러지도 저러지도 못하는 상황에 처했다. 알고리즘을 믿지 않으면 국방 장관에게 암살당할 수 있지만, 그렇다고 알고리즘을 믿고 국방 장관을 숙청하면 알고리즘의 꼭두각시가 된다.

p508 카타르 같은 다른 소규모 국가들은 지정학 무대에서 중요한 역할을 하는 국가로 자리매김했다. 카타르는 인구가 겨우 30만 명에 불과하지만 그럼에도 중동에서 야심 찬 외교 목표를 추구하며 세계경제에 엄청난 영향력을 행사하고 있고, 아랍 세계에서 가장 영향력 있는 텔레비전 네트워크인 알자지라의 본거지이기도 하다.

p514 이스라엘은 이를 이용해 이스라엘 군이 점령지에서 팔레스타인 사람들의 얼굴을 인식하는 데 사용할 레드 울프, 블루 울프, 울프팩 같은 앱들을 개발했다. 이란에서는, 고양이 이미지를 인식하는 기술이 히잡 법 집행을 위해 히잡을 쓰지 않은 여성을 자동 인식할 수 있는 알고리즘을 만드는 데 활용되었다.

p531 나는 생활과 관계의 대부분을 온라인으로 옮김으로써, 중력에 의해 활동을 제약받고 불완전한 육체에 시달려야 하는 유기적 세게에서 벗어나 디지털 세계의 무한한 가능성을 누릴 수 있다. 이곳은 생물학 법칙과 심지어는 물리 법칙으로부터도 자유로울 수 있다.

p545 2010년대 대부분의 사람들에게는 의료 예산이 국방 예산보다 많다는 사실이 특별한 것이 아니었다. 하지만 이는 인간의 행동에 큰 변화가 일어난 결과였으며, 이전 세대에게는 불가능한 이야기로 들렸을거다

p551 냉소적인 사람들은 탄 슈웨와 네타냐후가 역사적 사실에는 거의 관심이 없고 모종의 정치적 목표를 달성하기 위해 사실을 고의적으로 왜곡하고 있었다고 주장할지도 모른다. 하지만 정치적 목표야말로 역사에 대한 깊은 신념에서 나온다

p556 세금 기록, 거룩한 책, 정치 선언문, 비밀경찰 파일 들은 강력한 교회를 만드는 데 매우 효과적일 수 있지만, 이런 강력한 정보 네트워크는 왜곡된 세계관을 가지고 권력을 남용하기 쉽다. 아이러니하게도, 때로는 정보가 많아질수록 마녀사냥이 극성을 부리기 싶다.

p560 정글의 법칙이 신화인 것처럼, 역사의 호가 정의를 향해 휘어진다는 생각도 신화다. 역사는 여러 방향으로 휘어져 매우 다른 목적지에 도달할 수 있는, 철저히 열려있는 원호다

p568 하라리의 가장 큰 걱정은 이런 낯선 지능이 우리의 의사 결정 과정에 참여하는 것이다.

p571 하라리는 흥미진진한 글로 독자를 몰입시키지만, 정작 자신은 세속적인 생활과 거리를 두고 있는 듯한 느낌을 준다. 그는 스마트폰을 사용하지 않고, 매일 두 시간씩 명상하며, 매년 한 달 이상 수행하며 침묵을 지킨다.