이야기하는 자아는 과거의 고통이 무의미했음을 인정하지 않기 위해 미래에도 계속 고통을 겪는 쪽을 택한다. (중략) 이제 우리는 이야기하는 자아 역시 국가, 신, 돈과 마찬가지로 상상 속 이야기임을 알 수 있다. 우리들 각자는 저마다 이야기를 지어내는 정교한 장치를 갖고 있는데, 그 장치는 경험의 대부분을 버리고, 고르고 고른 몇 가지 표본만 간직한다. 그리고 그것을 우리가 본 영화, 우리가 읽은 소설, 우리가 들은 연설, 우리가 음미한 몽상의 파편들과 뒤섞는다. 그런 다음에 그 뒤범벅 속에서 내가 누구이고 어디서 왔고 어디로 가는지에 관한 일관되어 보이는 이야기를 짜낸다. 이 이야기는 무엇을 사랑하고 누구를 증오하고 무엇을 할지 알려준다. 심지어 이 이야기는 줄거리에 필요하다면 내 목숨까지 희생시킨다. (중략) 하지만 이 모든 것은 결국 이야기일 뿐이다.
- P417
뇌의 생화학적 기제들이 한 순간의 경험을 일으키고, 그런 경험은 일어나는 순간 사라진다. 그런 다음 또 다른 순간적 경험들이 재빠르게 이어서 일어났다가 사라진다. 이런 순간적 경험들이 모두 더해져 지속되는 본질이 만들어지는 것도 아니다. 이야기하는 자아는 끝이 없는 이야기를 지어내어 이 혼돈에 질서를 부여하려 한다. 그런 경험들은 이 이야기 안에서 저마다 자기 자리를 갖고, 따라서 모든 경험이 지속되는 의미를 가진다. 하지만 아무리 설득력 있고 매력적일지라도 이 이야기는 결국 허구이다. 중세 십자군 전사들은 삶의 의미가 신과 천국에서 온다고 믿었고, 현대의 자유주의자들은 인생의 의미가 개인의 자유로운 선택에서 나온다고 믿는다. 하지만 둘 다 망상에 지나지 않는다.
- P418
21세기 경제의 가장 중요한 질문은 아마도 ‘그 모든 잉여 인간은 무엇을 해야 하는가’일 것이다. 거의 모든 것을 더 잘할 수 있는 높은 지능의 비의식적 알고리즘이 생긴다면, 의식을 가진 인간은 무엇을 할 것인가?
- P435
대박을 터뜨리는 기술을 개발한다면, 쓸모없는 대중이 아무것도 시도하지 않아도 그들을 먹이고 부양할 수 있을지도 모른다. 하지만 그들은 무엇에 몰입하고 만족할까? 사람은 뭐라도 해야지 그러지 않으면 미친다. 그들은 하루 종일 무엇을 할까? 약물과 컴퓨터 게임에서 한 가지 해법을 찾을 수 있을 것이다. 쓸모없는 사람들은 점점 더 많은 시간을 3D 가상현실 세계에서 보낼 것이고, 그 세계는 바깥의 따분한 현실보다 훨씬 더 흥미진진하고 정서적 몰입이 잘된다. 하지만 이런 상황은 인간의 생명과 경험이 신성하다고 믿는 자유주의적 신념에 치명타를 가할 것이다. 환상의 세계에서 가짜 경험에 빠져 시간을 보내는 쓸모없는 게으름뱅이들이 뭐가 신성한가?
- P447
인본주의는 노년이 지혜와 깨달음의 시기라는 환상을 심어준다. 인본주의가 생각하는 이상적인 노인은 몸은 비록 약하고 병에 걸렸어도 마음만은 빠릿빠릿하고 날카로우며, 80년간의 통찰을 가지고 있는 사람이다. 노인은 사리분별이 정확하고, 손자손녀와 그를 찾는 다른 사람들에게 언제나 훌륭한 조언을 해준다. 하지만 21세기의 80대 노인은 꼭 그렇지만은 않다. 인간의 생물학적 조건을 훨씬 잘 이해하게 된 덕분에, 의학은 우리의 마음과 ‘진정한 자아’가 해체되고 분해될 때까지 우리를 오래 살려둔다. 그렇게 해서 남는 것은 대체로 모니터, 컴퓨터, 펌프로 유지되는, 기능부전에 빠진 일군의 시스템들이다.
- P454
유럽 제국주의의 전성기에 스페인 정복자들과 상인들은 색깔 있는 구슬들을 주고 섬과 나라를 통째로 샀다. 21세기 대부분의 사람들이 여전히 가지고 있는 값진 자료는 아마 개인적 데이터베이스일 것이다. 그런데 우리는 겨우 이메일 서비스와 웃긴 동영상을 제공받는 대가로 첨단 기술기업에 그 데이터를 넘기고 있다.
- P467
지금까지 인간의 마음과 경험에 대한 대부분의 연구들은 서구의Western 많이 배우고Educated 산업화되고Industrialised 부유하고Rich 민주적인Democratic 사회에 사는 사람들WEIRD를 대상으로 실시되었다. 사실 이들은 인류를 대표하는 표본이 아니다. 지금까지 인간 마음에 대한 연구는 호모 사피엔스가 곧 호머 심슨이라고 가정했다.
- P485
설령 우리가 전 세계를 돌아다니며 모든 인간집단을 연구한다 해도, 사피엔스가 지닌 마음의 스펙트럼 가운데 한정된 일부밖에는 다루지 못할 것이다. 요즘은 모든 인간이 근대의 수혜를 받고 있으며, 우리는 모두 하나의 지구촌을 이루는 구성원들이다. 칼라하리 사막의 수렵채집인들이 하버드 대학교 심리학과 학생들보다 다소 전근대적이긴 할 테지만, 그렇다 해도 먼 과거에서 온 타임캡슐은 아니다. 그들 역시 그리스도교 선교사, 유럽 상인, 부유한 에코 투어리스트, 호기심 많은 인류학자들의 영향을 받았다. (칼라하리 사막에 사는 전형적인 수렵채집인 무리는 스무 명의 사냥꾼, 스무 명의 채집인, 쉰 명의 인류학자로 구성된다는 농담이 있을 정도이다.)
- P486
시스템은 다운그레이드된 사람들을 선호할 텐데 그것은 그런 사람들이 가지게 될 초인간의 특성 때문이 아니라, 그런 사람들은 시스템을 방해하고 속도를 떨어뜨리는 성가신 성질을 갖고 있지 않아서이다. 모든 농부들이 알고 있듯이, 염소 무리에서 가장 골치 아픈 존재는 대개 가장 똑똑한 염소이다. 농업혁명 과정에서 동물의 마음 능력을 떨어뜨리는 일이 반드시 필요했던 이유가 이것이다. 기술 인본주의자들이 꿈꾸는 두 번째 인지혁명은 똑같은 일을 우리에게 할 것이다. 즉 그 어느 때보다 효과적으로 데이터를 전달하고 처리할 수 있지만, 집중하고 꿈꾸고 의심하지 못하는 인간 톱니를 생산할 것이다. 수백만 년 동안 우리는 성능이 향상된 침팬지로 살았다. 그리고 미래에는 특대형 개미가 될지도 모른다.
- P497
정치과학자들도 인간의 정치구조를 점점 데이터 처리 시스템으로 해석한다. 자본주의와 공산주의처럼, 민주주의와 독재도 본질적으로는 정보를 수집하고 분석하는 경쟁 매커니즘이다. 독재는 중앙 집중식 처리 방법을 사용하는 반면, 민주주의는 분산식 처리를 선호한다. 지난 몇십 년 동안 민주주의가 우위를 점한 것은 20세기 후반의 독특한 조건 아래에서 분산식 처리가 더 잘 작동했기 때문이다. 다른 조건에서는, 예컨대 고대 로마제국에 널리 퍼져 있던 조건에서는 중앙 집중식 처리가 유리했ㄷ. 로마 공화국이 무너지고 권력이 원로원과 평민회에서 한 명의 전제적 황제에게 넘어간 것은 이 때문이다. 이런 역사적 사실은 21세기에 데이터 처리 조건이 다시 바뀌면 민주주의가 몰락하거나 사라질 수도 있음을 암시한다.
- P511
현재 기술은 너무나 빠르게 움직이고 있는데, 의회도 독재자들도 미처 다 처리할 수 없는 데이터 앞에서 어쩔 줄 모르고, 따라서 지금의 정치인들은 1세기 전의 정치인들보다 생각의 규모가 훨씬 작다. 그 결과 21세기 초에 정치는 장대한 비전을 잃었다. 정부는 단순히 행정부가 되었다. 정부는 나라를 운영할 뿐 이끌지 못한다. 교사들의 급여가 제때 지급되고 하수도가 넘치지 않게 할 뿐, 20년 뒤 나라가 어디로 갈지에 대해서는 아무 생각이 없다. 어느 정도까지는 이것이 좋다. 20세기의 거대한 정치적 비전들이 우리를 아우슈비츠, 히로시마, 대약진 운동으로 이끌었음을 생각하면, 근시안적인 관료들이 차라리 나을지도 모른다. 신 같은 기술과 과대망상증적 정치의 결합은 재앙의 레시피나 다름없다.
- P515
하지만 권력 공백은 오래가지 않는다. 21세기에 전통적인 정치 구조들이 유의미한 비전을 생산하기에 충분할 만큼 빨리 데이터를 처리하지 못한다면, 새롭고 더 효율적인 구조들이 진화해 그 자리를 채울 것이다. 그 새로운 구조들은 민주적인 것이든 독재적인 것이든, 이전의 어떤 정치제도와도 다를 것이다. 남은 질문은 누가 이 구조를 만들고 제어할 것인가 하는 점이다. 인류가 이 일을 맡지 못한다면 다른 누군가에게 기회가 주어질 것이다.
- P517
구태여 누가 나서서 사람들을 설득할 필요도 없을지 모른다. 특히 스무 살 이하라면 말이다. 사람들은 스스로 데이터 흐름의 일부가 되기를 바란다. 설령 그것이 자신의 사생활, 자율, 개인성을 포기하는 것을 의미한다 해도 상관없다.
- P527
전통적인 종교는 당신이 하는 모든 말과 행동은 우주적 규모의 장대한 계획의 일부이고, 신은 매순간 당신을 지켜보며 당신의 생각과 감정에 신경 쓴다고 말했다. 이제 데이터교는 당신의 모든 말과 행동은 거대한 데이터 흐름의 일부이고, 알고리즘은 항상 당신을 지켜보며 당신이 행동하고 느끼는 모든 것을 신경 쓴다고 말한다. 대부분의 사람들은 이것을 매우 흡족해한다. 진정한 신자들은 데이터 흐름과 연결이 끊기는 것을 인생의 의미 자체를 잃는 일로 생각한다. 내 행동이나 경험을 아무도 모르고, 그것이 전 지구적 정보교류에 아무 기여도 하지 못한다면, 뭔가를 하고 경험하는 것이 무슨 의미가 있는가?
- P529
당신이 인도에 가서 코끼리를 볼 경우, 당신은 코끼리를 보면서 ‘어떤 느낌이 드는지’ 자문하지 않는다. 당신은 스마트폰을 꺼내 코끼리 사진을 찍어 페이스북에 올린 뒤 2분마다 한 번씩 ‘좋아요’가 얼마나 많이 달렸는지 확인하느라 바쁠 것이다. 자기만의 일기장에 일기를 쓰는 것(이전 세대들이 흔히 했던 인본주의적 관습)은 요즘 많은 젊은이들에게는 완전히 쓸데없는 짓으로 보인다. 아무도 읽을 수 없는 것을 왜 쓰는가? 새로운 모토는 이렇게 말한다. "경험하면 기록하라. 기록하면 업로드하라. 업로드하면 공유하라."
- P530
로크, 흄, 볼테르 시대에 인본주의자들은 "신은 인간 상상력의 산물"이라고 주장했다. 이제 데이터교가 인본주의자들에게 그들이 한 대로 똑같이 돌려줄 차례이다. "신은 인간 상상력의 산물이지만, 인간 상상력은 생화학적 알고리즘의 산물이다." 18세기에 인본주의는 신 중심적 세계관에서 인간 중심적 세계관으로 이동함으로써 신을 밀어냈다. 21세기에 데이터교는 인간 중심적 세계관에서 데이터 중심적 세계관으로 이동함으로써 인간을 밀어낼 것이다.
- P534
"자신이 누구인지 알고 싶은가?" 데이터교가 묻는다. "그러면 산과 미술관은 잊어라. 유전자 염기서열을 분석해 봤는가?" (중략) "하루 24시간 혈압과 심박수를 측정해주는 웨어러블 생체측정 기기에 대해 들어본 적이 잇는가? 들어봤다니 다행이다. 그런 기기들 가운데 하나를 사서 착용하고 그것을 스마트폰과 연결해라. 또한 쇼핑하러 가거든 휴대용 카메라와 마이크를 사서 당신이 하는 모든 것을 기록해 온라인에 올려라. 또 구글과 페이스북이 당신의 모든 이메일을 읽고 당신의 모든 채팅과 메시지를 보고, 당신의 모든 ‘좋아요’와 당신이 클릭한 모든 것을 알 수 있도록 승인해라. 이 모든 것을 한다면, 만물인터넷의 위대한 알고리즘이 누구와 결혼하고, 어떤 직업을 선택하고, 전쟁을 해야 할지 말지 알려줄 것이다."
- P538
설령 데이터교가 착오이고 유기체는 단순히 알고리즘이 아니라 해도, 데이터교가 세계를 접수하지 못하리란 법은 없다. 이전의 많은 종교들도 사실적 오류에도 불구하고 엄청난 힘과 인기를 얻었다. 그리스도교와 공산주의가 할 있다면 데이터교는 왜 안 되는가? 데이터교는 현재 모든 과학 분과로 퍼지고 있다는 점에서 어느 종교보다 전망이 밝다. 통일된 과학 패러다임은 난공불락의 교의가 되기 쉽다.
- P540
만일 데이터교가 세계를 정복한다면 우리 인간에게 무슨 일이 일어날까? 처음에는 인본주의의 과제들인 건강, 행복, 힘의 추구가 가속화될 것이다. 데이터교는 이런 인본주의의 목표를 달성하겠다고 약속하면서 널리 퍼져나갈 것이다. 우리가 불멸, 행복, 신 같은 창조 능력을 얻기 위해서는 막대한 양의 데이터를 처리할 필요가 있는데, 그것은 인간의 뇌 용량을 벗어나는 일이다. 그러므로 결국 알고리즘들이 우리 대신 그 일을 할 것이다. 하지만 권한이 인간에게서 알고리즘으로 옮겨가는 즉시 인본주의 과제들은 폐기될 것이다. 우리가 인간 중심적 세계관을 버리고 데이터 중심적 세계관을 채택하는 즉시 인간의 건강과 행복은 보잘것없는 문제처럼 보일 것이다. 훨씬 더 나은 모델들이 존재하는데 왜 한물간 데이터 처리 기계에 신경을 쓰는가?
- P541
과거에 검열은 정보의 흐름을 차단하는 방식으로 작동했다. 그런데 21세기의 검열은 사람들에게 관계 없는 정보들을 쏟아붓는 방식으로 작동한다. 사람들은 무엇에 집중해야 하는지 모르고, 그래서 중요하지 않은 쟁점에 대해 조사하고 논쟁하느라 시간을 보내기 일쑤이다. 고대에는 힘이 있다는 것은 곧 데이터에 접근할 수 있다는 뜻이었다. 오늘날 힘이 있다는 것은 무엇을 무시해도 되는지 안다는 뜻이다. 그러면 이 혼돈의 세상에서 일어나는 모든 일 가운데 우리는 무엇에 초점을 맞춰야 할까?
- P543
우리가 생명이라는 실로 장대한 관점으로 본다면, 상호 관련된 다음의 세 과정 앞에서 다른 모든 문제와 상황들은 작게 보일 것이다.
1. 과학은 모든 것을 아우르는 하나의 교의로 수렴하고 있고, 이 교의에 따르면 유기체는 알고리즘이며 생명은 데이터 처리 과정이다.
2. 지능이 의식에서 분리되고 있다.
3. 의식은 없지만 지능이 매우 높은 알고리즘들이 곧 우리보다 우리 자신을 더 잘 알게 될 것이다.
- P544
그리고 이 세 과정은 세 가지 중요한 질문을 제기한다. 당신이 이 책을 덮은 뒤에도 이 질문들이 오랫동안 당신의 마음속에 남아 있기를 바란다.
1. 유기체는 단지 알고리즘이고, 생명은 실제로 데이터 처리 과정에 불과할까?
2. 지능과 의식 중에 무엇이 더 가치 있을까?
3. 의식은 없지만 지능이 매우 높은 알고리즘이 우리보다 우리 자신을 더 잘 알게 되면, 사회, 정치, 일상에 어떤 일이 일어날까?
- P544
|