민주주의는 다음과 같은 에이브러햄 링컨의 원칙위에 서 있다. "모든 국민을 잠시 속일 수 있고, 일부 국민을 늘 속일 수 있어도, 모든 국민을 늘 속일 수는 없다." 정부가 부패해서 국민 생활을 개선하지 못하면, 결국 그 사실을 깨닫는 사람이 많아지면서 정부를 대체할 것이기 때문이다.
하지만 정부가 언론을 통제하는 상황에서는 링컨의 논리는 힘을 잃는다. 시민이 진실을 알지 못하도록 막기 때문이다. 집권 과두제는 언론 독점을 통해 모든정책 실패를 반복해서 남 탓으로 전가하고 국민의 관심을 외부 위협 - 실제든 상상이든 - 으로 돌릴 수 있다. - P34
하지만 자유주의는 우리가 당면한 가장 큰 문제들에 대해서는 명확한 답이 없다. 생태학적 붕괴와 기술적 파괴라는 문제 말이다. 자유주의는 전통적으로 경제 성장에 의지해 어려운 사회적, 정치적갈등을 마술처럼 해결했다. - P39
현재 인류가 이런 질문들에 대해 어떤 합의를 이루기란 요원해이렇게 말해보라. "아니야, 그건 아니야. 사실은 내가 세상이 어떻보인다. 우리는 여전히 환멸과 분노의 허무주의적 순간 속에 있다.
사람들은 옛 이야기에 대한 믿음을 잃었지만 새로운 것을 수용하는데는 이르지 못했다. 그래서 그다음은 무엇이란 말인가? 그 첫걸음은 어둠의 예언을 진정시키고, 공황 상태에서 당혹으로 전환하는것이다. 공황도 일종의 오만이다. 이것은 세계가 어느 방향으로 가고 있는지 ㅡ 나쁜 방향이라는 것을 - 정확히 안다는 우쭐한 느낌에서 나온다. 당혹은 보다 겸허하다. 그래서 보다 명민하다. 만약 거리로 달려 나가 "종말의 날이 왔다!"라고 외치고 싶다면, 자신에게 이렇게 말해보라 "아니야 그건 아니야. 사실은 내가 세상이 어떻게 돌아가는지 이해하지 못하는 것뿐이야." - P41
인간에게는 두 가지 유형의 능력이 있다. 육체적 능력과 인지적나 확고한 우위를 유지할 제3의 활동 영역을 알지 못한다.
능력이다. 과거 기계가 인간과 경쟁한 것은 주로 순수 육체적 능력에서였다. 반면에 인간은 인지력에서 기계보다 월등하게 유리했다.
그 결과, 농업과 산업 분야의 수작업은 모두 자동화되었지만, 인간에게만 있는 인지적 기술이 필요한 새로운 서비스직들이 생겨났다.
인간만의 인지적 기술이란 학습과 분석, 의사소통, 무엇보다 인간감정을 이해하는 능력을 말한다. 그렇지만 AI는 이제 이런 기술에서도 점점 인간을 추월하고 있다. 여기에는 인간 감정의 이해까지 포함된다. 우리는 육체적 능력과 인지적 능력을 넘어, 인간이 언제까지
나 확고한 우위를 유지할 제3의 활동 영역을 알지 못한다. - P45
지난 수십 년 신경과학과 행동경제학 같은 분야에서 이룩한 연구를 통해 과학자들은 인간을 해킹할 수 있는 수준에 이르렀다. 특히인간의 의사 결정 과정에 대한 이해가 이전보다 훨씬 좋아졌다. 그결과 음식부터 배우자에 이르기까지 모든 것에 대한 우리의 선택이어떤 신비로운 자유 의지가 아니라 아주 짧은 순간에 확률을 계산하는 수십억 개의 뉴런에서 비롯하는 것임을 알게 됐다. ‘인간의 직관‘이라고 과시해온 것이 사실은 ‘패턴 인식‘으로 드러난 것이다.
좋은 운전사, 은행원, 변호사라고 해서 교통이나 투자, 협상에 관한마술적 직관이 있는 것이 아니라, 반복되는 패턴을 인식함으로써부주의한 보행자나 부적격 대출자, 부정직한 사기꾼을 알아보고 피할 뿐이다. - P47
그렇다면 2050년 고용 시장은 인간-AI의 경쟁보다는 상호 협력이 두드러진 형태가 될 가능성이 높다. 경찰부터 은행 업무에 이르기까지 인간과 AI가 한 팀을 이루면서 인간과 컴퓨터 모두를 능가할 수 있을 것이다. - P59
특히 로널드 레이건과 마거릿 대처 같은 우파 영웅은 경제 활동의 자유뿐만 아니라 개인의 자유도 열렬히 수호했다는 점을 기억하는 것이 중요하다. 1987년 유명한 인터뷰에서 대처는 이렇게 말했다. "사회 같은 것은 없다. 실재하는 것은 남자들과 여자들의 살아있는 태피스트리다. 우리 삶의 질은 서로가 자신에 대해 얼마나 책임질 준비가 돼 있느냐에 좌우될 것이다." - P82
사람들은 대부분 자신을 잘 모른다. ......이제 2050년이면 어떻게 될지 상상해보자. 그때는 알고리즘이 모든 10대에게 그가 동성애/이성애 스펙트럼의 어느 지점에 있는지 (그리고 그 지점이 얼마나 가변적인지조차) 정확히 알려줄 수 있다. - P90
사회과학의 역사에서 가장 고약한 실험 중 하나는 1970년 12월에 프린스턴 신학교 학생들을 대상으로 행한 것이었다. 장로교 목사가 되기 위한 수련을 받고 있던 신학생들에게 각각 멀리 떨어진강의실에 급히 가서 선한 사마리아인 우화에 관한 설교를 하도록시켰다. - P101
열성적인 젊은 신학생들은 저마다 서둘러 강의실로 향했다. 가는길에 어떻게 하면 선한 사마리아인의 교훈을 잘 설명할지 생각했다. 하지만 실험자들은 신학생들이 가는 길목에 남루한 차림의 사람을 배치했다. 이 사람은 머리를 떨구고 눈을 감은 채 강의실 문간에 고꾸라진 채 앉아 있었다. 아무것도 모르는 신학생들은 피해자‘가 가련하게 기침을 하고 신음 소리를 내는데도 하나같이 서둘러 지나쳤다. 대부분은 그 남자를 돕기는커녕 가던 길을 멈추고 무슨 문제가 있는지 물어보지도 않았다. 강의실에 서둘러 가야 한다.
는 감정적 압박 때문에 곤경에 처한 이방인을 도와야 한다는 도덕적 책무를 저버린 것이다.18무수히 많은 다른 상황에서도 인간의 감정은 철학적 이론을 이긴다. 이 때문에 세계가 보아온 윤리와 철학의 역사는, 이상은 훌륭하나 행동은 이상에 못 미치는 우울한 이야기로 가득하다.
...이는 자연선택이 호모 사피엔스도 감정을 사용해 재빨리 생사의 결정을 내린다. - P102
2017년 10월에는 웃지 못할 사건이 벌어지기도 했다. 당시 팔레스타인 노동자 한 명이 자신의 페이스북 계정에다 직장에서 찍은자기 사진을 올렸다. 불도저 옆에 서 있는 모습이었다. 그 사진 옆에 "좋은 아침!" 이라고 쓴 것이 화근이었다. 자동 알고리즘이 아랍글자를 다른 문자로 옮기면서 사소한 실수를 저질렀던 것이다. 알고리즘은 "이사베춤!"(Ysabechhum, ‘좋은 아침‘이라는 뜻)을 "이드바춤!"(Ydbachhum, 그들을 죽여라‘ 라는 뜻)으로 인식했다. 이것을 본 이스라엘 보안군은 불도저로 사람들을 치려는 테러범으로 의심해 즉각 그를 체포했다. 군은 알고리즘이 실수한 것을 알고 난 뒤에 그를풀어줬다. 그럼에도 문제가 된 페이스북 포스트는 삭제됐다. 우리가 아무리 조심한다 해도 어쩔 수 없다. 지금 팔레스타인 사람들이 서안 지구에서 겪는 일이 수십억 명의 사람들이 지구 전역에서결국 경험할 상황의 예고편에 불과할 수도 있다. - P113
지금도 사람들은 공짜 이메일 서비스와 재미있는 고양이 동영상에대한 대가로 자신의 가장 가치 있는 자산 - 개인 정보 - 을 내주면서도 좋아한다. - P131
실제로 우리는 완전한 인간적 잠재력이 무엇인지 모른다. 왜냐하면 인간 정신에 관해서는 아는 것이 너무나 적기 때문이다. 그럼에도 우리는 인간 정신을 탐구하는 데는 별로 투자를 하지 않는다.
그 대신 인터넷 연결 속도와 빅데이터 알고리즘의 효율성을 높이는데 집중한다. 앞으로 우리가 조심하지 않는다면, 다운그레이드된인간이 업그레이드된 컴퓨터를 오용하여 자신과 세계에 재앙적 결과를 가져오는 상황을 맞게 될 것이다. - P122
만약 모든 부와 권력이 소수 엘리트의 수중에 집중되는 것을 막고 싶다면, 그 열쇠는 데이터 소유를 규제하는 것이다. - P129
|