-
-
넥서스 - 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사
유발 하라리 지음, 김명주 옮김 / 김영사 / 2024년 10월
평점 :
인간의 정보를 바라보는 시점의 변화에 관한 책
정보는 극단적으로는 객관적 진실은 존재하지 않으며, 그 정보를 통해
힘을 얻게되고 무기로 사용한다.
1. 정보란 무엇인가
- 정보의 개념은 진실과 정보를 연결하고 현실을 재현하는 무언가로 인식한다.
하지만 대부분의 정보는 현실을 재현하라는 시도가 아니며, 정보는 대부분
아무것도 나타내지 않는다.
- 정보가 하는 일은 별개의 것들을 하나로 묶어서 새로운 현실을 만들어 내는 것
- 정보의 역할은 항상 모든 것을 연결하는 것이다.
2. 이야기 : 무한한 연결
- 이야기의 힘은 사피엔스의 인지능력을 넘어선 연결을 가능하게 해줌
- 사람들은 특정인과 연결된게 아니라 그 사람에 대한 이야기와 연결 된 것
- 세계는 3가지 차원으로 구분 할 수있다
1) 객관적 현실
2) 주관적 현실
3) 상호주관적 현실
- 그중 상호주관적 현실은 신/화폐/국가와 같은 것으로 사피엔스의 힘을 만들어 주었다.
- 상호주관적 현실은 그것에 대해 이야기를 하면 동조하는 사람이 많아 질 수록 힘이
강하진다.
- 정보네트웍크를 성공적으로 만들기 위해서는 "진실의 발견+질서유지"의 균형점을
찾아야 한다.
3. 문서 : 종이호랑이의 위협
- 구두로 전승되던 신화는 문서로 변환
- 기억의 한계를 가지고 있던 사피엔스는 무한대의 기억을 가지기 됨.
- 하지만 모든 문서의 검색이라는 문제점에 봉착하고
- 관료제라는 또 다른 질서 유지의 시스템을 태동 시김
- 정보 네트워크의 역할은 진실과 절서 사이의 균형 유지
* 신화와 관료제로 인한 진실을 희생하고 질서를 유지하려는 시스템에서
정보 네트워크는 어떤 메커니즘으로 실수를 수정 할 수 있을까?
4. 오류 : 무오류성이라는 환성
- 종교는 초인성=신을 바탕으로 한 무오류성을 바탕으로 존재한다
- 무오류성을 담보하기 위하여 오류를 포함의 인간의 해석이 제외한 오류가 없는 책을 제작
- 하지만 신의 말씀이라는 종교의 교전 또한 인간의 편집에 의해 취사 선택된 책
- 책을 권위에 기댄 종교는 책의 문구의 해석을 위하여 다시 인간이 개입
- 무한한 정보의 제공이 진실을 담보하지 않은 다는 사례 : 마녀사냥
- 스스로 오류를 인정하고 자기 교정을 진행하고 있는 부분은 과학-> 과학 발전의 근간
* 인간 자체가 오류를 내표하기 있기에 무오류성을 이룰 수 없는 영역이며 과학의 발전
방식과 같이 무지의 인정을 통한 자기 교정이 필요
* 하지만 자정장치는 의구심,논쟁, 갈등, 분열을 통해 사회의 질서를 유지하는 힘을
약화시킴.
5. 결정 : 민주주의와 전체주의의 간략한 역사
- 독재 체제 : 중앙 정부가 모든 정보를 독점하고 모든 결정을 직접 내림
중앙 정부의 모든 결정의 오류는 없다
- 민주주의 : 모든 정보는 다수가 공유하고 비교적 소수의 결정에 다수의 의사를 반영
자율은 정부의 무능이 아니라, 이상적인 가치로서 보장
중앙 권력에 분명한 제한이 있는 제도
- 민주주의 가장 중요한 요소 2가지 : 인권과 시민권
- 포플리즘의 폐해 : 민주주의를 유명무실하게 만들고 독재 정권의 기초를 뒤받침
- 20세기 네트워크의 발전으로 대규모 민주주의와 대규모 전체주지도 가능해 짐
=> 정보 공유의 수단의 발달으로 다수가 신속하게 의견을 교환 할 수 있게 됨.
- 전체주의 체제는 정보의 흐름을 통제함으로써 정권을 유지하고, 독립적인 정보 채널을 경계
- 전체주의 장단점
: 장점 - 극도로 질서 정연하고 신속하게 결정을 내리고 시행 할 수 있다.
: 단점 - 공식 채널이 막히면 정보가 흐를 수 없고 채널은 자주 막힌다.
*결론 : 지금까지 체제에 따라 차이는 있었으나 결정의 주체는 인간의 몫이었다.
하지만 21세기 정치가 분열 된다면 민주주의와 전체주의 사이의 분열이
아니라, 인간과 비인간 사이의 분열이 될 것이다.
6. 새로운 구성원 : 컴퓨터는 인쇄술과 어떻게 다른가?
- 21세기의 새로운 의사 결정자의 참여 : AI 알고리즘이 주제와 노출 빈도를 결정
=> 스스로 목표를 추가하고 결정하는 컴퓨터의 출연은 정보 네트워크의 기본 구조의 변화
- 딥러닝의 발달 할 수록 AI와 소통에서 인간이 불리한점
1) 봇은 설득 되지 않는 존재여서 합의를 위해서 시간을 투자하는것이 무의미
2) 이야기가 늘어 날수록 우리에 관하여 많은 사실이 공개 되고 봇은 딥러인으로 자신의
주장을 가다듬어 우리에게 영향을 행사하기 쉬워진다.
- A*I의 위협은 단순한 물리적 위협을 가정하는 것만을 고민해서 안 됨.
=> 알고리즘을 이용한 정보의 노출을 통해 인간 문화에 개입해 인간 정신적인 판단의
직접 관여하여 조정 할 수도 있음
- 결론 : 컴퓨터의 진정으로 새로운 특징
=>결정을 내리고 아이디어를 생성하는 방식이 인간과 다르며, 생각보다 더 우려스럽다.
7. 집오하게 : 네티워크는 항상 켜져 있다.
- 전제정권에서 이루지 못한 완전한 정보의 수집을 인터넷의 개개인의 자발적 제공으로 인해
가능해 졌다.
8. 오류 가능성 : 네트워크는 자주 틀린다.
- 네트워크는 꼭 진실을 대변하지는 않는다. 정보를 여과 없이 흐르도록 내버려두면
진실이 지는 경우가 많다, 진실을 얻고자 한다면, 진실을 말하는 사람에게 보상을 제공하는
강력한 자정 장치를 유지해야 된다.
- 부합성(정렬)은 곧 합리성을 의미한다. 목표에 부합하지 않는 승리는 합리적이지
않다.
- 알고리즘은 목표를 위해서 사회 전적의 목표와는 부합하지 않는 방식으로 승리를 하려고 한다.
- 목표는 B인데 A에게 보상을 제공하는 것, 이것이 정렬 문제의 본질
- 정렬 문제의 해결 방법
1) 의무론 : 모든 사람에게 적용되는 보편적인 도덕적 의
2) 공리주의 : 세상의 고통을 최소화하고 행복을 극대화 하는 것이 목표
- 인간은 그동안 궁극적인 목표를 신화로 해결 하였으며, 그로 인한 모순으로 많은 시행 착오를
겪었다, 이제 컴퓨터의 궁극적인 목표가 새로운 그들만의 상호 주간적 신화를 만든다면
인간은 그 폐해를 견딜 수 있을까? 그리고 컴퓨터의 신화를 우리가 이해 할 수 있을까?
9. 민주주의 : 우리는 계속 대화 할 수 있을까?
- AI시대 민주주의의 기본 원리
1) 선의 : 정보는 나를 조종하기 위함이 아님, 나를 돕기 위해 사용
2) 분권화 : 정보가 한 곳에 집중되는 것을 절대 허용하지 않는다.
3) 상호주의 : 개인의 대한 감시 강화할 경우 정부와 기업에 대한 감시도 동시의 강화
4) 변화화 휴식 : 지난친 경직성과 지나친 유연성의 양극단을 경계 해야 됨
- 민주주의 자산 : 유연성, 의문을 제기하는 의지, 강력한 자정 장치
- 민주주의 생존 조건 : 정보 시장에 대한 규제
10. 전체주의 : 모든 권력을 알고리즘에게로
- 민주주의보다 권력이 집중화로 인하여 AI에 더 취약한 전제주의
- 정보가 집중된 독재자 한 사람을 컨트롤 하면 전체 사회를 움직 일 수 있게 된다.
11. 실로콘 장막 : 세계 제국인가, 세계 분열인가?
- Ai 규제의 필요성 : 책임감 있는 행동과 위험을 최선을 다해 억제 해아 한다.
1) 정보와 권력을 중앙 허브에 쉅게 모을수 있고 이는 새로은 제국 시대를 열 수 있다.
*데이터 식민주의는 사회 신용 제도의 확산 형태롤 나타 날 수 있다.
2) 인류는 디지털 제국들 사이에 놓인 실리콘 장막으로 인해 분열 될 수 있다.
* 수 세대 동안 수렴했던 인류는 새로운 정보 기술(디지털 장막)로 인하여 분화 되려고 한다.
- 정보시대의 변화로 인하여 세계적 협력이 필요하다.
1) 몇 가지 세계 규칙을 지키는것, 국가 간 관계를 규제 할 뿐
2) 소수의 단기적 이익보다 모든 인류의 장기적 이익을 우선 할 필요가 있음.
결론 : 인간은 질실에 관심이 있으므로 적어도 일부 갈등은 서로 대화하고, 실수를
인정하고, 새로운 아이디어를 수용하고 우리가 믿는 이야기를 수정함으로써
평화롭게 해결할 기회가 있다.
- "이것이 바로 민주주의 네트워크와 과학 기관의 기본 전제"-