[마이리뷰] 넥서스

넥서스 - 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사
유발 하라리 지음, 김명주 옮김 / 김영사 / 2024년 10월

#넥서스 #Nexus
#유발하라리
#김영사

역사학자가 말하는 AI 혁명.
이 책의 핵심 논지는 인간은 인간이 만든 대규모 협력 네트워크를 구축함으로써 막대한 힘을 얻지만 바로 네트워크 구축하는 방식 때문에 애초에 힘을 지혜롭게 사용하기가 쉽지 않다는 것이다. 구체적으로 정보의 문제를 어떻게 할 것인가?라는 질문에 대한 답을 찾아가기 위한 과정이다.

1부 정보란 무엇인가?
2부 실리콘 칩은 사화, 경제, 정치를 어떻게 변화시킬까?
3부 ‘컴퓨터 정치’에서 각기 다른 종류의 사회들이 비유기적 정보 네트워크의 위협과 가능성을 어떻게 다룰 것인가?에 대해 알아본다.

1부
정보란 서로 다른 지점들을 네트워크로 ‘연결’ (nexus)하는 무언가다. 사피엔스는 언어로 인해 다른 종과 다르게 대규모 연결이 가능했다. 인간의 정보 네트워크의 역사는 항상 진실과 질서 사이의 균형 맞추기였는데, 대체로 진실보다 질서를 우선시했다. 정보가 많을수록 진실에 가까워질 것이라는 기대는 어리석다는 것이다. 역사가 보여주는 정보 네트워크는 여러 혁명을 통해 연결의 크기가 커질 때에도 진실보다 질서가 먼저였음을 보여주고, 인간은 선한 이야기들 보다 자극적인 이야기에 더 강한 반응을 하는 것을 보여주기도 한다.
21세기 정보혁명의 대표로 인쇄술을 보면, 성경의 편집의 결정을 인간이 함으로 그 결정권이 주어진 인간에게 권력이 주어졌고, 그로 인한 여파는 지금까지 이어지고 있다. 코페르니쿠스의 천동설은 거의 팔리지 않는 반면 마녀사냥은 엄청나게 퍼져나갔다. 넷망으로 이어진 요즘은 알고리즘으로 더 빠르고 넓게 퍼져나간다. 이를 막기 위한 ‘자정 장치’의 중요성을 인식하게 되지만, 이 또한 질서 유지 측면에서 손해를 감수해야 한다.
정치 측면에서 보면 정보가 중앙 집중화되는 독재 시스템과 강력한 자정 장치를 갖춘 분산 네트워크를 소유한 민주주의. 정보혁명을 어떤 체제가 더 잘 다룰 것인가? 지금까지는 정보를 이간이 다뤘다면 스스로 발전하는 ai는 어디까지 통제가 가능할 것인가? 이제는 인간과 비인간으로 능동적인 행위자인 ai에게 힘이 이동하고 있는 것은 아닐까?

2부
2020년 초반에 이미 알고리즘은 가짜 뉴스와 음모론을 스스로 생성하는 단계로 옮겨갔고, 알고리즘으로 인한 잘못임이 밝혀졌음에도 이를 책임질 대상은 없다. 거대 기업은 자신들이 종용한 것이 아니라고 발뺌할 뿐이다. 그저 이윤 추구를 위해 사람들을 오래 머물게 할 궁리를 했던 그들의 명령에 알고리즘이 스스로 생성한 사태였을 뿐이었다. ai는 인간 수준의 지능이 아니기에 인간이 예측하기 힘들다는 것 또한 우리가 간과해서는 안 될 문제다.
컴퓨터 네크워크는 수많은 인간 활동이 모이고 교차하는 연결 고리가 되었다. 전체주의 등 독재는 감시하고 통제할 수 있는 한계가 있었다. 아무리 철저히 감시한다고 해도 구멍이 있기 마련이었다. 하지만, 컴퓨터 네트워크는 잠을 자지도, 쉬지도, 먹지도 않는다. 특별히 강력한 이 비인간은 오류를 중간에 알아차리거나 설명을 요청할 가능성이 낮기 때문에, 목표를 정의할 때 궁극적인 목표에 정확히 부합하도록 신중을 기해야 한다. 우리가 직면한 문제는 어떻게 컴퓨터의 창의성을 올바른 방향으로 이끌 것인가?이다.

3부
컴퓨터는 일상적인 결정부터 인생을 바꾸는 결정까지 우리에 대해 점점 더 많은 결정을 내리고 있다. 인간의 능력을 월등하게 뛰어넘은 컴퓨터 네트워킹에 인간은 이미 많은 부분을 의존하고 있다. 이런 결정을 많이 맡길수록 민주주의의 자정 기능, 투명성, 책임성은 약화되며, 허위 정보와 결정을 알아내기 어려워진다.
독재자들은 모든 정보를 한곳으로 집중하려고 하는데, 정보 채널들이 다른 어딘가에 모이면 거기가 권력의 실질적인 구심점이 되기 때문이다. 2023년 기준 구글은 전 세계 검색 시장의 90프로 이상을 차지했다. 산업과 달리 정보 네트워크는 전 세계를 점유할 가능성이 충분하다. 한편으로는 미국에 정보 권력이 집중되는 것을 막기 위해 노력하는 중국을 중심으로 디지털 제국들 사이에 실리콘 장막이 점차 심화되며 두 진영의 문화, 사회규범, 정치 등이 점차 달라질 가능성이 높다.
정보 네트워크에게 권력을 모두 이양당하지 않으려면 세계적 협력이 무엇보다 중요하며, 인공지능의 작동 방식을 이해하는 것과 ai에 대한 국제적 합의 도출이 시급하다. 인간이 다른 종과 가장 큰 다른 점인 언어를 통해 평화로운 합의가 절실한 때이다.

리뷰를 썼다는 것에 만족하자. ㅠ