국가와 기업, 그리고 AI의 세계

핸드오버 - 국가, 기업에 이어 AI는 우리를 어떻게 지배하는가
데이비드 런시먼 지음, 조용빈 옮김 / 와이즈베리 / 2023년 12월

AI 시대에 인간이 아닌 것에 인간에게 하듯 책임을 묻는 것은 예민한 문제다. 기계가 사람을 해치면 누구를 비난해야 할까? 기계 자체? 아니면 기계를 만든 인간? 이는 새로운 질문이 아니다. 인간이 만든 집단의 역사만큼 오래되었다. 기계에 책임을 지우면 인간이 면책 받을 위험이 있다. 반대로 인간이 책임지면 기계의 책임을 무시할 위험이 있다. 집단의 결정을 인간으로 한정하는 것은 그 본질적인 특성을 왜곡하는 것일 수 있다. 그렇지만 책임을 인간으로 한정하지 않으면 오히려 집단이 비인간적으로 변할 수 있다.         p.90

인간의 삶을 개선하도록 사람의 형태로 고안, 제작된 초인적 기계들이 지배하는 세상을 상상해보는 것이 그리 어렵지 않은 시대이다. AI 덕분에 우리는 몇 세대 전 사람들은 상상도 할 수 없을 정도로 다른 삶을 즐기게 되었으니 말이다. 그런데 사실은 우리가 300년 전부터 인공적인 메커니즘과 함께 살아왔다고 이 책은 말한다. 그것은 바로 ‘국가’와 ‘기업’이라고 하는 ‘실행하는 기계’다. 인류는 자신의 편의를 위해서, 더 안전하고 건강하고 행복한 삶을 위해서 스스로 작동하는 ‘인공 대리인’을 만들었고, 성공했다. 하지만 우리의 해방을 위해 만든 이것들이 우리의 천적으로 변할 수 있다는 점이 아이러니한 것이다. 게다가 현대의 국가와 기업은 인간보다 더 오래 산다. AI 또한 수명이 유한한 인간보다 오래 존속할 수 있다. 

17세기부터 현대의 국가와 기업은 서서히, 그러다 이후에는 훨씬 더 빠르게 지구를 점령해 왔다. 국가와 기업의 긍정적인 측면은 빈곤을 정복하고, 질병을 퇴치하며, 몇 세대 전까지는 불가능했을 법한 부를 축적하게 했다는 점이고, 이들의 잘못으로 야기된 공포는 세계 대전부터 식민지 착취, 환경 파괴 등이 되겠다. 만약 이 세계가 종말을 맞이한다면, 아마도 국가와 기업으로 인한 것이라고 해도 과언이 아닐 것이다. 그럼에도 국가와 기업 모두 인간들로 이뤄져 있다. 그렇다면 국가와 기업을 기계나 네트워크, 알고리즘과 비교하는 것이 무슨 의미가 있을까. 그에 대한 이유를 제시하기 위해 이 책은 근대 국가와 기업의 역사부터 짚어 나간다. 근대 국가의 역사는 17세기에 시작되었으며, 근대적 기업은 18~19세기에 등장했고, AI의 발전은 20세기부터 본격적으로 시작되었다. 우리는 국가와 기업을 만들었고, 국가와 기업은 우리가 현재 살고 있는 세계를 구축했다. 이 책을 읽으면서 막연히 생각했던 것보다 국가와 기업, 그리고 AI가 더 많은 공통점을 가지고 있다는 것을 깨닫게 되었다. 언젠가는 결국 인간 같은 기계가 지배하는 세계에 살게 될 것이 분명한데, 그 미래에 대해 진지하게 고민해볼 필요가 있다는 것도 말이다. 

수천 년 동안 저 멀리서 지구를 관찰하며 이곳에서 무슨 일이 일어나고 있는지를 알아내려는 외계인이 있다고 해보자. 마지막 빙하기가 끝난 기원전 1만 2000년부터 수천 년간 그들은 거의 변화를 보지 못했을 것이다. 그들에게 지구는 안정된 것처럼 보였을 것이다. 하지만 최근 들어 이상한 일들이 일어나기 시작했음을 눈치챘을 것이다. 작은 금속 조각들이 우주로 날아가서 주변 궤도를 어지럽히고 있으며, 녹색도 얼음도 줄어들고 있다. 지구 표면의 많은 부분이 밤낮으로 밝게 빛나고 있으며, 온도가 빠르게 상승하고 있다. 그들은 아마 지구가 곧 폭발할 것이라고 결론 내렸을지도 모른다.             p.204

4차 산업혁명과 인공지능이 우리의 삶 전반을 송두리째 바꾸게 될 것이라는 전망은 먼 미래의 이야기가 아니다. 첨단 기술과 인공지능이라는, 인간이 잘 살기 위해 만들어낸 기술이 언젠가는 인간의 삶을 위협할 수도 있다는 자각과 더불어 멀지 않은 미래에는 정말로 기계가 인간을 넘어설 수 있는 순간도 오게 될 거라는 두려움이 점차 현실이 되고 있으니 말이다. 현실과 사이버스페이스가 한데 섞이고 인류가 기계와 어울려 살아가는 세상은 이제 공상 과학 속 상상의 세계가 아닌 것이다. 바야흐로 AI의 시대이다. 급기야 챗GPT는 혼자서 책을 쓸 경지에까지 올랐으니 말이다. 그렇게 국가와 기업이 지배하는 세계에 로봇, 즉 스스로 생각할 수 있는 AI가 진입하고 있다. 국가와 기업과 AI가 결합한다면 우리의 운명은 어떻게 될까, 우리는 이들을 통제할 수 있을까. 만약 국가 권력이 우리가 통제할 수 없는 방식으로 컴퓨터 권력과 결합하면 어떻게 될까. 조지 오웰의 <1984> 속 사회가 실제로 펼쳐지지 말라는 법은 없으니 말이다.

국가와 기업의 작동을 AI 알고리즘에 비유한 흥미롭고도 놀라운 이 책의 저자는 케임브리지대학교 정치학과 교수로 영국 정치학계를 이끌어가는 학자로 평가 받고 있는 데이비드 런시먼이다. 그는 이 책에서 국가와 기업이 우리 삶을 어떻게 지배해 왔는지를 인류의 역사를 통해 살펴보고, AI가 앞으로 우리 사회를 어떻게 재구성할 것인지에 대한 미래 담론을 제시한다. 우리는 우리를 위해 스스로 작동하는 국가와 기업을 만들었고, 국가와 기업이 구축한 세계에 지금 AI가 진입하고 있으니, 인류를 위한 미래를 위해 이들간의 상호관계에 대해 심각하게 고민해봐야 한다고 말이다. AI와 미래를 예측하고 살펴보는 책들은 많았지만, 국가와 기업, 그리고 AI의 유사성을 탐구하는 책은 처음이라 대단히 색다른 접근이라고 생각했다. 무엇보다 아주 시의적절하고, 설득력 있는 이야기를 들려주고 있어 앞으로 인류의 미래에 대해 진지하게 모색해보고 싶다면 이 책을 적극 추천해주고 싶다. 

*출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다.