‘인간 주도‘의 의사결정 시대에서 ‘기계 주도‘로의 중심 이동

핸드오버 - 국가, 기업에 이어 AI는 우리를 어떻게 지배하는가
데이비드 런시먼 지음, 조용빈 옮김 / 와이즈베리 / 2023년 12월

 ​
 

AI알고리즘과 인공지능이 이미 인간의 삶에 스며들어

우리의 일상에 크고 작게 영향을 미치고 있지만

대부분은 인식하지 못한 채 살아가고 있다.

이를테면, 문자와 긴 글을 읽어내기 위해 필요한 인간의 능력을 활용하고 발휘하기 보다는

언젠가부터 시각적 콘텐츠들에 물들어서 편의와 강한 자극에만 반응한다.

전보다 더 오래 살고, 더 부유해지고, 더 좋은 교육을 받는 등

인간의 삶이 좀 더 나아지는 방향으로 나아가고 있는 듯 하지만

그와 관련한 발명들이 꼭 인간의 삶을 행복하게 해줬다고 말하기에는 논란의 여지도 있다.

과학기술이 빠르게 발전하면서 우리가 깨닫지 못하는 사이에

우리의 행동을 미세하게 변화시키는 시대에 살고 있는데

이 지점에서 무서운 것은 그 영향력이 매우 '비강압적'이기 때문에

사용자들이 스스로 원하는 것이며 자기 생각이라고 느끼게 한다는 데에 있다.

자율적인 자연질서 시스템을 지속적으로 파괴하는 시스템을 갖춘

지금을 우리는 '인류세'라고 칭하곤 한다.

그 인류세의 두드러진 특징이 '의식없음 mindlessness' 이라고 볼 때

실로 지금 이 시대는 스스로 생각하고 의사결정을 내릴 수 있는,

인간을 인간답게 하는 필수적인 요소들을 찾기가 점점 더 어려워지고 있다는 생각마저 든다.

영국 케임브리지대학교 정치학과 교수이자 저자인 데이비드 런시먼은

여기서 한 발 더 나아가 우리가 살고 있는 세상은

인류세가 아니라 사실은 '기계세'에 살고 있는 것이라고 말한다.

사실 '기계세'라는 어휘를 접했을 때의 그 낯섦에 선뜻 개념이 잡히지 않았는데

읽어가면서 더 충격적으로 다가온 것은 이미 우리가 기계세에 살고 있다며

근거로 제시한 내용들에 설득되어가는 나를 발견하게 되었기 때문이다.

AI가 인간 세상에 침투하여 일자리를 빼앗고

인간다움 상실을 우려하는 세상이 되었다는 위기의식이야

이미 공공연하게 퍼져 있던 사실이지만

국가나 기업이 인간을 지배하고 있다는 인식은 사실 너무 가까이에서

혜택이라고 믿으며 살아왔기 때문에 망치로 뒤통수를 얻어맞은 기분이다.

(니체가 살았던 시대의 동시대인들이 이런 기분이었을까...)

​​

현재 인간다움을 위협하는 것으로 인공지능이 으뜸이라는 것에는 이견이 없을 것이다.

그러나 <핸드오버>의 저자는 이 책의 주제로 인공지능을 중심에 두지 않았다.

책 제목이 "핸드오버(Hand Over)"인 것을 대략 미루어 짐작해 보면

여기서 저기로 옮겨갔다는 것인데

읽다 보면 인간을 통제하는 그 중심축이 이동했다는 걸 말하고자 하는 것 같았다.

물론 인공지능으로 이동했다는 것에는 의심의 여지가 없지만

과연 무엇에서 이동했다는 것인지, 그리고 과거에도 그랬고 지금까지도 여전히

인간의 삶을 통제하는 그 중심에 무엇이 있다는 것인지

목차를 보면 '국가'가 눈에 들어온다.

3장 제목 '인간보다 오래 사는 대리인들'은 바로 국가를 다르게 표현한 것이며

책 전반에 걸쳐서 국가의 기능과 정체를 다각도로 짚어내고 있기 때문이다.

이 책을 읽다 보면 자주 섬뜩함을 느끼곤 한다.

현대의 국가와 기업이 복제 가능하다니!

​
 

기계세와 국가&기업의 연결고리를 찾기 위해서는

토마스 홉스의 저서 <리바이어던(1651)>에서 언급했던

'자동기계' 즉 국가를 지칭하는 말에서부터 풀어가야할 것 같다.

책을 많이 읽다 보니 저자가 힘주어 쓰는 부분이 어디인지 이제는 대략 보인다.

우선 목차를 훑어보고 서문과 첫 장, 그리고 나가는 글을 중요하게 볼 필요가 있다.

바로 그 첫 장에서 토마스 홉스가 <리바이어던>에 정의했던 국가와

현대의 국가 개념을 절묘하게 엮어서 풀어가고 있다.

인간은 자신들의 편의를 위해서, 더 안전하고 건강하고 행복한 삶을 위해서

국가들을 만들었고 물론 성공도 했다.

그러나 이 기계들이 이제는 너무 강력해져서 확실하게 인간의 통제 아래에

둘 수 있다고 보장하기가 어렵게 되었다.

인간으로 구성되어 있고 인간을 이롭게 하기 위해 존재해야 할 것 같은데

되려 인간의 삶에 위협적인 존재가 되기도 한다.

개개인의 집단정신이 모여 집단체가 되었고 집단적 힘은 지녔을지 모르겠지만

정작 인간보다 국가에 더 큰 의사결정권이 쥐어져 있다면

국가가 인간에게 가하는 폭력을 제한할 수 있는 힘은 어디에서 찾아야 하는 걸까?

인간에게 봉사하도록 만들어졌지만 인간을 파괴할 능력도 가지고 있는 국가는

과연 생각할 수 있는 존재인가, 아니면 단순히 실행만 하는 기계일까?

이런 모든 가능성들을 끌어올린 저자는 그래서 국가와 기업을 괴물이라고 표현했고

바로 그 괴물들은 막강한 영향력을 과시하는 강대국들과 글로벌 기업들이라고 분명하게 지목하고 있다.

영국, 미국, 인도, 중국, 석유회사 브리티시페트롤리엄, 인도의 다국적 기업 타타,

바이두, 아마존, 테슬라, 스페이스엑스 등등.

AI로 대표되는 생각하는 기계와 국가&기업 사이의 유사성에 대해서

과거를 들여다보는 방식으로 토마스 홉스의 <리바이어던>부터 멜서스의 덫을 거쳐

현대사회의 중요한 길목마다 패러다임을 바꿀 정도의 변화를 주도했던

주요 국가와 기업들의 역사를 짚어나간다.

이런 과정을 통해 미래의 모습을 탐구하려는 시도에서 시작된 책이 바로 <핸드오버>이다.

"국가, 기업, 로봇" 이라는 주제의 강연을 중심으로 이 책을 펴낸 데이비드 런시먼은

국가를 '인공 인격'이라고 부르고 있다.

인간이 자신의 일을 더 오래, 더 조직적이고 일관된 방식으로 할 목적으로

설립된 것으로 보았으며 국가와 기업은 스스로 생각할 순 없지만 행동할 수 있기 때문에

인간보다 더 오래 기능할 수 있는 인공 대리인으로서

앞으로도 권력, 지속성, 복제가능성이 두드러질 것이라고도 전망하고 있다.

설상가상 국가와 기업같은 인공 인격을 인간화하는 과정도 진행중인데

이는 위험한 결과를 초래할 수 있다고 우려하기도 한다.

국가나 기업을 비롯해서 우리의 행동방식을 결정하는 온갖 비인격적인 시스템에 속하는

관료제, 시장, 자본주의, 가부장제들을 가리켜 인간이 만든 사회적 기계들이라 칭한다.

인간이 자신의 행동을 정당화하기 위해 그 중 일부를 구성하고 이용하고 있다고 보는 것들이다.

우리가 살고 있는 이 세상은 어쩌면 이런 인위적인 메커니즘들이 지배하고 있기 때문에

인간적 상태라고 보기 어려울지도 모르겠다.

여기서 진지하고 통렬하게 인식해야 할 것은 통제의 중심이 인간 주도의 의사결정 시대가 아니라

현대의 괴물과 기계가 주도하는 시대가 되었다는 것이고

나아가 그에 맞는 대응을 해야 한다는 것이다.

너무 현재에 익숙해져 있어서 우리 스스로 깨닫지 못하고 있는데...

분명 이전과 비교할 때 거대한 인공 생명체(국가와 기업, 그리고 AI까지)가

우리를 압도하는 지금 이 세상은 충분히 이상하다.

이런 문제점을 감지하고 스스로 식별할 필요가 있다는 것을 <핸드오버>가 각성시켜준 독서였다.