권력이 은밀히 이동한다 - 넥스트 인텔리전스

넥스트 인텔리전스
로랑 알렉상드르 지음, 임호경 옮김 / 열린책들 / 2025년 3월

'기술이 법보다 강하기 때문에, 권력의 무게 중심이 은밀히 이동하고 있는 것이다.'

이 책에서 정말 인상적인 말들이 많았는데, 그중 책을 다 읽은 뒤에도 뇌리에 남는 건 저 말이다. 권력의 무게 중심이 은밀히 이동하고 있다. 무기, 돈, 정치는 이제 권력의 왕좌에서 차례로 내려오고 있다. 인공 지능의 등장과 함께 이젠 기술이 권력의 왕관을 쓰게 되었다. 기술이 집권하는 시대가 진정 무서운 건, 치리 당하고 있다는 사실조차 모른 채 그 권력의 손에 틀어잡혀 살아가게 되기 때문이다.

인터넷의 창시자들은 이 네트워크가 지구상 모든 사람에게 자유로운 표현을 보장함으로써 민주주의 발전의 주요 도구가 될 것이라 확신했다. 사이버 유토피아론자 니콜라스 네그로폰테는 1996년에 민족 국가들은 인터넷에 의해 뒤흔들 것이며, 미래에는 민족주의가 천연두만큼이나 설 자리가 없을 거라고 단언했다. 우리는 기술에 따스한 판타지를 투영했던 것이다.

하지만 인터넷은 기대했던 정치적 혁명을 가져오지 못햇다. 기술 애호가들이 순진한 모습을 보인 것은 이게 처음이 아니다.

228-229쪽

우리의 문명을 근본적으로 변화시킬 NBIC 혁명은 태평양 연안에서, 미국의 디지털 거대 기업과 BATX 전략을 이끄는 중국 지도자에 의해 주도되고 있다.

이러한 변화를 인지하지 못하는 국가는 기술과 그 사상가가 사회를 구조화하는 것을 방치하고 있다. 기술이 법보다 강하기 때문에, 권력의 무게 중심이 은밀히 이동하고 있는 것이다.

131-132쪽

NBIC는 나노, 바이오, 정보통신, 인지과학의 머릿글자를 딴 단어다. 미세 단위로 물질을 제어하고 조작하는 나노기술, 유전자 해석으로 시작된 바이오기술, 정보기술과 인간의 뇌에 다가가는 인지기술의 융합으로 인류는 그야말로 새로운 종으로 거듭나려 한다. 인간의 한계를 뛰어넘어 신이 되려는 트랜스휴머니즘은 기술의 발달을 날개삼아 하늘로 오르고 있다. [넥스트 인텔리전스]는 트랜스휴머니스트들이 이야기하는 현재와 미래를 다룬다. 트랜스휴머니스트들이 가지고 있는 비전과 이상 그리고 그를 훼방하거나 혹은 그에 장애가 되는 여러 세력 및 관점들을 함께 이야기한다.

새로운 기술이 지배하는 세상을 바라보는 우리에겐 동경과 두려움이 교차한다. AI의 등장은 고작 1~2년만에 우리 생활의 많은 것을 바꿨다. 조만간 감정과 감성까지 탑재한 인공지능이 등장하리라 예고된 지금, 우린 또 어떤 변화를 겪게 될까. 그 변화에는 분명 득실이 있을텐데, 과연 우리가 지금 무엇을 알아야 그 득실을 미리 따져보고 준비할 수 있을까? [넥스트 인텔레전스]를 읽게 된 건 바로 이런 이유였다.

-호모 데우스는 공상 과학을 현실로 만들고 있다:

우리는 트랜스휴먼이 되어 간다.

무어의 법칙으로 인해 우리는 신에 가까이 가는 게 아니라, 신의 자리를 차지하게 되리라는 것, 이것이 트랜스휴머니스트들의 믿음이다. 연산 능력의 엄청난 발전 덕분에 우리는 거의 무한한 능력을 지닌 인간-신이 될 것이다. 모든 힘의 근원인 컴퓨터 파워에 매혹된 실리콘 밸리의 궁극적인 희망은 죽음마저 정복하는 것이다.

새로운 혁명은 어떤 새로운 세상으로 통하는 문이 아니라, 하늘로 올라가는 문이다.

99쪽

[넥스트 인텔리전스]의 저자는 프랑스의 의사이다. 그는 작가와 기업가이기도 하며 미래학자로 프랑스 최다 회원을 보유한 건강 포털 사이트의 창립자이기도 하다. 책 날개에서 유럽에서 문제적 지식인으로 평가받는다는 소개를 읽어보니 남들과 비슷한 의견을 피력하는 학자는 아닌 걸로 보인다. '많은 반론과 비판을 듣는 학자인가?' 싶었는데 책 내용을 읽어갈수록 왜 그가 문제적 지식인으로 평가받는지 이해가 된다. 저자인 로랑 알렉상드르는 이 책에서 기술의 초고속 발달에 맞춰 정치, 사회, 교육 등을 개선하고 변화시켜가야 할 프랑스의 사회 지도층들이 눈이 멀어 현실을 보지 못하고 있다는 사실을 신랄하게 비판하며 꼬집는다.

프랑스 엘리트들의 현실 괴리는 불행히도 매우 심각한 상태이다. 그들은 NBIC로 인한 기술 혁명과 완전히 괴리되어 있다.

136쪽

NBIC가 2050년 전에 세계 문명 전체를 뒤흔들 것인데, 우리의 정치 엘리트들은 이 말이 무엇을 의미하는지조차 모른다는 것, 이게 바로 진실이다.

극도로 복잡한 세상에서 과학과 기술에 대한 최소한의 이해 없이는 깨어 있는 시민이 되기 어렵고, 책임감 있는 정치인이 되기는 더욱 어렵다. 우리는 민주주의가 역사의 승자이며, 문명의 진보에 있어서 필연적인 종착점이라고 생각했다. 그러나 이제 민주주의는 뜻밖에도 후퇴하고 있다. 이를 제때 막지 못하면 민주주의의 종말이 올 수도 있다.

137쪽

이건 국가만 바꿔서 넣는다면 한국도 마찬가지인 처지아닌가. 바로 옆나라에서 온갖 기술로 우리나라의 사회 모든 분야에 깊숙이 파고 들어 있는데도 사회 지도층이라고 하는 인사들은 무엇에 눈이 멀었는지 현실과 완전히 동떨어져 있다. 저자는 이와 함께 기술 혁명의 이점을 누릴 수 없게 만드는 여러 단체와 세력들에 대해서도 경계했는데 그 중 하나가 생태주의자들이다. 내가 잘 모르는 건지, 우리나라에는 급진적인 생태주의자들의 활동이 눈에 띄지 않는다. 그런데 유럽에선 아닌 모양이다. 특히 프랑스에선 그레나 툰베리와 같이 급진적인 생태주의자들의 활동이 활발한 모양. 저자는 그런 세력들에 대해 이렇게 비판했다.

종말론적 생태주의자들은 자원과 에너지 고갈이 우리 문명의 종말을 초래할 것이라고 확신한다.

(중략) NIBC 기술에서 비롯된 기술 혁신은 갈수록 빠르게 이어지고 있다. 그것들은 점점 더 놀라워지고 모든 경계를 넘어서고 있지만, 사회는 갈수록 쉽게 그것들을 받아들이고 있다. 인류는 혁신의 비탈길에 올라선 것이다.

144쪽

녹색의 길은 출구 없는 골목이다. 급진적인 생태주의자들은 최악의 시나리오들을 내흔들며 우리의 진정한 도전 과제들을 보지 못하게 한다. 긍정적인 미래를 상상하지도 못하고, 인류에 대해 열광하지도 못하는 우리들은 미래를 위한 전장에서 탈영하고 있다. 유럽이 산업과 과학의 쇠퇴를 막기 위해 총력을 기울여야 할 이 시점에, 이러한 망상에 가까운 담론은 우리를 마비시키고 역사에서 밀려나게 할 위험이 있다. 그러나 유럽은 챗GPT가 가속화하는 이 인지 혁명을 절대로 놓쳐서는 안 될 것이다.

182쪽

기본적으로 저자는 트랜스휴머니스트들의 이야기에 매우 동조한다. 이미 불기시작한 기술혁명의 바람은 무엇으로도 막을 수 없고, 또 이미 너무나 많은 기술이 우리의 현실을 지배하고 있으니까. 챗GPT만 해도 그렇다. 이 요망한 물건은 단 1~2년 만에 개인 비서로서의 자기 자리를 톡톡히 차지하고 있다. 업무도, 공부도 심지어 여가도 챗GPT와 함께하고 있을 정도다. 인공지능이 지금보다 고도로 발달한 미래는 우리의 생각보다 훨씬 빨리 올 것이라고 저자는 말한다. 그래서 저자는 인공지능이 완전히 우리 자신과 밀착된 세상이 어떤 모습일지를 이 책[넥스트 인젤리전스]에서 공들여 묘사했다. 저자가 그려낸 미래는 그렇게 아름답지도 그렇다고 비극적이지도 않다. 저자의 말대로 챗GPT가 가속화하는 이 인지혁명은 놓쳐서는 안되는 대단한 기회다. 그러나 인공지능이 어떤 부작용을 일으킬지에 대해 알지 못한다면 나 자신은 사물 인터넷에게 정보의 밥이나 주는 바보 멍텅구리로 전락하고 말 것이다. 저자가 경계하는 인공 지능의 부작용은 여럿이지만 그중에 지금 우리의 현실에서 가장 극적으로 구현되고 있는 것을 꼽아본다.

민주주의 국가의 인공 지능은 인터넷상에 온갖 조작과 불안을 조성하는 가짜 뉴스를 가능케 하여 히스테릭한 논쟁을 야기한다. 정치적 폭력도 증가시킨다. 미국 상원 청문회의 질문을 받은 트리트탄 해리스는 트위터에서 분노에 찬 단어를 하나 추가할 때마다 리트윗률이 17퍼센트 증가한다고 털어놓았다. 다시 말해서 우리 사회의 양극화는 소셜 미디어들의 비즈니스 모델의 일부인 셈이다.

121쪽

인터넷이 민주주의를 발달시킨다고, 과연? 정말 그런가? 챗GPT가 사람을 지금 보다 명석하게 만든다고? 정말, 그렇게 생각하는 사람이 있는가? 천만에. 가짜 뉴스가 넘쳐나는 인터넷은 오히려 민주주의에 해악을 끼치고 있다. 편향된 정보 혹은 조작된 정보를 건네기 쉬운 챗GPT 역시 그렇다. 챗GPT가 당신에게 정확한 정보와 사실만을 전달할거라고 기대하지 마라. 인공 지능은 모두 이전에 수집한 데이터를 기반으로 나에게 최적화된 답변을 제시하도록 프로그래밍된 기계들일 뿐이다. 인공 지능을 통해서만 정보와 의견을 수집한다면, 인공 지능을 조작하여 대중의 인지와 의견을 조작하는 건 너무나 쉬운 일이 아니겠는가. 나는 이 부분이 제일 두렵다.

해서, 결국 나는 이런 책들을 읽어보며 인공 지능이 지배하는 세상을 대비하는 수밖에. 저자가 썼듯 '극도로 복잡한 세상에서 과학과 기술에 대한 최소한의 이해 없이는 깨어 있는 시민이 되기 어렵고, 책임감 있는 정치인이 되기는 더욱 어렵다.' 기술이 인간을 편하게 해준다고 어느 광고에서 그랬나? 순 거짓말이다. 기술이 발달할수록 인간은 불편해진다. 끊임없이 이해하고 애써야 하기 때문이다. 프랑스의 문제적 작가가 어떤 마음으로 프랑스의 지식인들을 꼬집으며 목소리를 냈는지 십분 동감이 되는 요즘이다.

극도로 복잡한 세상에서 과학과 기술에 대한 최소한의 이해 없이는 깨어 있는 시민이 되기 어렵고, 책임감 있는 정치인이 되기는 더욱 어렵다. - P137