신들은 죽임당하지 않을 것이다

신들은 죽임당하지 않을 것이다 ㅣ 켄 리우 한국판 오리지널 단편집 2
켄 리우 지음, 장성주 옮김 / 황금가지 / 2023년 2월

인류의 미래는 과연 올바른 흐름 위에 서 있는 것인가? 제4차 산업혁명의 시대를 맞이하여 AI 기술이 발전함과 동시에 자율 무기체계에 관한 관련 기술 또한 동시에 발전하고 있다. 인간의 희생이 염려되는 각종 산업이나 전쟁 등에서 자율 체계가 인간을 대신하는 것이 가능한지 세계적으로 관심이 쏟아지고 있다. 그러나 문제는 이러한 인공지능 체계가 너무 빠르고 지나치게 발전되고 있어 인간을 해하는 임무뿐만 아니라 언젠가는 기술적 특이점(싱귤래리티)을 넘어 오히려 인간을 위협하는 상황이 다가올 수도 있다는 것이다.

데뷔 초기작부터 '인류의 점진적 사이보그화'와 AI의 반란 같은 주제로 우리에게 다가왔던 켄 리우 작가는 이번 작품 <신들은 죽임당하지 않을 것이다>에서도 AI가 지배하는 미래에 대한 우려가 담겨 있었다. 그중 눈길을 사로잡았던 작품은 스스로 적을 인식해 공격하는 인공지능 드론에 관한 이야기인 [루프 속에서], 전작<어딘가 상상도 못 할 곳에, 수많은 순록 떼가>에서 수록되었던 3부작 형식이 이번에 도 수록되었는데 인간의 모든 걸 데이터 세계로 업로딩한 신인류를 그린 포스트 휴먼 3부작 <신들은 목줄을 차지 않을 것이다>, <신들은 순순히 죽지 않을 것이다>, <신들은 헛되이 죽지 않았다>가 흥미롭게 다가왔다.

만약 사람들에게서 그런 결정을 면제해 준다면, 그래서 개개인이 의사 결정의 루프에서

벗어난다면 말입니다. 결과적으로 우리는 '부수적 피해'를 줄일 뿐 아니라

틀림없이 더 인간적이고 더 문명화된 형태의 전쟁을 수행할 겁니다

첫 수록 작인 [루프 속에서]는 전투 드론 조종사였던 아버지의 PTSD(전쟁 자연재해, 고문 등의 심각한 사건을 경험한 후 그 사건에 공포감을 느끼는 스트레스 장애)로 인해 화목했던 가정은 무너지게 된다. 카이라는 우연히 방위산업체인 회사에 취직하게 되고 AW-1 가디언(자율비행장치)의 윤리 제어 장치 모듈을 만드는 작업을 하게 된다. 카이라는 드론 조종사였던 아버지의 일을 떠올리며 모듈 제작에 최선을 다한다. 하지만 그녀의 윤리 제어장치의 사각을 노린 테러가 발생하고 그녀는 자신이 만든 모듈에 대한 윤리적 딜레마에 빠지게 된다.

지금 세계는 드론 산업 활성화를 위해 온 힘을 쏟고 있다. 앞으로 몇 년 후면 운송업, 통계, 방위산업 등 모든 산업에 드론을 적용할 시대를 눈앞에 두고 있다. 실제로 전 세계 여러 나라에서는 무인 전투기 드론에 스스로 적인 인식하고 공격하는 자동무기 시스템[LAWS] 개발에 힘을 쏟고 있다. 인간의 판단에 의해 적을 인식할 경우 생기는 수많은 오류, 그 불확실성을 배제하기 위해 AI를 내세우는 것은 어쩌면 당연한 일이다. 하지만 인간만이 판단할 수 있는 0.1%의 그 무언가가 존재한다면 어떻게 할 것인가?

<포스트 휴먼 3부작>은 친구들의 따돌림과 괴롭힘으로 힘들어하는 매디에게 의문의 그림 메시지를 받게 된다. 아버지의 유품인 노트북을 사용하던 매디는 혹시 아버지가 아닐까 생각하게 되는데 곧 엄마에게 들키게 되고 엄마는 노트북의 그림 메시지를 보고 자신의 남편이 살아 있다고 확신하게 된다. 엄마와 매디는 다시 아버지의 담당이었던 왁스먼 박사에게 진실을 요구하였고 아버지에 대한 이야기를 전해 듣게 된다. 그는 로고리즘스의 프로젝트 중 심층 스캔을 이용한 '의식 업로딩'을 실험했고 결국 성공하게 되었다는 것이었다.

유가족의 권리로 아빠의 인격체를 다시 양도받게 되고 디지털 속 아빠와 행복한 날들을 보내게 되는데 어느 날 아버지와 같은 인공 지각체 중 한 명이 인간 말살을 행동으로 옮기고 결국 세계 전쟁으로 이어지게 된다. 매디의 아버지는 사람들을 돕기 위해 매디와 헤어지게 된다.

인간 이후의 존재이자 싱귤래리티 이전의 존재인 이 인공 지각체들은,

천재급 인간의 인식 능력과 세계 최고 수준의 컴퓨터 하드웨어가 지닌 속도 및 기능을 겸비했다.

다시 말해 전통적인 동시에 최첨단 양자 역학의 산물이기도 했다.

이들은 우리 세계가 지닌 것 가운데 가장 신에 가까웠고,

이제 그 신들이 천상에서 전쟁을 벌이는 중이었다.

세계적인 물리학자 스티븐 호킹 박사도 인류의 발전은 생물학적 진화 속도로 인해 제한되기 때문에 인공지능 발전 속도와 경쟁할 수 없을 것이며 인공지능은 인류의 종말을 불러올 수 있다고 언급한 적 있다. 기계들이 인간 사육을 목적으로 매트릭스의 가상현실 안에 가두어 둔다는 영화 매트릭스, 인공지능 자율 체제 스카이넷의 폭주로 핵 전쟁이 일어나고 살아남은 인류와 기계의 처절한 전투를 담은 영화 터미네이터. 모두 AI 발달로 인한 암울한 미래를 그린 영화이다. AI가 인류를 위협할 수 있다는 이 어두운 미래도 한발 앞으로 다가와 있는지도 모르겠다.

인간이 불완전한 동물이라는 것을 고려할 때 인공지능 자율 체제의 표준화는 이미 정해져 있는 일일지도 모른다. 이쯤에서 예상되는 것은 빈부격차를 이어받은 인공지능의 격차로 이어질 차별과 편견으로 인류를 위협하는 날이 오지 않을까 하는 우려와 초지능의 발전으로 단지 인간을 유해한 생물 자체로 판단해 인류를 말살하려는 시나리오도 먼 미래의 이야기만은 아닌 것이다.

켄 리우 작가의 <신들은 죽임당하지 않을 것이다>는 단순 SF 소설을 넘어선, 다가올 어두운 미래에 대한 경고와 그럼에도 희망을 잃지 않을 인류에 대한 믿음이 담겨 있는 뜻깊은 책이 될 것 같다.