미래사회의 인공지능과 안드로이드

All Systems Red (Paperback)
Martha Wells / Tor.com / 2017년 5월

미래사회의 인공지능과 로봇에 대한 판타지가 좋아서 관련된 최근 작품을 찾다가 휴고상과 네뷸러 상을 동시에 받은 이 작품을 알게 되었는데,  굿리즈 평점도 좋고 아마존 보면 대중의 호응도 좋은 편인거 같아서 읽었다. 첫 문장을 보면 더 읽지 않을 수가 없다. 

I COULD HAVE BECOME a mass murderer after I hacked my governor module, but then I realized I could access the combined feed of entertainment channels carried on the company satellites. It had been well over 35,000 hours or so since then, with still not much murdering, but probably, I don’t know, a little under 35,000 hours of movies, serials, books, plays, and music consumed. As a heartless killing machine, I was a terrible failure.

기계인 줄 알았는데 갑자기 기계 속에서 인간의 형상이 튀어나와 인간과 유사한  눈빛, 감정을 드러내는 대화, 그리고 자잘한 계략과 속임수 같은 걸 드러낸다면 얼마나 당혹스러울까. 그런데 그런 당혹스러움은 당혹스러운 인간의 관점이 아닌, 그 당혹스러움을 대하는 상대편 관점에서 서술되었다는 점에서 새롭고 흥미롭다. 1인칭 시점의 ‘나’는 기계다.  보안에 필요한 병기를 장착했지만, 드라마를 좋아하는 소심한 이 로봇은 국내 작가 구병모의 <한스푼의 시간>에서 느꼈던 인공지능 로봇의 감수성과 인간과의 교감이 부드러운 휴머노이드가 아닌 스스로를 살인봇이라고 알고 있는 아연맨의 로봇 버전쯤 되는 외피를 둘렀다. 그(것)은 인간의 생태적 특징을 감춘 수줍기 그지 없는 어떤 존재로 반은 유기적 파트로 되어 있고 반은 무기를 장착한 강철 수트와 보안 장비로 되어 있다. 그러나 인간반 로봇반이라는 정의를 이 로봇은 극혐한다. 자신의 오가닉파트와 기계파트를 정확하게 기능적으로 나눌 수 없다는 것이다. 이 반반 때문에 때로 극심한 정체성의 혼란을 갖는 고집불통 귀여운 머더봇.

또다른 흥미로운 점은 인간화된 로봇을 다루는 인간의 혼란스런 감정이다. 인류의 탄생에서부터 오랜 기간 동안 형성되어 온 윤리적 규범은 인간과 인간 사이에 비교적 명확하다. 하지만, 겨우 몇 세대에 갑자기 나타나서는 빠르게 인간과 비슷하게 행동하고 말하는 개체가 되어 버린 로봇에게는 사정이 다르다. 이제까지 그냥 냉장고나 자동차와 다를 바 없는 자동화된 하나의 기계라고 생각하고 있던 보안 로봇이 갑자기 인간적으로 그것도 자신을 희생하고 남들을 살리려는 아주 이타적인 모습으로, 또 위기를 대처할 아이디어들을 생각해 내는 지혜로운 모습으로 바뀌었을 때, 이제 인간에게 이 로봇은 망가진 TV나 냉장고처럼 발로 뻥뻥차거나 찌그러뜨리거나 함부로 욕을 뱉을 수 없다. 

스스로에게 살인로봇이라는 허세스런 이름을 붙인 이 로봇은 사람을 죽이기는 커녕 사람을 살리기 위해 책이 끝날 때까지 분주하게 머리를 굴린다. 그리곤 후회한다. 아씨, 진짜, 내가 내 중앙 모듈을 해킹했을 때 멋진 살인로봇이 될 수도 있었는데… 대신 이 로봇은 외계 행성 탐사팀의 보안을 위해 기업에서 파견된 보안로봇으로,  SecUnit이라는 상품으로 대량생산되어, 이 행성의 다른 편에서 탐사를 하고 있는 다른 팀에도 똑같은 상품이 세 개가 일하고 있다.

하지만 중앙 모듈을 해킹한 머더봇은 스스로를 제어할 수 있는 힘을 갖게 되고, 자동 업데이트를 거부하고, 쓸모없(다고 판단되)는 주요 정보를 지우고 자기 마음대로 자기 자신을 제어한다. 그 중 하나가  말하자면 넷플릭스 같은 엔터테인먼트 채널을 해킹해서, 시간이 나는 족족 달의 성소라는 시리즈물을 보고 있었던 바, (이건 내 생각이지만) 학습에 의해 두뇌와 생각이 형성되는 인공지능적 특성상 이 달의 성소라는 드라마는 머더봇의 의식 형성에 큰 영향을 주었을 것으로 판단된다. 그러니까 어느날 기계가 자기 자신을 해킹해서 허브시스템을 통해 조정되는 모든 모듈을 마음대로 필터링하고, 의식이 생긴 유니크한 존재가 되었다.

이 SecUnit를 만들고 그들을 파견하고 행성에 기지를 설치한 보안 담당 회사가 이익만 추구하고 SecUnit 자체를 저가의 장비로 생산하다 보니, 머더봇은 자신의 신체적 능력에 불만이 많다. 하는 일 없이 TV 시리즈나 보며 시간을 보내던 머더봇에게 크레이터 탐사를 나갔던 팀원이 외계 생물체에게 공격당하는 사고가 생긴다. 한 사람은 이미 크게 다쳤고 또 한 사람은 완전히 패닉하여 정신이 반쯤 나가 있는 상태에서, 이 로봇은 다친 사람을 둘러 업고 또 한 사람을 진정시키기 위해 헬멧을 벗고 그 사람의 눈을 똑바로 처다보며 진정시킨다. 이 지점부터가 바로 이 로봇이 자기가 인간들에게 코가 꿰었다고 생각하는 부분이다. 이 로봇은 자신의 생물적 부분을 인간들에게 노출하는 것을 극도로 싫어한다. 특히 표정으로 감정이 드러나는 얼굴을 노출하기를 극도로 싫어해서 불투명 헬멧을 쓴 상태에서만 안정되고, 그들(인간)이 자신에 대해 (잘못) 알고 있는 딱딱한 기계적 모습만을 노출한다. 하지만 보안봇이라는 사명을 가지고 인간을 구하기 위해,  이제까지 탐사대장인 멘사 외에는 자신의 인간 파트의 모습을 한 번도 내보일 필요 없게 만든 헬멧을 처음으로 벗어 그들에게 생물학적 인간성의 정체를 노출시키고 말았으니 이것이 머더봇을 가장 심란하게 한다.

박사와 연구원들로 구성된 이 작은 탐사팀이 점점 더 죄어 오는 위험에 직면할 수록, 이 이름뿐인 살인봇의 역할은 더욱 중요해지고, 자신은 통신망을 통해 그들이 자기 자신에 대해 하는 말과 감정들을 고스란히 엿듣게 된다. 머더봇이 원하는 건 자신을 향한 진정한 무관심이다. 이제까지 강철수트와 불투명 헬멧은 자신의 생물학적 인간적 부분을 완전히 가려주었지만, 그들을 구하기 위한 몇 번의 전투를 통해 생물학적 수트가 부서지고 살갗이 찢어지고 벗겨지고 피가 나는 모든 끔찍한 신체적 상해가 그들 앞에 노출되자, 자신의 아픔보다 그런 살아있는 것들이 드러난 것이 불편하다. 이 로봇의 생리를 아는 멘사만이 팀원들에게 로봇에 대한 관심을 끊고 처다보지도 말고 없는 것처럼 행동하라는 각별히 주의를 주의를 주지만, 마음 착한 대원들은 자꾸 이 기계에 감정이입을 하고, 대답하기 힘든 질문들을 해댄다.

대원들 중에는  아연맨처럼 신체적 정신적 능력이 인공적으로 강화된 인간이 하나 있다. 몸과 마음에 인공적인 부분이 섞여 있으니 유기적 요소가 조합된 로봇과 무엇이 다를까. 육백만불의 사나이처럼 인간에서 시작했다면 신체가 기계로 대치되고 두뇌의 일부도 기계적으로 강화되었다면 여전히 인간이고, 기계로 디자인되어 유기적 요소가 인간만큼이나 가미되었다면 그것은 기계인 것일까. 무엇이 인간이고 무엇이 기계일까 그것을 나누는 경계는 어떻게 정의해야 할까 이런 질문들을 끝도 없이 던진다. 이 강화된 인간은 가장 냉철하고 객관적이게 머더봇을 바라보는 사람 중 하나로, 시스템을 해킹한 로봇이라면 그 무슨 짓도 할 수 있지 않느냐고 한마디 했다가 뒤끝 작렬하는 우리의 머더봇에게 끝까지 미움받는 캐릭터로 자리잡는다. 대원들은 로봇을 지칭할 때 대명사 it를 쓰지만 그럼에도 불구하고, 그가 강화인간과 다른 점이 도대체 뭐냐고 서로에게 논쟁하는 소리 엿듣는다. 사실 그 강화인간은 로봇의 해킹 사실 뿐만 아니라 이 로봇이 스스로에게 머더봇이라 이름 붙였다는 사실까지 팀원들에게 폭로하는데, 그건 사생활 침해 아니냐고 따지기까지 한다. 

“It calls itself ‘Murderbot,’” Gurathin said. I grated out, “That was private.”

머더봇에게 또 한번의 결정의 순간이 온다. 대원 모두가 죽느냐 사느냐의 기로에 선 큰 모험적 탈출을 앞두고 강력한 리더쉽과 배려심으로 머더봇을 보호해주던 멘사 대장은 작전을 앞두고 로봇에게 헬멧을 벗을 것을 부탁한다. 모두들에게 신뢰를 보여주어야 한다는 거다. 불투명 헬멧 속에 표정을 숨길 수 있기에 표정관리가 안되는 머더봇에게 헬멧을 벗는 일은 가장 싫어하는 일이지만, 대의를 위해 그렇게 한다. 그럼에도 여전히 자신은 이들에게 보호받는 귀여운 생명체 있는 존재보다는 인간이 자신을 로봇이라고 생각하는 편이 훨씬 낫다고 생각한다. 

But I needed them to trust me so I could keep them alive and keep doing my job. The good version of my job, not the half-assed version of my job that I’d been doing before things started trying to kill my clients. I still didn’t want to do it. “It’s usually better if humans think of me as a robot,” I said.

하지만 대장은 여전히 설득 중이다. 그들이 너를, 그들을 돕는 인간으로 생각하는 것이 더 좋아. 왜냐하면 나도 너를 그렇게 생각하니까. 

It would be better if they could think of you as a person who is trying to help. Because that’s how I think of you.”

하지만 마지막 대화에서 이제까지 그가 왜 그토록 자신의 인간적인 부분을 숨기고 싶었는지가 드러난다. 선의에 의한 관심이라 하더라도, 호기심과 탐구의 대상이라는 걸 느낄 수 있다면, 섹스봇이 되는 것과 뭐가 다르냐는 것이다. 

“You don’t need to look at me. I’m not a sexbot.”

머더봇을 바라보는 인간의 감정 못지 않게, 머더봇이 인간에게 갖는 불편함은 가장 흥미롭다. 그것은 인간이 이 의식있는 흥미로운 로봇을 볼 때 그들을 대상화하기 때문이다. 우리 인간은 우리와 다른 개체를 다룰 때 우리와 같다고 생각하고 행동하는데, 그러니까 괜찮냐 어떻게 생각하냐 이런 질문들은 이 로봇에게 배려가 아니라 폭력이 될 수도 있다. 이 로봇은 그들이 자신을 인간처럼 취급해야 한다고 하면서도 자신을 사물(It)로 지칭하는 말을 엿듯는다(“You have to think of it as a person,” Pin-Lee said to Gurathin. “It is a person,” Arada insisted.). 말 자체가 모순인 것이다. 예전에 미국의 흑인 탄압시절에 흑인들에게 선의를 베푼다고 하면서 그들의 곱슬거리는 머리카락이나 부드러운 피부에 관심을 가지고 흘긋거린다면 누가 좋아하겠는가.  비슷한 예는 수도 없이 많다.

머더봇은 크게 다쳐서 죽어가면서 죽음에 대해 사유한다. 

Maybe this was how murderbots died. You lose function, go offline, but parts of you keep working, organic pieces kept alive by the fading energy in your power cells.(81)

I was designed to work with both organic and machine parts, to balance that sensory input.

또한 머더봇이 다쳐서 정신을 잃은 동안 적이 사람을 보면 모두 죽이게 하는 전투 모듈을 심어 놓았음을 알게 되자, 탐사대장에게 자신을 포기하라고 말한다. 이런 장면은 휴머니즘적 감동이 있는 전쟁이나 첩보 영화 같은 곳에서 종종 보이는 클리셰이긴 하지만 여전히 감동적이다. 하지만 눈물을 쥐어짜는 클리세와는 달리 대부분은 위트있고 코믹하다. 

Mensah, you need to shut me down now.

It’s downloading instructions into me and will override my system. This is why the two DeltFall units turned rogue. You have to stop me.”

I knew I could kill everyone on the hopper,

시리즈의 첫 편인 이 소설은 킨들 에디션 뿐만 epub의 이북 버전으로도 저렴한 가격에 판매된다. 페이퍼백도 저렴하다. 중편이라 짧고, 실제 음모와 관련된 스토리라인보다는 상황적인 부분을 설명하는 대화체와 일기체가 흥미로우므로 꼼꼼하게 읽지 않아도 충분히 재미를 만끽할 수 있을 것으로 보인다. 로봇과 인간과의 교감, 그리고 착한 로봇의 헌신적(으로 보여지는)인 행동을 살인이라는 제목을 가진 점이 아이러닉하다. 정교하지는 않지만 전투씬이 좀 있으므로 낚시는 아니지만, 번역서가 나온다면 구병모의 <한스푼의 시간> 같은 분위기의 제목을 달면 더 어울릴 것 같다.