‘아이, 로봇’, 이 작품이 거듭 소환되어야 하는 이유

아이, 로봇
아이작 아시모프 지음, 김옥수 옮김 / 우리교육 / 2008년 7월

단행본으로 묶여 ‘로봇공학 윤리 3원칙’이 각기 현실과 마주했을 때 발생하는 미묘한 상황들을 통해 인간 사회의 이해를 요청한 10편의 단편 소설이 1950년에 발표 된 이래, 70여 년의 시간이 지났다. 더구나, 로봇공학 제 1원칙이 실린 단편 「로비, 소녀를 사랑한 로봇」은 1940년에 발표되었으니 80여 년 전에 ‘아이작 아시모프’라는 천재 작가는 인간 사회에 도래할 인간과 로봇이 공존하는 세상, 이 공존이 빚어낼 과학기술의 윤리적 문제를 현실의 과제로 인식했다는 말이라 할 수 있을 것 같다.

그런데 이미 인공지능(AI)과 결합한 로봇이 현실임에도 오늘의 인간 사회는 이에 대해 한 걸음의 기술적 진보도 내딛지 못하고, 고작 이 윤리원칙만을 외워대며, 그 산업적 이익에만 몰두하고 있을 뿐이다. 사실 수록된 단편들의 면면은 인간과 공존할 수밖에 없는 로봇과 마주하는 윤리적 상충에 대한 사례들이며 이에 대한 물리적, 심리적 해석이라고도 할 수 있다. 우리는 더 이상 늦출 수 없는 과학의 윤리, 공학과 기술 윤리의 실천적 방안들을 찾아내야 한다. 때문에 현대의 고전이 된 『아이, 로봇 (I, ROBOT)』은 읽어야 할 이유가 되고도 남을 것 이다.

단편 「로비, 소녀를 사랑한 로봇」에는 ‘글로리아’라는 소녀의 유모 로봇인 ‘로비’가 등장한다. 이 작품은 로봇공학의 제 1원칙, “로봇이 인간에 해를 입히는 건 불가능하다는 원칙, 1원칙을 어길 가능성이 조금이라도 생기기 전에 로봇이 완전히 멈춰 버린다는 것”을 위기에 처한 글로리아를 구해내는 로비의 희생적 행위로 인간과 로봇의 관계를 정의하는 최초의 것이라 할 수 있다.

「스피디-술래잡기 로봇」은 로봇공학 3원칙이 모두 정리되어 발설되는 최초의 작품일 것이다. 인간의 명령과 그 명령의 수행 행위가 로봇 자신을 위험에 처하게 했을 때, 로봇 행위의 교란을 보여주는 사례인데, 80도가 넘는 태양열이 지표면에 내리쬐는 수성이 배경이다. 셀레늄을 채취하는 작업을 수행하라는 명령과 채취장소가 화산 폭발의 징후로 자신의 몸체를 녹일 수 있는 일산화탄소의 분출이라는 윤리원칙의 상충 현장이다. 소설의 장면은 근처에서 오도가도 하지 못하고 주변을 끝없이 맴도는 로봇 스피디(SPD 13호)의 행위로 묘사되고 있다.

이것은 제1원칙에 위배되지 않은 한 로봇은 인간의 명령에 복종해야 한다는 제2원칙과 제1원칙과 제2원칙에 위배되지 않는 한 로봇은 자신을 지켜야 한다는 제3원칙이 평형 상태를 이룸으로써 야기된 이상 행위이다. 이를 해결하기 위해 제1원칙이 발동하도록 하는 사건을 야기함으로써 로봇을 구하는 서사로 이루어져 있다. 소설은 이처럼 윤리원칙의 상충과 교란을 일으키는 사례들을 예시하며, 과학이 소홀할 수 있는 기술윤리의 디테일을 성찰토록 하는 것으로 여겨진다.

「큐티-생각하는 로봇」, 「데이브, 부하를 거느린 로봇」, 「네스터 10호 -자존심 때문에 사라진 로봇」, 이들 세 편의 단편은 ‘사유하는 로봇’이 야기할 에피소드들인데, 논리적 사고를 하도록 구성된 로봇 QT 1호의 인간 존재에 대한 무시, 인간이 없을 때 변질되는 로봇의 주체적 역량 발현 욕구를 보여주는 로봇 DV5호, 특히 ‘알렉스 프로야스’ 감독에 의해 《아이, 로봇 (I, ROBOT》이라는 영화의 중심 에피소드로 오마주된 「네스터 10호 -자존심 때문에 사라진 로봇」은 인간의 이기심으로 인해 로봇공학 제 1원칙을 새겨 넣지 않은 변종 로봇의 의도적인 거짓말이 빚어내는 충격을 보여주며, 제1원칙의 불완전성과 그 엄중함을 경고한다.

아이작 아시모프는 로봇의 사고는 인간 사고의 형식과 정서를 학습하며 이를 토대로 행동한다는 가설을 전제로 하고 있는 것이다. 물론 기계 논리와 인간의 이성은 다르다고 반박하는 주장도 만만치 않는 것이 현실이다. 그러나 “사고력을 지닌 존재, 의식적이든 아니든 남에게 지배당하는 걸 싫어하며, 더구나 열등한 존재, 혹은 열등하다고 간주되는 존재에게 지배당할 때는 싫어하는 마음이 훨씬 강해진다.(203쪽)”는 사례로써 ‘로봇 네스터 10호’는 자신의 우월성과 인간의 열등함을 느끼는 존재가 제 1원칙을 얼마나 불완전한 것으로 드러내는 가를 입증한다.

이 작품은 그가 일반 로봇 62대의 행렬에 숨어들었을 때, 외형이 동일한 구별 불가능한 로봇에서 이 변종 로봇을 찾아내는 것이 얼마나 어려운 일인가를 보여줌으로써, 제 1원칙이라는 로봇에 강제된 반응 구현의 중요성을 다시금 환기한다. 행위 실험을 통해 결국에는 이 존재를 구별해내지만 이때 로봇 네스터 10호의 아래와 같은 답변은 윤리원칙과 지적존재로서 자신의 정체성의 격렬한 갈등 그것이다.

“사라지라는 명령을 받았습니다..... 저는 많은 걸 알고 있습니다..., 제가 발견되었다고...주인님은 생각할 겁니다..... 창피합니다.... 저는 지적인 존재입니다... 그런데 주인님은 저보다 약하고.... 느린데...” -238쪽

이어지는 단편 「브레인-개구쟁이 천재」는 로봇공학 3원칙이 강제된 슈퍼컴퓨터가 인간의 죽음과 그 존재의 파괴가능성과 마주했을 때의 일례이다. 여기서 중요한 관점은 이것이 인간적 정서, 소위 인격이라는 것을 갖추었을 때, 기계가 유머를 지닌다는 것이 어떤 의미인지를 생각토록 한다. 주어진 문제의 해결을 위해서 인간이 죽어야 하는 것일 때, 현실을 도피하는 방법으로서 유머를 이용하는 ‘슈퍼컴퓨터 브레인’이 딜레마를 탈출하는 방법을 감상하도록 한다.

AI는 과연 어떤 형태로 설계, 구축되어야 하는 것일까? 오늘의 공학기술자들은 자신들이 만드는 것이 무엇인지를 알고 있을까? 이 문제는 양자 두뇌의 로봇(AI 컴퓨터를 아우르는 의미로서)이 자체 진화를 거듭할수록 인간 전문가는 그것을 전혀 이해할 수 없는, 도저히 따라갈 수 없을 만큼 지적 간격이 벌어진다는 실질적 과제를 던진다. 어쩌면 이 소설집의 후반부에 게재된 두 편의 소설 「바이어리- 대도시 시장이 된 로봇」, 그리고 「피할 수 있는 갈등」은 이처럼 외형이 구분 불가능할 만큼 인간화된 로봇과 인공지능 슈퍼컴퓨터가 지배하는 세계의 긍정적 답변이라 할 수 있다. 물론 나는 이러한 낙관적 미래에 동의하지 않는다.

‘특이점이 온다’며 인공지능, 생체공학적 혁명으로 인한 새로운 기술의 시대를 외친 ‘레이 커즈와일’과 같은 낙관주의자들의 부류가 오늘날 기술혁명의 주류이듯, 소설 속 2044년처럼 세상 전체를 움직이는 힘이 기계에서 나오게 될지는 모르지만, 생물학적 신체를 지니고 온갖 다층적인 정서를 표현하고 감각하는 인간들에게 발생하는 사건은 엄정해보이지만 궁극적인 윤리원칙으로서는 여전히 불완전한 기술윤리에 대한 인류적 논의와 합의 과정의 숙고와 필요를 느끼게 한다.

【321쪽, 「바이어리, 대도시 시장이 된 로봇」중에서】

로봇의 주인인 인간을 죽이려는 미친 인간이 있다고 하자. 그런데 이를 막는 방법이 그 미친 인간을 죽이는 것 말고는 어떠한 방법도 없을 때, 로봇은 제1원칙을 지키기 위해 제1원칙을 어겨야 하는 상황에 봉착한다. 기계는 스스로 학습한다. 이렇게 제1원칙을 준수할 수 없어 파괴하는 행위는 윤리 원칙 자체의 강제성을 흐리게 만든다. 결국 사유하는 로봇은 자신들보다 열등한 인간 존재를 향한 윤리 원칙의 고수가 아무런 의미를 지닌 것이 아님을 깨닫는 것은 그들의 논리적 연산 속도에 견주어 그리 오랜 시간이 소요되는 것이 아닐 것이다.

그러나 단편 「피할 수 있는 갈등」에서 로봇 심리학자 ‘수잔 캘빈’은 초대형 컴퓨터의 사소한 불일치, 오류는 인간의 오래된 본성, 그 이기심에 근거한 입력 데이터의 조작적 오류이며, 컴퓨터는 이처럼 왜곡되는 데이터의 경향조차 자신의 보전을 위해 포함하여 해석하고 인류의 궁극적 선을 지향할 것이라며, 인간의 어긋남조차도 포용할 것이라고 낙관적 견해를 제시한다. 여기에는 굳건한 제1원칙의 고수를 전제로 하고 있다. 나아가 작가는 제1원칙을 확장해서 인간을 인류로 그 대상을 확대하여 개선된 정의를 내놓고 있다.   “로봇은 ‘인류’가 위험에 처하도록 해서는 안 된다.” 는 ‘로봇공학 O원칙’, 즉 최고의 원칙을 제시하는 것이다.

과학기술이 발달하면서 인간에게 유익한 일이라든가, 직접적 위해가 가지 않을 것이라며 진행한 것들이 종국에는 인류에게 커다란 위협이 되는 것들을 우리들은 무수히 목격해왔다. 생명연장, 치명적 질병에 대한 효과적 처리, 지식의 총합적이고 효율적 이용 등등을 위해 기계적 신체, 두뇌 임플란트, 인간-기계 융합, 초지능 슈퍼컴퓨터 등등의 선한 목적의 당위적 요구를 주장하며 기술적 윤리의 목소리를 잠재우는 것이 현실이다.

그러나 이러한 비즈니스적 효율성의 추구에 윤리라는 대 원칙이 외면될 때, 그 도래할 종국은 무엇인지 우리는 생각해야 한다. 인간은 무엇인지, 인간 세계는 어떠한 미래를 감당할 수 있는지, 인간과 기계가 공존하는 세계에서 인간은 무엇이어야 하며, 기계는 또 무엇이어야 하는지, 이 오래된 소설집이 21세기에 거듭 소환되는 이유일 것이다.