제1조는 ‘로봇은 인간에게 위해를 가해서는 안 된다, 또는 위험을 방관함으로써 인간에게 위해를 끼쳐서도 안 된다’이죠. 제2조는 ‘제1조와 상충하는 경우를 제외하고, 로봇은 인간들이 내린 명령에 복종해야만 한다’이며, 제3조는 ‘제1조, 제2조에 저촉되지 않은 한 로봇은 자신의 생존을 위해 스스로를 방어해야 한다’는 것입니다. 물론 저는 이러한 원칙들을 언어로 풀어서 당신들에게 말하고 있는 것입니다. 사실 이러한 원칙들은 제 두뇌 속에 양전자들의 복잡하고 수학적인 배열로 각인되어 있습니다."
저는 그 원칙들을 반드시 준수해야만 합니다. 그런데 제1조는 저의 정신적 재능들의 사용을 거의 금하고 있는 절대적인 조항입니다. 은하계를 다룰 때 어떤 행동 방식도 그로 인한 피해를 완전히 예방할 수는 없습니다. 일부의 사람들 때문에 많은 사람들이 피해를 입게 되는 경우, 로봇은 최소의 피해를 택해야만 합니다. 하지만 어떤 한 가지 행동방식을 택한다 하더라도 그로 인해 파생될 수 있는 위험 가능성이라는 것들은 워낙 복잡한 것이어서 그것을 선택하는 데 많은 시간이 걸리며, 설사 선택했다고 하더라도 그 선택에 대해 결코 확신을 가질 수 없습니다."
-알라딘 eBook <파운데이션 5 : 파운데이션과 지구> (아이작 아시모프 지음, 김옥수 옮김) 중에서
"지스카르는 죽기 직전에 로봇공학 3원칙의 제1조에 우선하는 또 하나의 로봇 원칙을 생각해 냈습니다. 우리는 달리 합당한 이름을 찾을 수가 없어서 그것을 제0조라고 불렀습니다. 제0조는 ‘로봇은 전 인류에게 위해를 가해서는 안 되며 또한 위험을 간과함으로써 인류에게 위해를 끼쳐서도 안 된다’는 것입니다. 이것은 당연히 제1조는 다음과 같이 수정되어야만 한다는 것을 의미합니다. ‘로봇은 제0조와 상충될 때를 제외하고는 인간에게 위해를 가해서는 안 된다. 또는 위험을 방관함으로써 인간에게 위해를 끼쳐서도 안 된다.’ 제2조와 제3조도 역시 수정되어야 합니다."n트레비스가 얼굴을 찡그리며 물었다.n"당신은 인류에 대해 무엇이 해롭고 무엇이 해롭지 않은지 어떻게 결정하죠?"n"정확히 말해서 이론상으로 제0조는 우리가 겪는 문제에 대한 해결 방안이었습니다. 실제로 우리는 아무런 결정도 내릴 수 없습니다. 인간이란 구체적인 대상입니다. 따라서 한 개인에게 가해지는 위해는 계산되고 판단될 수 있습니다. 하지만 인류는 추상적인 개념입니다. 우리가 그것을 어떻게 다루겠습니까?"
-알라딘 eBook <파운데이션 5 : 파운데이션과 지구> (아이작 아시모프 지음, 김옥수 옮김) 중에서
|