로봇공학의 3원칙
제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다.
그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙: 제1원칙에 위배되지 않는 한,
로봇은 인간의 명령에 복종해야 한다.
제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한,
로봇은 로봇 자신을 지켜야 한다. - P6
공책에 적힌 내용을 살펴보았다. 별로 마음에 들지 않는다. ‘U.S. 로보틱스‘에서 시간을 보낸 지도 벌써 3일이나 되었다. 집으로 돌아가서 백과사전을 들고 또 그만큼의 시간을 보내야 할 것같다. - P8
"98 99 100."
글로리아는 두 눈을 가리고 있던 오동통하고 조그만 팔을 내렸다. 햇살이 눈부셔 눈을 껌뻑이고 콧잔등을 찌푸리면서 가만히 서있었다. - P14
"무슨 얘길 하려는 건지 알잖아요. 글로리아하고 저 끔찍한 기계 말이에요."
"끔찍한 기계?"
"모르는 척하지 말아요. 글로리아가 로비라고 부르는 로봇 말이에요. 로봇이 우리 애한테서 잠시도 떨어지질 않는다고요." - P23
"내 말 잘 들어요. 앞으로는 우리 딸을 기계한테 맡기지 않을 거예요. 그 기계가 아무리 똑똑해도 말이에요. 기계는 영혼도 없고, 속으로 무슨 생각을 하는지 아무도 모르잖아요. 아이는 금속 기계한테 맡겨지려고 태어난 게 아니에요." - P23
도시에선 날이 갈수록 로봇 문제가 더 심각하게 제기되고 있대요. 뉴욕에서는 어떤 로봇이든 해가 진 다음에는 거리로 못 나오게 하는 조례를 통과시켰고요. - P26
흥분해서 좋을 건 하나도 없다는 게 그레고리 파웰의 철칙이었다. 그래서 땀에 젖어 헝클어진 빨간 머리칼을 흔들며 계단을 뛰어 내려오는 마이클 도노반을 보고는 인상을 찌푸리며 물었다. - P49
스피디의 위치를 표시한 작은 점이 셀레늄 웅덩이를 나타낸 빨간 십자가 주변에서 울퉁불퉁한 원을 그리고 있었다.
.
.
도노반이 덧붙였다.
"두 시간 동안 추적했는데, 저 젠장할 웅덩이를 벌써 네 바퀴 째나 돌고 있더라고요. - P51
아까 말했듯이 당시엔 로봇이 안전하다는 걸 증명하는 게 아주 중요했어. 그래서 사람이 타고 있을 때만 움직이게 한 거야. - P57
"좋아. 제1원칙에 의하면 로봇은 위험에 처한 인간을 모른 척 할 수 없어. 제2, 제3원칙은 이 원칙에 대항할 수 없고. 어떤 상황에서든 말이지." - P77
반년이 지났다. 거대한 태양으로 뜨겁게 이글거리던 화염은 부드럽게 펼쳐진 암흑으로 바뀌었다. 하지만 실험용 로봇의 다양한 기능을 기록하는 업무에서 외적인 환경 변화는 전혀 의미가 없었다. - P83
"넌 누군가가 만든 거야, 큐티. 일주일 전까지 기억이 하나도 없다가 한꺼번에 갑자기 생겨난 것 같다고 네 입으로 말했잖아. 내가 설명할게. 도노반과 내가 수송된 부품을 조립해서 널 만든거야."
큐티는 의혹에 싸인 인간처럼 자신의 기다랗고 유연한 손가락을 쳐다보더니 말했다.
"훨씬 더 만족스런 설명이 분명 있을 거예요. 당신이 나를 만들었다고 하는 주장은 사실이 아닌 것 같아요." - P84
"큐티, 몇 가지 설명할 게 있어. 넌 자신의 존재에 대해 호기심을 보인 최초의 로봇이야. 나는 네가 바깥세상을 충분히 이해할 지능을 갖춘 최초의 로봇이라고 생각해. 자, 이리 따라와." - P85
큐티는 쌀쌀맞았다.
"지름이 몇백만 킬로미터에 달하는 에너지 가득한 동그란 공! 30억 인류가 사는 세상! 무한한 공간! 미안해요. 파웰. 믿을 수가 없어요. 내가 직접 사실인지 아닌지 알아볼 거예요. 그럼 안녕히 계세요." - P88
큐티가 무거운 머리를 천천히 흔들었다.
"이해를 못하는군요. 저들은 로봇입니다. 그 말은 저들이 이성적인 존재라는 뜻이지요. 저들은 진정한 주인님이 누구인지 깨닫게 되었고, 이제 나는 저들에게 진실을 전달하고 있습니다. 모든 로봇이 마찬가지입니다. 저들은 나를 예언자라고 부릅니다." - P97
도노반이 갑자기 웃음을 터뜨렸다.
"아니, 논쟁할 필요가 뭐 있어요? 직접 보여 주면 되죠! 큐티가 보는 앞에서 우리가 로봇을 직접 만드는 거예요. 그럼 자기 주장이 틀렸다는 걸 깨달을 거라고요." - P104
휴가는 2주보다 길었다. 파웰과 도노반도 인정할 수밖에 없었다. 무려 6개월이나 되었기 때문이다. 그것도 유급 휴가였다. 하지만 사실은 우연히 그렇게 된 것뿐이었다. - P118
로봇 대열이 데이브를 따라 일렬로 행진했다. 기계적인 리듬에 맞춰 각각 다른 순서로 두 줄로 나뉘었다가 다시 한 줄이 되었다. 계속 그렇게 반복하고 또 반복했다. 데이브는 단 한 번도 고개를돌리지 않았다. - P131
|