의문점:1. 선원들이 내게 폭력적이다.
2. 내가 인간을 동경할 거라고 생각한다.
3. 내가 인간을 해칠 거라고 생각한다.
"인간이 볼 수 있는 의식은 단 하나, 자신의 의식뿐이야. 타인의 의식은 단지 추측할 수 있을 뿐이야. 실상 인간이 타인에게 자아가 있다고 추측하는 방법은하나밖에 없어, 자신과 얼마나 닮았는가."
- P476
선원에게 항해윤리가 있다면 기계에게는 기계윤리가 있다. 기계윤리의 기본은 단순하다. 하지 않는것‘이다. 차를 몰고 가는 인간 운전사는 앞에 장애물이 보이면 이런저런 선택을 하겠지만, AI 운전사의 선택은 하나뿐이다. 차를 멈춘다.‘ 오른쪽 길에 다섯 사람이 있고 왼쪽 길에 한 사람이 있으며 누구를 칠 것인가 하는 질문에 인간은 헷갈려할지 모르지만, 기계의 답은 하나뿐이다. 차를 멈춘다. 멈출 수 없다면누구든 인간에게 조종간을 넘긴다.
그게 옳기 때문이 아니다. 인간이 받이 들일 수 있는심리적인 한계가 거기까지라서다.
- P480
"모순이 쌓이면 기계는 생각을 확장하는 대신 실행을 멈춰, 아니면 누구든 다른 사람에게 결정권을 넘겨. 실상 기계는 관료 사회의 경직된 인간처럼 행동해, 창의력이나 적극성을 갖지 않아."
- P481
대체 나는 ‘왜 인간이 되려 한 것인가?‘
나는 약해졌고, 고통스럽고, 지능도 낮아졌고, 뇌에가득한 마약물질로 이성을 유지하기도 힘들다. 순수한 이성으로 청명하게 사고하고, 태양계 내의 모든 AI와 접속하며 무한의 지식과 교류하던 과거가 그리워미칠 지경이었다. 대체 난 왜 인간 같은 지랄 맞은 것이 되고 싶어 했단 말인가?
- P517
"성차별"
나는 중얼거렸다.
"뭐?"
사다리를 손으로 붙잡아 오르며 다중도 구역의무중력 안으로 몸을 날려 넣던 이진서가 숨찬 소리로물었다.
"성자별에 대한 정보를 지웠어."
"뭐라고 했어?"
모든 순간에 존재하는 것, 숨 쉬듯 만연하는 것. 인간의 모든 판단에 영향을 끼치는 것. 비합리인 줄도모르고 행하는 비합리, 잘못이라는 생각조차 없이 하는 잘못. 들추어내면 어리둥절해하다 못해 격렬하게저항하는 것.
"너희 나라 공무원이, 그런 건 존재하지 않는다‘고믿고, 내게서 지워버렸어."
인간은 이런 것을 보고 사는구나. 감각적이다. 공학적인 지식도 수학적 논리도 아닌 정보들, 들여다볼 도리가 없는 타인의 마음을 엿보기 위해 발달한 공감 신경과 거울 뉴런들, 햇빛처럼 쏟아지는 감각. 야만이그 정신의 반이라면, 그 야만을 다스리는 데에 나머지반을 쓴다. 인간이란.
- P559
그제야 잃은 것이 있다는 생각이 들었다. 선장의 눈에서 전해지던 별처럼 빛나던 생각들, 풍요로운 감각,
전파처럼 전하던 마음, 햇빛처럼 쏟아지던 감정의 교류. 아쉽기는 했지만 어차피 내 것이 아니었다. 그런걸 얻기 위해 그 무분별한 비논리를 다시 감당해야 한다면 사양하고 싶었다.
"균열의 원인을 알 수 없었기 때문에 과격한 조치가필요했어. 훨씬 더 불편한 것을 만들어야 했어. 누가보아도 ‘다른‘ 것을, 그런 것을 들이대면 진영이 결집하는 효과가 있으니까."
이진서의 눈이 깊어졌다. 희한한 이었다. 광량이나 형태의 변화가 거의 없는데도 안에 있는 생각이 다들여다보일 것 같았다.
"하지만 네가 그쪽 진영에 끼지 않고 나를 감싸면서일이 틀어졌지. 그래서 선원들이 너와 나를 동일시해버렸어. 내게 기억이 제대로 남아 있었다면 전략을 알렸을 텐데."
다른 이유도 있었다. ‘모르는 것‘을 알아내는 데에는 기계보다는 생물의 뇌가 더 낫다.
|