대부분의 사람은 도덕과 법이 작동하는 방식을 혼동한다. 옳고 그름을 가르는 기준이, 타인을 이용해서는 안 된다는 식의 명백한 규칙들로 이루어진 체크리스트라고 여기는 것이다. - P115
타인을 이용해서는 안 되고, 서커스 무대에 장애인을 내보내서 구경거리로 만드는 건 역겨운 일인데, 공짜 상담을 미끼로 정서불안에 시달리는 아이들을 수억 명의 안방에 던져주는 건 왜 용인되는 걸까? - P116
어쨌거나 도덕적 직관은 가끔 규범과 충돌한다. 그리고 괴리에 엄밀한 원칙을 들이대면서 남들의 기분을 해치는사람은 친구를 잃어버린다. 그런데도 사람들은 자신이 명확한 체계 속에서 살아간다고 믿으며 상대가 자신과 같은태도를 보이길 기대한다. - P116
도하
"달리 말하면, 이런 난제를 해결하는 능력이야말로 설계사 업무의 핵심입니다. 인공지능에게 올바른 행동과 적절한 행동의 차이를 알려주고, 상황에 어울리는 감정을불어넣죠. 그 감정이 다시 행동 원리를 구성하고요. 이점을 깊이 설명하기 위해 존재하지 않게 되는 상황에 대한 공포를 예로 들겠습니다. 아끼는 사람이 죽거나, 나 자신이 죽거나 하는 경우 말이에요." - P120
큰 틀이 주어졌을 뿐이지 각본이 확정된 장면은 아니었다. 적당히 말하면 알아서 편집한다기에 평소 생각을 즉흥적으로 떠들어댔을 뿐이다. - P124
본격적인 촬영에 들어가기 전, 박사 때문에 언짢은 일을겪긴 했지만 면전에서 따질 마음은 없었다. 지금은 점수를따놓으면 윤리위원회에 회부될 때 도움을 받을 수 있으리라는 기대가 더 컸다. - P124
"도하 씨, 반갑습니다. 인터뷰룸 밖에서 인사드리는 건오랜만이군요. 저번엔 실례했어요."
박사가 익숙한 태도로 악수를 건넸다. 나는 손을 맞잡고가죽 장갑 아래의 기계 뼈대를 느꼈다.
"실례라뇨, 당연한 일을 한 거죠. 여하간 반갑습니다."
"촬영분은 잘 봤어요. 꽤 떠들썩해질 말씀을 해주셨습니다. 협회에서 좋아하지는 않을 텐데."
"미인가 인공지능만으로도 이미 문제가 크죠." - P125
"윤리위원회에 불려 나갈 준비는 하고 계십니까?"
"어지간하면 면허 박탈 처분이겠죠."
"마음의 준비를 하고 계시는군요. 면허가 아쉽진 않으신가요?" - P126
"나는 겸양과 거절을 구분하지 않는 편입니다. 괜찮겠어요?" - P128
"청문회에 나가면 정치인들은 건전성 검사를 요구합니다. 내가 충분히 도덕적이며 순종적이라는 증거를 가져오라는 겁니다. 인간 기업가들은 절대 듣지 않을 소리죠. 게다가 나는 내부적으로도 충분한 체계를 갖춰놓은 상태예요. 하나의 결정에 네 종류의 윤리 판단기가 동시에 작용하고, 그 판단기 각각은 서로에 의해 감시받고 있습니다. 이구조는 협회의 검증을 거쳐서 청문회 자료로 제출됐고요. 그런데도 다들 의심을 거두지 않습니다." - P129
"그래서 나는 설계사들과 어울리는 걸 좋아합니다. 대칭적이죠. 나는 인간을 인간으로 만들어주는 기계였고, 당신들은 기계를 만드는 인간이니까요. 이야기를 나누다 보면 자연스레 도움이 되는 관점을 얻어가게 됩니다."
"제가 박사님께 도움이 될지 모르겠는데요." - P130
"인간의 마음은 사후적으로 만들어진다던데요. 일단 중동적으로 저질러놓은 다음 거기에 의미를 가져다 붙이는거라고요. 박사님께서 말씀하신 에너지는 그중에서도 제일모호한 것이고요. 허상을 이해하려 애쓸 필요가 있을까요." - P132
"상상력은 좋은 도구입니다. 상담사에게는 상상력이 필요해요. 인간의 뇌는 수식 단위로 분해할 방법이 없거든요.
내담자들은 거짓말을 하거나 기억력이 나쁘거나 자기 본위로 판단하고요. 거기에 비하면, 나는 도하 씨에게 아주 쉬운 질문을 하는 겁니다." - P133
감정 데이터와 신경 패턴은 사람의 뇌에 전극을 꽂아 추출하지만, 그것만으로는 상품을 만들기 어렵다. 길거리에지나다니는 사람을 아무나 데리고 와서 옷을 벗겨낸 다음그걸 맞춤복이랍시고 팔아먹을 수는 없으니 말이다. - P133
나는 뇌설계사들이 기쁨과 분노의 경로를 조율하는 세계를 상상하다가 가라앉은 목소리로 입을 열었다. 설계사는 평론가가아니라 엔지니어니까 결과물을 성공과 실패로 나눌 수밖에 없다고. - P134
"적어도 박사님이 처음에 말씀하신 경우엔 적용되지 않는 이야기 같은데요. 릴리의 열성 팬이 단지 외로워서 드론테러를 저지른 건 아닐 테니까요. (후략)." - P136
"감정과 사유가 몸에 좌우된다는 건, 뇌가 그다지 섬세하지 않다는 건 교양서에도 종종 나오는 내용이죠. 고통과쾌락이 이어져 있다는 것도요. 사람들이 그걸 진심으로 받아들이는 것 같지는 않지만, 다들 한번 읽고 충격을 받은 다음 잊어버려요. 자신에게 복잡하고 고결한 영혼이 있다고 믿으려 하죠." - P137
장광설을 듣는 동안 이상한 낌새를 느꼈는지, 진단명이하나쯤 있으리라 짐작하는 투였다. 나는 환자가 맞지만 보건소 바깥에서까지 그런 취급을 받고 싶지는 않다. - P138
"버추얼 아이돌은 서브컬처로만 남아 있지만 이모지 박사라는 캐릭터는 엄청난 성공을 거뒀습니다. 그 차이를 알아내는 게 중요하죠. (후략)." - P139
콘크리트 덩어리 속의 컴퓨터에게 산책은 무슨 의미일까. 카메라에 인식된 정보와 GPS 좌표를 통해 단말 기기의경로를 설정하는 작업? 박사의 신경 관계망이 그 작업에어떤 감정적 보상을 주는지 묻고 싶어진다. - P142
문명이 아무리 발전해도 치유되지 않는 병이 있다. 자식에게 깔끔하게 정돈된 자연을 보여주고 감탄사를 기대하는건 모범적인 부모의 고질병이다. 정돈되지 않은 땅에서 고대의 성채를 발견하고 얻을 것 없는 모험을 하려는 건 아이들의 고질병이다. - P143
"크고 작은 사건이 그 후로도 몇 개 더 있었어요. 남을괴롭히거나, 혼자서라도 위험한 짓을 벌이거나, 부모님은아니라고 믿으려 했는데 동생만 혼자 눈치가 빨라서 고생을 많이 했죠. 어릴 때는 저도 꽤.. 똑똑했거든요. 그러다가 열네 살쯤, 집에 난리가 나서 상담을 시작했어요. 약도먹고요. 약을 먹었더니 놀랍게도 문제가 거의 사라지더군요. 조금이라도 일찍 병원에 가야 했는데, 제가 어렸죠." - P147
물론 박사도 속으로는 다른 생각을 하고 있을지도 모른다. 하지만 지금 분명한 것은 샛노란 머리에 그려진 미소뿐이다. 관측되지 않은 사건은 일어나지 않은 사건이라고들하고, 어떤 의문은 의문으로만 남겨 두는 게 가장 아름답다. 우리는 조용히 산책로를 마저 걸어 원점으로 돌아왔다. - P148
백해나의 사인은 약물중독이었고, 그 애가 혼자 사는 집에서 죽어갈 때 나는 침대에서 책을 읽고 있었다. 영화를봤을 수도 있고, 아무 일도 없었던 날의 저녁에 무엇을 했는지 기억하는 사람은 얼마 없다. 어쨌거나 나는 살인죄로 기소당하진 않을 사람이다. - P149
고양이를 죽였을 때 아버지는 내 변명을 믿어주었지만동생은 아무 소리도 하지 않았다. 둘만 남은 뒤에야 갑자기두 문장을 툭 던지고 달아났다. 그냥 하고 싶어서 한 거잖아. 거짓말하지 마. - P150
사실 약을 아예 안 먹고 지내던 시절에 무슨 생각을 하고 살았는지 기억이 희미하다. - P151
한쪽 손으로 동생의 가슴팍을 짓누른 채 울대뼈 바로 밑에 칼날을 가져다 댄다. 아슬아슬한 줄타기를 멈추고 추락을 택하는 듯한 홀가분함이 나를 가득 채우는 찰나 동생이 눈을 뜬다. - P151
씻고 자리에 누운 다음에도 나는 긴장과 기쁨 사이를 헤매고 있었다. 잠을 몇 시간이나 잤는지 모를 노릇이다. 가까스로 눈을 붙였다가 깨어났고, 아무 일도 없었던 것처럼출근 준비를 마쳤다.
"어제 방에 들어왔어?"
"아니."
힐문이 이어지기를 기대했지만 동생은 이모지 박사 이야기로 주제를 돌렸다. 나는 깊은 안도와 미묘한 상실감을동시에 느끼면서, 백해나의 죽음을 곱씹어 보았다. - P153
개
"백해나한테도 나름대로 도와줄 이유가 많았을 거예요.
남의 소송에 참견하는 건 재미있는 일이고, 옛날 생각도났을 테고, 무엇보다도 릴리와 얽히는 건 누구에게나 이득이니까요. 그런 이유 중에 뭐가 제일 컸는지는 모르겠어요." - P153
개
"릴리가 저를 데리고 막무가내로 집을 나왔다가 돌아가는 일이 몇 번쯤 있었죠. 백해나는 사과를 하거나 화를냈고요. 뭔가 선물을 해주기도 했는데.. 문제는 릴리한테도 돈이 충분히 많았다는 거였죠. 그런 거로는 해결될일이 아니었어요." - P158
도하
"다시 떠올려봐. 백해나가 릴리한테 뭐라고 했지? 정확히 무슨 일이 있었던 거야?"
(카메라가 워크스테이션에 연결된 모니터를 비춘다. 신경 관계망의 우상단에서 집중적인 반응이 나타나고 있다. ‘전문적인 인상을 주는‘ 기억 추출 절차를 8초가량의 쇼트로 삽입한다. 해당 쇼트 이후에 이어지는 영상은 여전히 노이즈로 왜곡되어 있다. 개는 모니터를 빤히 바라보다가 고개를 떨어트린다.) - P160
릴리
"부담감이 너무 심해서, 오히려 모든 걸 포기해버리는 일이 종종 생기잖아요. 제가 그랬어요. 당장에라도 기자들의 연락을 받고 카메라 앞에 서야 할 것 같았는데, 아무말도 하고 싶지 않았어요. 적어도 그 사람들이 원하는 이야기는 해주고 싶지 않았죠." - P162
|