친구라는 말

[eBook] 개의 설계사
단요 지음 / 아작 / 2023년 8월

이야기로 배운다. 

AI, 대형언어모델, 퍼지이론이니 소설과 소설 말미에 붙어있는 네 개의 에세이. 아직은 일어나지 않은 소설의 이야기가 뒤에 붙어있는 실제 과학적 성취에 대한 이야기들과 겹쳐서 불안이나 걱정은 조금 더 커진다. 

전기를 만드는 회사에 다니는 나는, 챗지피티에 질문 하나를 던질 때마다 500미리 물 한병이 필요하다는 말을 듣고는 놀라서 한 번도 질문한 적이 없다. 대신 이렇게 질문하고 대답을 듣고 소설을 쓴 소설가의 책을 읽으면서 무언가 아는 척, 기술이란 참으로 무섭다고 생각한다. 

세상의 모든 정보를 통해 배우는 AI가 진실과 거짓을 구분하지도 못하고, 도덕적 감각도 없이, 잘 꾸며진 맥락 가운데, 사람처럼 섞인다. 사실, 사람이 어떤 존재인지도 모르는데, 그럴 듯하게 맥락을 파악하지만, 무언가 비어버린 대화란 사람 사이에도 벌어지는 일이니, 많은 만남이 채팅과 인터넷에서 이뤄지는 어떤 세상에서 상대가 사람인지 아닌지 알 게 뭔가 싶기도 하다. 

점점 더 많이 요구되는 건 가치관에 대한 거라는 생각이 든다. 

거부할 수 없을 만큼 강력하고 압도적인 힘이 무언가를 대신 결정해주는 상황은... 아주 매력적이거든요. 기술적으로 말하자면 결괏값은 무작위일지라도 경로 비용은 0으로 고정된 선택지라고 할 수 있겠죠." - 17%

다들 불합리한 균형 맞추기 게임에 중독된 상태로 태어난다. 밀어내는 사람에게 이끌리고, 너무 쉽게 풀리는 관계는 시시하고, 상대를 어떻게 해보려다가도 정신을 차려보면 즐겁게 내 갈비뼈를 빼내어 바치는 중이고.... - 25% 

게다가 설정값의 굴레에서 벗어나지 못한 건 피차일반이다. 가치관이 합의된 허상에 불과할지라도, 모두의 꿈에 발맞추기 위해서는 갖가지 허상 중 하나를 받아들여야만 한다. - 30%

그래도 어쨌든, 면허가 박탈당하더라도 수많은 사람 앞에서 떠드는 값으로는 충분하다고 봐요. - 37%

하지만 아무리 곱씹어도 슬픔이건 죄의식이건 다가오지 않았으므로 나는 느끼지 않았다. 애당초 내가 그 뉴스를 본 건 가을에 접어들고서도 한참이 흐른 뒤였다. 정리된 의혹을 찾아 읽기는 편해도 흥미진진한 분위기를 만끽하기에는 늦은 시점이었다. - 56%

자신 바깥의 것들에 바쳐지는 맹목성이란 고결한 만큼 자기 본위다. 스스로의 몫이 아닌 것을 감히 자신의 일부로 여기기 때문에, 그 오만한 착각 때문에 몰락마저 기쁘게 봉헌하는 것이다. - 58%

"현존하는 것들이 존재하지 않는 것에 우선합니다."

박사는 그렇게만 답했다. 감정형 인공지능을 설계할 때 가장 먼저 주입하는 대원칙이었다. -64%

기호들의 관계로만 환원되는 이해도 여전히 이해입니다. - 76%

더 많이 학습했는데도 더 모르는 역설적인 상황을 빚어내지 않나 생각해봅니다(여전히 가설이라는 점을 다시 언급해둡니다). -82%

유연성을 발휘하는 친구와 악질적인 선동가를 구분하기가 어렵다는 겁니다. - 87% 

결국 인식을 약간만 왜곡시킨 다음 자기 본위로 끌어 오기만 하면 윤리학의 도구들을 사용해 묘한 일들을 정당화할 수 있게 됩니다. - 90%

그런 이유들은 곧잘 타인의 이유와 경합하므로, 인간이 맺는 상호관계란 '상대에게 자신의 이유들을 정당화하거나 상대의 정당화를 받아들이는 절차'로 이해할 수 있습니다. 이런 종류의 수용과 거부가 행위의 도덕적 성격을 결정하고요. - 91% 

헌신과 애정과 자아도취를 혼동하고 그것을 믿어버리는 태도는 몹시도 인간적이기 때문입니다. - 94%

참, 소설의 이야기는 이북으로 67%에서 마친다. 뒤에 붙은 건 소설에 덧붙이는 말, 아마도 작가가 소설을 쓰면서 여러가지 생각했을 기술적 발달의 현재 상황인데, 읽어볼 만 하다. 

뇌, 인공 뇌, 뇌에 생긴 병, 같은 것에 나는 저항하는 마음이 있다. 이야기가 그럴 듯함에도 불구하고, 한참이나 이야기에 끌려들어가지 못한 건, 설계사의 성정이나 상황이었다. 아마도 사이코패쓰일 수 있는 약으로 다스리는 중인 설계사의 어떤 상황이 설계사를 가장 비중있는 화자, 내가 이입해야 하는 책의 화자로 받아들이기 어렵게 했다.