선을 넘지 않는 제어

트리플 세븐 ㅣ 킬러 시리즈 3
이사카 고타로 지음, 김은모 옮김 / 알에이치코리아(RHK) / 2024년 9월

소설은 나나오가 선물을 전달하는 의뢰를 받으면서 시작합니다. 나나오가 선물을 전달하려고 찾아간 윈튼팰리스 호텔 2010호에 머물던 남성은 나나오를 공격하다 사망합니다. 식은 죽 먹듯이 성공할 수 의뢰였는데, 운 나쁘게 사건에 휘말린 셈입니다.

나나오가 휘말린 사건의 키워드는 ‘기억력’입니다. <트리플 세븐>은 기억을 기준으로 두 존재를 주목해야 합니다. 가미노 유카와 인공지능입니다. 두 존재의 공통점은 한 번 인식한 사실을 절대 잊지 않는다는 점입니다. 두 존재 모두 활용할 영역이 무궁무진합니다. 어떤 이가 어떤 방식으로 협업할 지에 따라 목적과 활용 가치가 달라집니다.

가미노 유카는 이누의 밑에서 사무 작업 및 경리 업무를 맡습니다. 인공지능은 요모기 장관이 사회구조를 바꾸려는 시도에 활용됩니다. 일을 원활하게 한다는 점에서 두 존재는 같은 일을 합니다. 하지만 한 가지 차이가 있습니다. 바로 감정입니다.

가미노 유카는 감정을 지닌 존재입니다. 남들과 함께 지내면 상대의 말과 행동뿐만 아니라 자기 자신의 실수와 실언, 좋지 않은 행동을 잊어버리지 못해서 괴롭다고 말합니다. 가미노 유카는 그 감정을 느끼기 싫어서 인간관계를 끊습니다.(35쪽) 그 와중에 자신의 업무가 불법적 일에 도움이 된다는 사실을 알았을 때, 그 감정은 몇 배나 더 커졌을 것입니다. 그에 반해 인공지능은 감정이 설정됩니다. 인공지능은 요모기 장관의 말처럼 최대한 많은 정보, 한쪽으로 치우치지 않는 정보를 습득해서 확실하게 판단합니다.(166쪽) 즉, 인공지능은 습득하는 정보에 따라서 특정 개인 또는 특정 집단의 감정에 치우친 결과물을 내놓을 수 있다는 뜻입니다. 인류가 구축한 도덕적, 사회적, 법적 기준을 싸가 다 무시할 수도 있습니다. 가미노 유카에게는 선을 넘지 않도록 제어하는 기능이 존재한다는 뜻이기도 합니다.

요모기 장관은 ‘인간이 지능을 활용하는 것보다 인공지능이 과부족 없이 설명할 수 있다(165쪽)’고 말합니다. 그 가능성을 부정할 생각은 없습니다. 하지만 요모기 장관이 소속된 정부 기관 정보국은 과연 어느 쪽으로도 치우치지 않는 정보를 인공지능에 제공할 수 있을까요? 차별과 편견이 대량의 데이터를 확보할 수 있을까요? 국가 차원에서 인공지능을 할용하여 사회구조를 긍정적으로 바꿀 수도 있습니다. 그러나 그 작업을 맡은 이들의 사고방식, 가치관에 따라서 인공지능의 성격도 달라진다는 걸 염두에 두어야 합니다. 따라서 소수의 사람이 인공지능을 교육하지 않고, 다양한 입장을 대변하는 복수의 사람이 진행해야 합니다. 국가의 인공지능은, 기업의 인공지능은 어떤 이야기까지 담고 있을까요?