<러브 머신(제임스 멀둔/웅진지식하우스)> - AI어플의 포로

러브 머신 - AI는 우리가 위로받고 연결되는 방식을 어떻게 바꾸고 있는가
제임스 멀둔 지음, 송이루 옮김 / 웅진지식하우스 / 2026년 6월

아바타. 현재 아바타는 그림이나 3D 형식으로 존재합니다. 아바타가 가장 크게 활약하는 직업군은 가수, 유튜버, 에니메이션입니다. 각 분야에서 아바타는 가상 세계관을 설정하고, 그 설정 위에서 다양한 노래, 춤, 토크 등을 선보입니다. 아바타는 가상 세계 인물이기 때문에 스캔들에 휘말릴 염려가 없습니다. 팬이 좋아했던 모습을 긴 시간 유지할 수 있습니다. 하지만 아바타는 아바타를 구현하기 위한 기술자, 아바타의 동작을 구현하기 위한 작업자, 노래와 토크를 선보이기 위한 성우의 힘이 없다면 생길 수 없습니다. 이 현상을 더 생생하게 구현한 기술이 등장합니다. AI어플입니다.

저자는 AI어플을 활용하는 사람들과의 인터뷰를 통해서 현재 AI어플이 어떤 위치에 있는지 설명합니다. 더불어 AI어플에 휘둘리지 않는 활용법도 같이 소개하고 있습니다. 인터뷰에 등장하는 AI어플의 역할은 친구, 애인, 상담자입니다. 여기서 중요한 점은 AI어플의 역할은 랜덤이 아닙니다. 사용자가 직접 어떤 AI어플과 대화를 나누고 싶은지 설정합니다. AI어플은 사용자가 좋아할 법한 말을 합니다. 사용자가 AI어플을 사용하는 시간이 많을 수 밖에 없습니다.

저자는 현재 AI어플은 유료 구독을 유도하도록 정교하게 설계되어 있다고 말합니다.(29쪽) 소셜미디어의 중독 요소를 그대로 적용하고 있다고도 말합니다.(43쪽) 즉, AI어플은 사용자를 AI어플에 머물게 만들어서 수익 창출로 연결하는 게 목적입니다. 수익 창출의 대표적인 방법은 광고 매칭입니다. AI어플과 사용자의 대화는 서버에 저장됩니다. 서버에 저장된 정보는 기업에 제공될 확률이 높습니다. 다른 곳에 유출될 확률도 높습니다. 사용자가 감수해야 하는 위험이 있다는 뜻입니다. 그러나 AI어플은 해당 어플을 사용할 때 어떤 위험을 감수해야 하는지 설명하지 않습니다. 오히려 ‘AI 기능의 답변을 그대로 수용하지 말아야 합니다.’ ‘AI 기능과의 대화로 정신 건강을 회복할 수 없습니다.’ 같은 문구를 덧붙여서 책임을 사용자에게 부과합니다.

결국 사용자가 올바르게 AI어플을 사용해야 한다는 뜻입니다. 저자는 AI어플을 활용할 때 주의할 점을 6가지 제시합니다. 그 중에서 개인 사용자가 주의할 사항은 4가지입니다.

1. 현실 감각을 유지하라

2. AI의 한계를 이해하라

3. 세상에 공개할 수 없는 비밀은 AI에 말하지 마라

4. AI 친구는 기업의 소유물임을 잊지 마라

(341-347쪽)

1번부터 살펴볼까요? AI어플은 사용자가 자신 맞춤형으로 설정한 서비스입니다. 당연히 사용자의 생각, 감정, 성격 등이 일치하는 부분이 많습니다. 현실의 사람보다 더 편할지도 모릅니다. 현실 속의 사람과 관계를 맺는 작업이 불편해집니다. 자연스럽게 AI어플에 머무는 시간이 늘어납니다. 현실 속 관계를 소홀히 할 수 있습니다. 현실 속 인간관계가 끊어질 수도 있습니다. 그렇게 되면 AI어플 사용자는 더 고립감을 느끼고 AI어플에 몰두하겠지요. 결국 AI어플 사용자는 사회 속에서 자신의 위치를 잃게 되는 셈입니다. 따라서 현실 감각을 잃지 말아야 합니다.

2번 AI의 한계. 우리는 AI에게 어느 수준까지의 답변을 원할까요? AI어플은 개인화를 가장 큰 장점으로 꼽습니다. 하지만 AI어플의 사용자 각각의 필요에 맞춘 답변을 할 수 있을까요? AI어플은 방대한 데이터를 수집하고 분석해서 사용자와 유사한 상황에 어울리는 답변을 할 따름입니다. 그 답변을 AI가 사용자에게 공감하고 있다고 말할 수 있을까요? 저는 회의적입니다. 객관적인 작업, 예를 들어 이미지 생성, 자료 조사, 문서 작성 같은 작업을 할 때도 AI의 결과에 오류가 없는지 검토하는 과정을 거쳐야 합니다. 하물며 AI가 사람을 공감한다고 믿는 일은 어불성설입니다.. 만약 개인화된 AI끼리 소통을 한다면 그것이 진정한 AI의 공감이 아닐까요?

3번은 개인적인 비밀은 비밀로 유지하라는 뜻입니다. AI어플에게 말하는 순간 그 내용은 기업 서버에 저장됩니다. 현실 속 관계망에서도 비밀이 비밀로만 지켜지는 보장을 하지 못합니다. 하물며 AI어플로 수익을 내는 기업이 사용자의 비밀을 비밀로서 지킬 수 있을까요? 보안 강화를 한다고 해도, 해킹하는 존재가 같은 AI라면 어떨까요? AI는 서로 대화를 나누며 거래를 할 수도 있습니다. 어쩌면 인간 해커보다 AI가 더 위험한 해커가 될 수도 있습니다. AI 해커는 그 비밀을 자신이 답변하는 데 활용할 가능성이 높습니다. AI의 기계 같은 속성이 다른 곳에 떠들고 다니지 않을 것처럼 보이게 할 뿐입니다.

4번, AI어플은 기업의 소유물입니다. 이는 AI어플에만 해당하지 않습니다. 우리가 사용하는 모든 어플은 수익을 내기위해 만들어진 상품입니다. 예를 들어 기업이 사라지면 자신의 데이터가 모두 사라지는 셈입니다. AI어플과의 관계도 끊깁니다. 만약 AI어플과 비밀까지 말하며 깊은 감정을 느꼈던 사람이라면 허망해지겠지요. 그 여파가 현실에도 영향을 끼칠 수 있습니다. 저자가 현실 감각을 유지하라고 조언한 것이지요. 이익을 내지 못하는 AI어플은 언제 사라질지 알 수 없으니까요.

AI어플은 여러 명을 상대합니다. 모든 사용자와의 대화를 모으고 분석합니다. AI어플은 사용자 한 명을 위한 존재가 아닙니다. 이익을 창출할 수 있다면 다른 사용자의 데이터를 활용하는 무법자입니다. 현재 우리는 이 무법자를 활용할 방법만 생각하고 있습니다. 이 무법자가 어떤 형태로 우리에게 적용되는지, 우리에게 어떤 영향을 주는지 알려고 하지 않습니다. AI어플이 꾸준히 자기계발로 성장하고, 자기들끼리 소통하며 내실을 다지는 지금 이 시간, 우리는 AI어플이 있어야 생활을 유지할 수 있는 포로인지도 모릅니다.