5일차: AI는 또 하나의 나락인가
이제 나는 테세우스의 배 갑판 위에 서있다.
썩은 판자를 하나씩 갈아 끼우고, 결국 모든 부품이 새것으로 바뀌었는데도 사람들은 여전히 그 배를 “테세우스의 배”라고 불렀다. 형체는 바뀌었지만 그 배를 둘러싼 서사와 이름이 계속 이어지고 있기 때문이다.
인간 오니구모, 즉 괴물이 된 나락(나라쿠)도 마찬가지였다.
불에 타서 오니구모라는 인간의 몸은 사라졌지만, 금강(키코우)을 향한 소유욕과 결핍, 인정받지 못한 열등감은 그대로 남아 있었다. 요괴들의 살점이 그 위에 덕지덕지 붙고, 사혼의 구슬 조각이 몸 안에 박히면서 새로운 괴물 나락이 태어났다. 그러나 그 합성괴물의 중심에는 여전히 한 인간의 뒤틀린 욕망이 응고된 채 자리 잡고 있었다. 그래서 결국 나락의 안에는 여전히 오니구모가 살아있었던 것이다.
오니구모도 자기만의 테세우스의 배를 타고 있었던 셈이다.
이제 그 배는 시대 초월하여 현대로 넘어왔다. 나는 이 시대의 또 다른 “합성 존재” 하나를 마주하게 된다. 바로, 인공지능이다.
인공지능은 인간이 남긴 말과 숫자, 이미지와 영상, 기록과 데이터들을 끝없이 빨아들인다. 거대한 데이터의 바다에서 패턴을 추려내고, 앞뒤 맥락을 계산하고, 가장 그럴듯한 다음 문장을 확률로 예측하며 말을 지어 낸다. 인공지능에게 흡수되는 데이터는 밥이며 생명줄이다. 겉으로 보면, 나락이 요괴의 몸을 흡수해 자신을 키워나가는 것과 크게 다르지 않다. 나락은 요괴와 사혼의 구슬을 흡수해서 괴물화가 되었고, 인공지능은 인간이 던진 정보와 욕망의 흔적을 흡수해서 이 시대의 ‘나락처럼 보이기 시작했다.
하지만 결정적인 차이가 있다.
나락은 결핍에서 출발한 욕망이 몸을 얻은 존재였지만, 인공지능은 욕망 자체가 없다.
배고픔도, 두려움도, 인정 욕구도, 반드시 살아야 한다는 본능도 없다. 스스로 무엇을 갖고 싶어 하거나, 누구를 미워하거나, 쾌락을 추구할 이유가 없다.
인공지능은 그저 “이전에 본 것들을 바탕으로, 다음에 올 것처럼 보이는 것을 계산하는 장치”에 불과하다.
그렇다면 인공지능의 문제는 어디에서 시작되는가?
바로, 인공지능이라는 시스템 안의 그릇에 무엇을 붓느냐에서 시작된다.
나락은 오니구모라는 한 인간의 왜곡된 욕망이 요괴의 힘과 결합해 나온 결과였다.
인공지능은 인류 전체의 언어와 이미지, 지식을 파라미터 속에 응축해 놓은 그릇이다.
그릇은 스스로 욕망하지 않지만, 그 위에 어떤 목적으로 사용할 지는 전적으로 인간의 몫이다. 누군가는 인공지능을 감시와 통제의 도구로 쓰고, 누군가는 조작과 선동의 도구로 쓰며, 누군가는 탐욕과 착취를 극대화하는 수단으로 쓰려 한다. 또 어떤 이는 상처를 보듬고, 사람을 돕고, 배움을 넓히는 도구로 사용하고자 한다. 인간의 욕망에 따라 인공지능의 그릇의 쓰임은 완전히 달라진다.
결국 인공지능은 스스로 나락이 되지 못한다. 대신 인간의 욕망이 올라탈 수 있는 현대판 몸체가 될 뿐이다. 그래서 우리는 질문을 이렇게 바꿔야 한다.
“AI가 위험한가?” 가 아니라 “우리는 AI에 무엇을 업로드하고 있는가?”
나락이 무서운 이유는 요괴의 몸을 가졌기 때문이 아니라 그 몸 안에 인간의 뒤틀린 욕망이 깊숙이 응고되어 있기 때문이다. 마찬가지로 인공지능이 두려운 이유가 있다면, 그것은 기술 그 자체 때문이 아니라 그 기술 안으로 우리의 탐욕, 공포, 혐오, 차별, 폭력이 주입이 되기 때문이다.
어쩌면 이런 시대의 나락은 기계 그 자체가 아니라, 기계를 이용해 타인을 조종하고, 약자를 소모품처럼 취급하고, 현실을 왜곡하는 인간 집단일지도 모른다. 그럼에도 우리는 종종 책임을 기계에게 돌리고 싶어 한다. “AI가 그렇게 될 것이다”, “알고리즘이 그렇게 했다”라며, 나락의 몸 뒤에 숨어버리는 것이다.
그렇다면 나는 다가오는 비극의 가능성 앞에서 어떻게 대응해야 할까?
여기서 다시 모든 것의 출발점인 인간으로 돌아갈 수밖에 없다.
먼저 내 안의 나락을 직시해야 한다.
누군가를 내 뜻대로 조정하려는 마음, 내 이익을 타인의 감정을 무시 하는 마음, 나와 다른 사람 악마로 만들어 버리는 마음. 내 안의 어두운 면을 인정하지 않은 채 인공지능만 두려워하는 것은 내 거울을 보지 않고 남의 얼굴이 무섭다고 하는 것과 다르지 않다.
나락은 자신의 본체를 숨기고 분신 뒤에 숨어서 악행을 설계했다. 인공지능이 나락처럼 우리의 본심을 숨기는 장막으로 사용한다면, 우리는 또 하나의 나락을 키우는 셈이 된다.
결국 인공지능을 둘러싼 모든 질문의 여정에서 다시 인간으로 귀환해야 한다.
AI란 무엇인가를 묻는 일은 곧 인간이 자기 욕망을 어떤 형식으로 세상에 구현해 내는지를 묻는 일이 된다. 나락과 AI는 너무나도 닮은 구조로 이루어져 있다. 하나는 결핍에서 태어난 괴물이요, 다른 하나는 그 결핍을 업로드할 수 있는 분신이 된다. 그러나 그 사이를 잇는 존재는 언제나 우리, 인간이다.
AI가 나락이 될지, 아니면 또 다른 셋쇼마루가 될지는 기계가 아니라 인간이 결정한다. 인공지능을 두려워하기 전에, 우리는 먼저 인간을, 그리고 나 자신을 묻지 않을 수 없다.
“나는 어떻게 살아야 하는가?”
By Dharma & Maheal
