김태용 기계가 예술작품을 복제할 수 있는 시대에는 ‘아우라Aura‘라는 개념이 중요하다고 하지요. 챗GPT의 답에는 이 아우라가 없다는게 느껴집니다. 저는 아우라가 결국 시간의 축이라고 생각해요. 여기지금 평범한 의자 하나가 있다고 칩시다. 그런데 누군가 갑자기 일주일전에 BTS가 이 의자에 앉았다고 알려줘요. 그러면 이 의자 앞이 난리가 나겠죠. 와서 만져보기도 하고 의자 앞에 긴 줄이 늘어설 거예요.
물질적인 건 똑같은 건데 말이에요.
챗GPT가 만드는 결과물은 아무런 기억과 역사가 없는 의자와 같다는생각이 들어요. 여기에 BTS, 즉 이야기와 기억이 들어오면 아우라가 생기죠. 물론 그 아우라는 우리 머릿속에 있는 것이지만 어떤 것이 관계안에서 의미가 부여되는 순간 그 개체 자체가 달라지는 거죠.
처음부터 챗GPT에게 어떤 이야기를 맡긴다면 그건 아우라가 없는 껍질로 시작하는 셈이에요. 그런데 만약 인간의 무언가에서 시작된다면그후에 변화되거나 필요한 요소들은 챗GPT가 많이 도와줄 수 있겠죠.
이것이 AI라는 기술이 창작에 줄 수 있는 가장 큰 도움의 방식이고, 그렇게 되었을 때 이전에는 없던 새로운 도구가 될 거예요.
사람들끼리 협업할 때도 비슷합니다. 한 사람의 아이디어가 씨앗이 되어 세계관으로 자라고, 그 안에 다른 사람들이 함께하게 되죠. 그 과정에서 생각은 변화하고, 새로운 무언가가 만들어지는 시간을 모두가 공유합니다. 결국 누군가의 씨앗은 그 시간 속에서 그 사람의 아우라를느끼게 하죠. AI도 인간이 만든 세계관 안에 들어와 협업자로 머물러야 한다고 생각합니다. 만약 그 씨앗까지 넘겨준다면, 인간 고유의 아우라가 사라질지도 모릅니다.
"처음부터 챗GPT에게 어떤 이야기를 맡긴다면그건 아우라가 없는 껍질로 시작하는 셈이에요."
존재하지 않는 내용을 생성해내는 뇌. 수많은 예제가 있지만 아마신경생물학자 로저 스페리 교수의 실험 결과가 가장 유명할 것이다. 인간의 뇌는 언어능력을 가진 좌뇌와 언어능력이 없는 우뇌로 나뉘어 있다. 1950년에서 1960년도 사이 극심한 간질병 치료를 위해 좌뇌와우뇌를 분리시켰던 환자들을 대상으로 실험하던 중 스페리 교수는 충격적인 결과를 얻는다. 화면을 우뇌만 볼 수 있도록 설정한 후 겨울 풍경을 보여준다고 상상해보자. 언어능력이 없는 우뇌는 기대했던 대로본 것을 말로 표현하지 못한다.
하지만 우뇌가 컨트롤하는 왼손을 사용해 책상 위 아무 사진이나 고르라고 부탁하면 대부분 겨울 풍경과 연관된 사진을 선택한다. 그럼 이제 좌뇌에게 왜 하필 겨울 풍경 사진을 선택했느냐고 물어보자. 좌뇌는 겨울 풍경을 본 적이 없기에 정답은
‘모릅니다‘일 것이다.
하지만 놀랍게도 좌뇌는 모른다는 대답을 하지 않는다. 대신 할루시네이션hallucination"을 시작한다. 작년에 갔던 스키 여행이 기억났다거나, 최근에 겨울 풍경이 나오는 영화를 봤다고 말한다. 확인해보면 그런 일들은 없었다. 결국 좌뇌는 원인을 알 수 없는 자신의행동을 정당화하는 가짜 이야기를 만들어내고 있었던 것이다. 스페리교수의 연구 결과에 따르면 인간의 뇌는 현실을 있는 그대로 이해하려는 것이 아니다. 우리 뇌는 완벽할 수 없는 해석을 정당화하고 예측 가능하게 만들어주는, 페이크 기억과 페이크 이야기를 할루시네이션해주는 기계일 수도 있다는 말이다.
챗GPT 덕분에 최근 생성형 AI가 많은 관심을 받고 있다. 하지만 생성형 AI에게는 치명적인 문제점이 하나 있다. 바로 진실처럼 들리는 그럴싸한 가짜 이야기를 자주 만들어낸다는 사실이다. ‘AI 할루시네이션‘이라 불리는 이 현상을 우리는 이제 이렇게 설명해볼 수 있겠다. 챗GPT 역시 세상의 인과관계를 완벽하게 알 수 없다. 뇌와 마찬가지로진실을 알지 못하는 챗GPT는 자신의 선택을 가장 잘 정당화하고 예측가능하게 만들어주는 이야기로 ‘할루시네이션‘하는 건지도 모른다. 어쩌면 생성형 AI의 할루시네이션 능력이야말로 진정한 의미에서 인류가 이제 인간을 닮은 인공지능을 만들기 시작했다는 역설적인 증거가 될수 있을것이다
독일의 극작가이자 시인인 베르톨트 브레히트는 신의 존재보다 신의 존재에 따라 우리의 삶이 어떻게 달라지는지가 더 중요하다고 말한적 있다. 비슷하게 우리가 시뮬레이션에 살고 있는지 그 자체보다도, 만약 현실이 시뮬레이션일 경우 삶과 인생에 대한 우리의 태도가 어떻게달라질지가 더 중요하다. 그리고 그런 시뮬레이션 속에선 ‘나‘라는 존재의 정체성이 가장 중요하다. 나는 결국 시뮬레이션 세상에서의 NPC,
그러니까 시뮬레이션 속 인조 캐릭터에 불가할까? 아니면 나라는 존재가 이 시뮬레이션을 돌리고 있는 주인공이자 플레이어일까? 그리고 내가 플레이어라면, 나는 결국 수만 년 후 미래 인간일까? 아니면 수만년 전 인간의 삶을 시뮬레이션하고 있는 초지능 인공지능일까?
|