전세계적으로 인공지능이 핫하다. 한국 사회에서도 모든 영역에 걸쳐 인공지능이 핫하다. 뇌과학, 인공지능 관련된 학자들은 여기저기 부르는 곳이 많아 바쁘게 지내고 있고, 관련된 책도 속속 출간되고 있다. 기술은 워낙 빨리 발전하고, 논의는 이를 뒤따르기에, 관련 논의와 주제가 있으면 부지런히 따라가야 한다.
딥페이크는 인공지능의 한 모습이다. 챗GPT의 등장과 관련없이 이전부터 문제가 됐고 논의가 됐던 주제다. 오바마 대통령의 얼굴로 엉뚱한 소리를 하거나, 젤린스키 우크라이나 대통령이 항복을 선언을 하는 등의 영상으로 논란이 됐었고, 가깝게는 한국 걸그룹 멤버들의 얼굴이 들어간 포르노 영상이 있다.
딥페이크는 단순히 포토샵이나 영상 기술을 활용하여 남의 몸에 특정인의 얼굴을 합성하는 것이 아니다. 얼굴을 바꿔 합성한다는 건 그 사람의 정체성과 관련된 문제이다. 얼굴이 삽입된 대상은 자신의 의지와 관련 없이 타인의 시선을 만족하기 위한 또는 놀이감이 되기 위한 대상이 된다.
유명인의 얼굴이 딥페이크된 영상에서는 그 유명인이 살아온 역사와 경험은 무시되기도 한다. 성평등을 주장하던 사람이 성차별 발언을 할 수도 있고, 인종차별에 반대하던 사람이 흑인이나 아시아인을 향해 인종차별을 가할 수도 있다. 이런 경우는 유명인의 평소의 생각과 다르다면, 사람들은 의심할 수 있다. 그런데 평소 그의 삶의 가치관과 부합하는 듯한, 하지만 그가 발언한 적 없는 메시지를 영상을 통해 내보낸다면, 보는 이들은 이를 믿을 수밖에 없다.
인공지능 시대에는 진실과 거짓의 경계가 무너진다. 잘 만들어진 딥페이크 영상은 진실에 대한 의심을 강화하고, 결국 딥페이크 영상이 아닌 모든 영상과 기사와 사실 보도에 대해서도 의심을 하게 만든다. 의심이 쌓이고, 불신의 사회가 되는 것이다. 인공지능 시대는 피곤하다. 진실과 거짓을 가리는 것부터 해야 하기 때문이다.
딥페이크 영상을 만드는 이는 의도가 있다. 그래서 보는 이는 이 메시지를 담은 영상에서 누가 왜 그 사람의 얼굴을 넣었는가, 왜 바꿨는가에 주목해야 한다. 만든 이의 의도를 알면 딥페이크 영상에 관심을 줄 이유가 없다.
이 책에는 딥페이크와 관련된 사건들과 구글, 메타 등의 플랫폼 기업들이 딥페이크에 어떻게 대처했는지, 대처하는 기준을 세우고 있는지를 살펴볼 수 있다. 또, 딥페이크와 관련하여 얼굴의 철학적 의미를 미셸 푸코와 벵자맹 주아노의 시선으로 살펴볼 수도 있다. 얇은 책이고, 새로운 통찰을 주기보다는 딥페이크와 관련해 알아두어야 할 것들을 잘 정리했다.
딥페이크는 창작과 수정, 선택의 과정을 모두 기계의 작업으로 ‘블랙박스화’하며 이미지 합성과 조작을 심층적으로 자동화하고 있다. 인간은 영상을 조작하라는 명령만 내릴 뿐 실제 작업 과정에는 관여하지 않고, 데이터만 충분히 양질이라면 이미지 조작은 인간의 능력에도 구애받지 않는다. 딥페이크의 시대, ‘누가 이미지를 조작했는가’를 넘어 보다 핵심적인 질문들을 던져야 하는 것은 이 때문이다. 딥페이크로 조작된 영상물에 대해서는 창작자가 누구인지보다 ‘창작의 의도’와 만들어진 결과물이 가져올 사회적 파급력을 묻는 것이 훨씬 더 중요하다.
- P31
딥페이크 영상이 자아내는 정서적 효과는 원본 이미지가 의도했던 정서를 전복하거나 변형한다. 이 점에서 딥페이크는 개인적 수준에서는 정서의 극대화일지 모르나 사회적 수준에서는 특정 이미지가 의도하는 정서를 개별적으로 날조하는 기술에 가깝다. 앞서 살펴본 정치적 인물을 바꿔치기하는 일이 ‘정보의 조작’과 관련된다면, 연예인의 얼굴을 합성하는 ‘놀이’나 포르노그래피는 이미지가 전하는 ‘정서의 조작’과 연결되는 셈이다.
- P50
프랑스의 철학자 미셸 푸코에 따르면, 가면을 쓴 사람은 가면이 상징하는 영혼을 가장하는 것이 아니라 실제로 그 영혼이 되며, 가면을 쓴 ‘배우’는 자신의 존재를 ‘잠시 멈추고’ 가면에 재현된 얼굴 그리고 영혼을 다시 살아나게 만든다. 가면이 가진 힘은 가면을 통해 세상에 직접적인 공간을 갖고 있지 않은 공간으로 육체를 들여보냄으로써 육체를 신의 세계와 소통하는 상상적 공간의 단편으로 만드는 데 있다. 가면을 걸침으로써 몸은 ‘위대한 유토피아적 배우’가 된다고 푸코는 말한다.
- P131
