인공 지능 시대에 디지털이 할 수 없는 것들에 대해 말하기

디지털이 할 수 없는 것들 - 재택근무의 한계부터 교실의 재발견까지 디지털이 만들지 못하는 미래를 이야기하다
데이비드 색스 지음, 문희경 옮김 / 어크로스 / 2023년 5월

챗GPT 등장 이후 모두가 인공지능과 딥페이스, 디지털을 이야기하는 시대에, 디지털이 할 수 없는 것들을 말하는 책이 나왔다. 이 또한 디지털, 인공지능 카테고리에서 팔릴 것이다. 디지털과 인공지능에 관심 있는 사람들이 구매할 것이다. 

내용은 예상할 수 있는 바다. 디지털이 할 수 없는 것들은, 온라인에서 할 수 없는 것들, 온라인이 현대인들의 주 생활 공간이 되면서 잃어버린 것들에 대해서 말한다. 감정, 언어, 관계, 만남과 같이 오프라인에서 더 의미를 찾을 수 있는 것들이다. 

“온라인에서는 다른 사람들에 대해 듣지만 다른 사람들에게 직접 듣는 경우가 드물다. 직접 듣는다고 해도 그들이 실제로 어떤 사람인지에 관해서는 가장 편협하고 걸러진 정보만을 얻을 뿐이다. 온라인에서는 이민자가 문제라고 댓글을 달면서 그 순간에 분비되는 도파민에 취한다. 그러면서 실제로 이민자를 찾아가 직접 만나보고 그들의 사연을 들어보지는 않는다. 온라인에서 당장 내 의견에 완벽하게 동의하는 사람들을 찾기는 쉽지만 다른 사람들이 실제 인간이라는 감각을 얻기는 어렵다. 사람들의 삶을 더 깊이 이해하지 못한다. 사람들이 처한 상황에 공감하지 못한다. 진정한 친구를 사귀기도 어렵다.”

그의 주장에 대해 온라인에서도 진정한 친구를 사귈 수 있다고, 진정한 관계를 맺을 수 있다고 반박하는 사람들이 분명 있겠지만, 잘 뜯어보면 온라인이 매개가 되어 오프라인에서 만남과 관계가 지속되면서 마음과 마음이 오가는 사람들 사이에서 우리는 그를 진정한 친구라고 부른다. 그러니 이 또한 온라인은 시작일 뿐, 결국은 오프라인인 것이다. 

“디지털은 희생이나 지루함, 어색한 순간, 취약점 없이 더 간단히 소통할 수 있게 해준다고 약속하지만 결국 우리는 더 허기진 채로 갈망하게 된다.” 

디지털로 시작해 디지털로 끝날 때, 인간은 고립에서 시작해 고립으로 끝난다. 소통하고 있지만 실상 소통하는 대상이 없다고 느끼며 외롭다고 느낀다. 이는 디지털 허기이다.

색스는 자신의 주변 사람들의 이야기, 보고 들으며 경험한 것들을 소재로 풀어간다. 대개의 인공지능과 디지털을 이야기하는 책들에서 볼 수 있는 문체와 서술 방식이 아니다. 

온라인에서는 다른 사람들에 대해 듣지만 다른 사람들에게 직접 듣는 경우가 드물다. 직접 듣는다고 해도 그들이 실제로 어떤 사람인지에 관해서는 가장 편협하고 걸러진 정보만을 얻을 뿐이다. 온라인에서는 이민자가 문제라고 댓글을 달면서 그 순간에 분비되는 도파민에 취한다. 그러면서 실제로 이민자를 찾아가 직접 만나보고 그들의 사연을 들어보지는 않는다. 온라인에서 당장 내 의견에 완벽하게 동의하는 사람들을 찾기는 쉽지만 다른 사람들이 실제 인간이라는 감각을 얻기는 어렵다. 사람들의 삶을 더 깊이 이해하지 못한다. 사람들이 처한 상황에 공감하지 못한다. 진정한 친구를 사귀기도 어렵다.
- P318

디지털은 희생이나 지루함, 어색한 순간, 취약점 없이 더 간단히 소통할 수 있게 해준다고 약속하지만 결국 우리는 더 허기진 채로 갈망하게 된다. - P374

챗gpt 분야별 맛보기

포스트 챗GPT - 폭주하는 AI가 뒤흔든 인간의 자리
박상현 외 지음 / 한빛비즈 / 2023년 5월

챗gpt의 등장 이후 모든 분야가 매우 발빠르게 이 인공 지능을 사용했고, 소감을 말했으며, 비평하고, 미래를 진단하기 시작했다. 지금까지도 빠르게 흐르던 사회가 더 빨리 흐르는 느낌이었다. 순식간에, 부지불식간에 인공 지능이 내 생활로 밀어닥쳤다. 

발빠른 출판사 대표는 챗gpt를 이용해 책을 써서 화제가 되었고, 너도나도 이와 관련된 책을 급하게 출간했다. 저자를 급히 섭외하고, 원고를 급히 받고, 편집자는 아마도 밤을 지새우며 급히 원고를 검토하고, 교열교정을 봤을 것이다. 유사한 책들이 많이 쏟아졌다. 모두가 챗gpt를 배워야 했고 알아야 했기에 이 책들은 꽤 잘 나갔을 것이다. 이 책도 이러한 흐름에서 기획, 출간되었다고 생각한다. 

심리, 테크, 기술, 의료, 언론, 출판, 법률, 교육, 철학, 시민사회, 과학 등 다양한 영역에서 한 저자씩 섭외하여 한 꼭지씩 글을 받아 실었다. 어떤 글은 이제는 너무 다 아는 이야기가 되어버렸고, 어떤 글은 몰랐던 지식도 주고 통찰을 주기도 했다. 다양한 분야에 종사하는 이들이 각자 어떤 생각을 하는지 살피는 기회였고, 책을 읽으며 꽤 많은 밑줄을 그었다. 

챗gpt를 어떻게 사용해야 하는지를 알려주는 매뉴얼 성격의 책들도 있다. 그런데 챗gpt가 인간에게 어떤 의미인지, 인간 사회에 어떤 영향을 줄지, 이 인공지능은 왜 이렇게 거짓말을 그럴듯하게 하는지 등을 탐구해야 한다. 지금까지 보지 못했던 인공 지능의 형태였고, 튜링테스트를 거뜬히 통과할 능력 있는 놈이며, 세상의 모든 지식을 갖고 있어 질문하면 상당히 그럴듯하게 일목요연하게 정리해서 내놓기도 한다. 

앞으로 또 얼마나 진화한, 대단한 인공 지능이 나올지 기대되기도 하고, 너무나 급격한 변화에 어떻게 이 흐름을 따라가야 하나 하는 생각도 든다. 인공 지능이 발달하고 더 편리한 세상이 돼도 인간은 너무나 바쁘다. 이 변화를 못 따라갔다간 자칫 냉동 상태로 보관되어 있다가 36년 후 세상에 나온 데몰리션맨이 될 판이다. 이 책으로 각 분야에서 어떻게 이 변화를 보고 있는지, 받아들이는지 맛볼 수 있다. 감 잡고 더 깊이 탐구한 다른 책으로 옮겨타도 좋다.  

심리적 전능감을 극대화하는 것은 ‘철저한 무지’도 ‘치열한 앎’도 아닌 ‘선택적 무지’다. "가르치려 들지 마. 내가 편들고 싶으니 편드는 거야." 탈진실은 의도적 무지, 적극적 무지의 다른 이름이다. 대중만이 아니라 일부 지식인들까지 이 경향에 적극적으로 동참하면서, 이제 ‘옳고 그름’은 ‘좋고 싫음’으로 대체된다. 예술사회학자 이라영은 이 멘탈리티를 "나는 알기 싫다, 고로 혐오한다."라는 문장으로 간명히 요약한 바 있다.(박권일)
- P116

우리는 대부분의 시간을 콘텐츠를 가장한 광고, 혐오 선동, 포르노 등 온갖 주목 경쟁에 낚이는 데 보낸다. 그나마 어떤 주제를 직접 고민하고 스스로 공부하던 우리의 짧은 시간마저 인공지능에 몽땅 넘겨버리고 나면, ‘깊이 배우는’ 유일한 존재는 기계가 될지 모른다. 그게 바로 정치의 종말이고 인간이라는 종의 마지막 모습일 것이다.(박권일)
- P120

정보 검색 능력의 문제를 평등하게 해소하고, 정보 수집의 편의성을 증대시킬 것이며, 정보 검색, 번역, 문서 작성 등의 시간을 줄여 더 많은 정보가 수월하게 교류될 수 있게 할 것이다. 이러한 기대에도 불구하고 우리가 스스로 만든 프레임으로 세상을 보는 것이 아니라 만들어진 프레임으로만 세상을 보고 판단하게 되지나 않을까 하는 두려움이 있다.
- P180

당신이 피로와 무기력에서 벗어나는 법

과부하시대 - 당신은 게으른 게 아니라 진심으로 지쳤을 뿐이다
로라 판 더누트 립스키 지음, 문희경 옮김 / 더퀘스트 / 2023년 1월

현대인들은 모두 지쳐 있다. 노동 시간은 분명 지난 세기보다 줄었고, 소득이 늘고 여가에 활용하는 시간도 늘었지만 사람들은 지쳐 있다. 사회가 그만큼 더 빨리 변화하고 있고, 변화를 따라가거나 적응해야 하며, 우리에게 즐거움을 줄 만한 문화적 유혹도 많아졌기 때문이다. 자기계발에 박차를 가하는 동시에 트렌드를 따라가야 하고, 늘 스마트폰은 우리 손에서 떨어지지 않는다. 

비교 사회. 우리는 자의든 타의든 늘 비교 당하며 살고 있다. 행복이 소득과 관련이 없다는 최근의 연구 결과도 있는데, 행복은 무엇에 비례하는지 모르겠지만, 불행은 비교에서 온다. 비교는 타의에 의해 당하는 것도 있지만, 나 스스로 타인과 나를 비교하는 것도 있다. 

바쁘고 불행한 사람들은, 늘 예민하고, 건드리면 폭발하고, 분노를 쏟아부을 곳이 있어야 한다. 나 자신을 조율하고 균형 있게 온전히 살아가는 게 힘든 사회다. 그럼에도 우리는 그러려고 노력해야 한다. 타인과의 비교에서 벗어나 나를 바라보고, 화를 다스리고, 내가 무엇에 집착하는지 내 마음을 들여다봐야 한다. 활력을 키우고 타인을 돕고 공동체에 기여하는 방법을 찾고 실행한다. 행복은 거기에서 온다. 

과부하 시대. “아무것도 하기 싫은 지친 마음에 잘못은 없다. 살아가는 것만으로 피로하고 무기력한 사회, 당신은 이미 최선을 다하고 있다. 삶의 균형감을 찾는 마법은 여기서 뭘 더 할 때가 아닌 덜어낼 때 일어난다. 사소해도 좋다. 작을수록 좋다. 나를 피폐하게 만드는 일을 줄이고, 지탱해주는 일에 집중하라.” 

곳곳에 인용된 투투 대주교나 에머슨, 마르틴 부버, 카뮈, 누스바움 등의 인용문이 새길 문장이 많다. 또 중간중간 삽입된 한 장의 삽화가 표현하는 모습과 상황이 매우 재밌다. 쉽고 짧아 지적 노력 없이도 금방 읽을 수 있다. 

자기를 피폐하게 만드는 일을 줄이고, 지탱해주는 일을 많이 하는 데 집중해야 한다. 내가 통제할 수 있는 일에 집중하려고 노력하면 과부하가 줄어들고 균형감과 안정을 찾고 다가올 일을 탐색할 여유가 생긴다. 어떤 상황에서든 자신에게 가능한 방법을 모색하는 힘이 내 안에 남으면, 나중에는 노력을 적게 해도 된다.
- P110

어느 열일곱 청소년의 말을 빌려오면, 스냅챗은 ‘넌 저기에 초대받지 못했어.’라고 말하는 반면에, 인스타그램은 ‘난 저렇게 할 여유가 없어’라고 말한다.
- P123

활력을 키우면 기민하고 자신감이 생기며 무슨 일에든 적극적이 된다. 더욱이 예상치 못한 상황에서 잠재된 능력을 끌어내야 하는 경우에는 비축된 힘을 내 무너지지 않는 한계선을 세워준다. 즉 활력은 과부하에 걸리지 않게 도와준다. 강조해온 메시지를 다시 말하자면 ‘작을수록 좋다’, ‘한 번에 하나씩, 한동안 하나에만 집중해야 한다. 한 일이 끝나면 그때 다른 일을 더한다. 그러면 수월해진다. 나의 헬스 트레이너는 이렇게 말했다. "이 작은 동작 하나가 이래 봬도 효과는 큽니다." - P209

내면을 깊이 들여다보라. 안으로 들어가는 길이 위기를 지나더라도.(틱낫한, 승려) - P265

세대 게임: 세대에 주목하도록 판을 짜서 어떤 전략적 이익을 얻고자 하는 활동이나 움직임

세대 게임 - '세대 프레임' 을 넘어서
전상진 지음 / 문학과지성사 / 2018년 1월

세대론에 관한 이야기는 저자들마다 다채롭다. 비슷한듯하면서도 또 다른 지점을 짚어서 재밌다. 이 책은 새로운 접근 방식이다. 2018년에 나왔으니 몇 년 지나 현재의 한국 사회를 읽기엔 이 책에서 다루는 소재가 이젠 옛날이다. 박근혜 정부와 촛불 집회 시점을 다루고 있다. 그러나 소재를 빼면 지금도 의미있고 재밌게 읽힌다. 

“세대 게임은 사람들이 세대에 주목하도록 판을 짜서 어떤 전략적 이익을 얻고자 하는 활동이나 움직임을 말한다.” 

보통의 세대론에서 다루는 ‘요즘 세대’에 관한 책은 아니다. 학문적으로 접근한 세대론, 세대 게임을 다룬다. 즉, 각 세대를 지칭하는 명칭이 어떻게 부여받고, 그 명칭에 속하는 사람들이 어떻게 스스로 의미 부여하는지 등 세대론이 만들어지고, 입히는 프레임, 그리고 각 세대들이 주장하는 바, 자신의 이익을 위해 세대론을 이용하는 정치판 등을 다룬다. 

흔히 세대는 나이 또는 출생년도에 따라 구분되지만, 그렇지 않은 세대도 있다. MZ세대, X세대, 밀레니엄 세대 등의 명칭(시간 브랜드)은 전자에 해당하고, 촛불 시민, 태극기 부대 등 스스로의 정치적 입장이나 살아온 경험과 배경을 바탕으로 한 주체성에 기반한 명칭(세대 브랜드)은 후자에 해당한다. 한 사람이 사회적으로 명명되는 여러 세대의 명칭에 해당할 수도 있다. 나이와 출생년도에 따라 구분되는 세대는 자신의 의지와 상관없이 부여되는 것이며, 자신의 사회적, 정치적 견해를 적극 드러냄으로써 명명되는 세대는 내 의지를 반영하고 있다. 

“나이는 세대가 형성되는 데 매우 중요한 조건이지만, 나이가 비슷하다고 해서 스스로를 하나의 공동체로 생각하는 세대가 자동적으로 만들어지는 것은 아니다. 따라서 질문은 세대의 존재 유무가 아니라 ‘어떻게 세대가 만들어지는지’를 향해야 한다.”

정치판에서는 이러한 세대론을 전략적으로 이용한다. 노인과 청년층을 분리하기도 하고, 남성과 여성을 분리하는 전략을 세우기도 한다. 한국에서는 보통 보수 계열이 지금의 노인 세대가 전후 한국 사회에서 힘들게 노력해온 노고를 칭송하고 위로하며 노인 세대를 자신의 편으로 만들고, 진보 계열이 청년층의 어려움을 위로하며 자신의 편으로 만든다. 그래서 젊은층에게 투표를 독려하고 인증샷 이벤트 같은 것을 하면, 노인 세대는 우리도 질 수 없다며 반대 심리로 투표를 하러 나오곤 했다. 그런데 윤석열이 대통령이 되던 선거부터 구도가 바뀌었다. 남성과 여성을 분리하는 전략은 젊은 남성의 보수 지지율을 높이고, 반 페미니즘의 흐름을 만들었다. 젊은이들 중 남성이 보수로, 여성이 진보로 나뉘는 형태를 만들어버린 것이다. 노인 세대는 당연히 보수의 편이니, 보수가 청년 세대 중 남성을 자신의 편으로 만드는 전략이었던 것이다. 

세대론을 이용한 싸움은 매우 위험하다. 단순히 선거에서 승자와 패자를 나누는 걸로 그치지 않고, 지속되는 사회 갈등으로 만들 수 있기 때문이다. 오늘 한국 사회에서 가장 심한 갈등은 노인과 청년의 갈등이 아니라 젠더 갈등이다. 

“페미니즘이 반대하는 것이 남성이 아니라 남성 중심주의인 것처럼, 우리 역시 세대를 피해자와 가해자로 나누는 세대 프레임의 편견에서 벗어나야 한다. 만약 그러지 못한다면, 우리는 지금껏 경험하지 못한 새로운 차원의 세대 갈등을 맞게 될 것이다.” 

여성이든 남성이든 피해자가 될 수 있다. 그런데 한국 사회에서 남성 당하는 성적, 신체적 피해보다 여성이 당하는 피해는 압도적이다. 사례 수가 많은 것뿐만 아니라 피해의 정도가 돌이킬 수 없을 정도로 심하다. 사귀던 남성에게 살해당하고, 집에 가다 얻어맞고 기절하고 성폭력 당하고, 납치당하려던 걸 지나가던 시민이 신고해서 겨우 구해지고. 여성은 아는 사람이든 모르는 사람이든 남성으로부터 무차별적으로 희생당하고 있다. 여성에겐 생존이다. 어제 본 뉴스 중 여성이 여성을 살해한 케이스도, 결국 피해자는 또 여성이다. 가해자는 남성이나 여성이 될 수 있는데, 피해자는 늘 여성이다.

“진실과 진리가 우리를 언제나 행복하고 자유롭게 하지 않는다. 특히 당사자에게는 더욱 그렇다. (…) 사실보다 믿음, 팩트보다 기분이 더 중요하다. 믿음을 방해하는 사실은 불편하다. 기분을 망치는 팩트는 더럽다.” 

팩트가 나의 기분을 상하게 할지라도 우리는 진실과 진리를 보려고 노력해야 한다. 진실을 외면하면 안 된다. 있는 사실은 사실 대로 인정하고 개선하려고 노력해야지, 여성이 왜 사회적 약자냐, 여성만 피해자냐는 식의 대결 구도는 문제를 해결하는 데 전혀 도움이 되지 않는다. 

딥페이크의 얼굴, 누가 바꾸는가, 왜 바꾸는가

딥페이크의 얼굴 - 기술이 만든 얼굴이 우리에게 묻는 것 ㅣ 북저널리즘 (Book Journalism) 91
이소은.최순욱 지음 / 스리체어스 / 2023년 5월

전세계적으로 인공지능이 핫하다. 한국 사회에서도 모든 영역에 걸쳐 인공지능이 핫하다. 뇌과학, 인공지능 관련된 학자들은 여기저기 부르는 곳이 많아 바쁘게 지내고 있고, 관련된 책도 속속 출간되고 있다. 기술은 워낙 빨리 발전하고, 논의는 이를 뒤따르기에, 관련 논의와 주제가 있으면 부지런히 따라가야 한다.

딥페이크는 인공지능의 한 모습이다. 챗GPT의 등장과 관련없이 이전부터 문제가 됐고 논의가 됐던 주제다. 오바마 대통령의 얼굴로 엉뚱한 소리를 하거나, 젤린스키 우크라이나 대통령이 항복을 선언을 하는 등의 영상으로 논란이 됐었고, 가깝게는 한국 걸그룹 멤버들의 얼굴이 들어간 포르노 영상이 있다. 

딥페이크는 단순히 포토샵이나 영상 기술을 활용하여 남의 몸에 특정인의 얼굴을 합성하는 것이 아니다. 얼굴을 바꿔 합성한다는 건 그 사람의 정체성과 관련된 문제이다. 얼굴이 삽입된 대상은 자신의 의지와 관련 없이 타인의 시선을 만족하기 위한 또는 놀이감이 되기 위한 대상이 된다. 

유명인의 얼굴이 딥페이크된 영상에서는 그 유명인이 살아온 역사와 경험은 무시되기도 한다. 성평등을 주장하던 사람이 성차별 발언을 할 수도 있고, 인종차별에 반대하던 사람이 흑인이나 아시아인을 향해 인종차별을 가할 수도 있다. 이런 경우는 유명인의 평소의 생각과 다르다면, 사람들은 의심할 수 있다. 그런데 평소 그의 삶의 가치관과 부합하는 듯한, 하지만 그가 발언한 적 없는 메시지를 영상을 통해 내보낸다면, 보는 이들은 이를 믿을 수밖에 없다. 

인공지능 시대에는 진실과 거짓의 경계가 무너진다. 잘 만들어진 딥페이크 영상은 진실에 대한 의심을 강화하고, 결국 딥페이크 영상이 아닌 모든 영상과 기사와 사실 보도에 대해서도 의심을 하게 만든다. 의심이 쌓이고, 불신의 사회가 되는 것이다. 인공지능 시대는 피곤하다. 진실과 거짓을 가리는 것부터 해야 하기 때문이다. 

딥페이크 영상을 만드는 이는 의도가 있다. 그래서 보는 이는 이 메시지를 담은 영상에서 누가 왜 그 사람의 얼굴을 넣었는가, 왜 바꿨는가에 주목해야 한다. 만든 이의 의도를 알면 딥페이크 영상에 관심을 줄 이유가 없다. 

이 책에는 딥페이크와 관련된 사건들과 구글, 메타 등의 플랫폼 기업들이 딥페이크에 어떻게 대처했는지, 대처하는 기준을 세우고 있는지를 살펴볼 수 있다. 또, 딥페이크와 관련하여 얼굴의 철학적 의미를 미셸 푸코와 벵자맹 주아노의 시선으로 살펴볼 수도 있다. 얇은 책이고, 새로운 통찰을 주기보다는 딥페이크와 관련해 알아두어야 할 것들을 잘 정리했다. 

딥페이크는 창작과 수정, 선택의 과정을 모두 기계의 작업으로 ‘블랙박스화’하며 이미지 합성과 조작을 심층적으로 자동화하고 있다. 인간은 영상을 조작하라는 명령만 내릴 뿐 실제 작업 과정에는 관여하지 않고, 데이터만 충분히 양질이라면 이미지 조작은 인간의 능력에도 구애받지 않는다. 딥페이크의 시대, ‘누가 이미지를 조작했는가’를 넘어 보다 핵심적인 질문들을 던져야 하는 것은 이 때문이다. 딥페이크로 조작된 영상물에 대해서는 창작자가 누구인지보다 ‘창작의 의도’와 만들어진 결과물이 가져올 사회적 파급력을 묻는 것이 훨씬 더 중요하다.
- P31

딥페이크 영상이 자아내는 정서적 효과는 원본 이미지가 의도했던 정서를 전복하거나 변형한다. 이 점에서 딥페이크는 개인적 수준에서는 정서의 극대화일지 모르나 사회적 수준에서는 특정 이미지가 의도하는 정서를 개별적으로 날조하는 기술에 가깝다. 앞서 살펴본 정치적 인물을 바꿔치기하는 일이 ‘정보의 조작’과 관련된다면, 연예인의 얼굴을 합성하는 ‘놀이’나 포르노그래피는 이미지가 전하는 ‘정서의 조작’과 연결되는 셈이다.
- P50

프랑스의 철학자 미셸 푸코에 따르면, 가면을 쓴 사람은 가면이 상징하는 영혼을 가장하는 것이 아니라 실제로 그 영혼이 되며, 가면을 쓴 ‘배우’는 자신의 존재를 ‘잠시 멈추고’ 가면에 재현된 얼굴 그리고 영혼을 다시 살아나게 만든다. 가면이 가진 힘은 가면을 통해 세상에 직접적인 공간을 갖고 있지 않은 공간으로 육체를 들여보냄으로써 육체를 신의 세계와 소통하는 상상적 공간의 단편으로 만드는 데 있다. 가면을 걸침으로써 몸은 ‘위대한 유토피아적 배우’가 된다고 푸코는 말한다.
- P131