AI는 양심이 없다~ 김명주

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

엊그제 사용하던 노트북전원이 들어왔다 나갔다해서 베터리 충전이 제대로 되지 않았다.  인터넷으로 집근처 서비스센터를 예약하고 노트북을 들고가서 진단을 받기로 했다.  예약을 마치자마자 카톡으로 메시지가 들어왔다.  예약확인과 함께 메시지 하단에 "챗봇전환"이라는 항목이 보였지만 처음에는 그냥 지나쳤다가 "상담사 연결없이 바로 ...할수 있다."는 안내 메시지를 발견하고 할까 말까 하다가 그래도 사람이 낫지...생각하고, 그냥 챗봇이 아닌 상담사와 메시지를 주고 받기로 했고, 원하는 정보를 얻은후 상담을 거의 마친 순간, "다른 추가 문의사항 있습니까?"라는 질문에 혹시나하고 "제가 지금 챗봇과 상담하는 건가요 아니면 상담사와 하는 건가요?"라고 질문을 던졌더니, "저는 야간 상담사로서 로봇이 아닙니다.^^"라는 답을 했다.  인공지능 챗봇이 일반화된 세상의 단상이 아닌가 해서 혼자 웃었다. 챗봇이 아닌 인간 상담사와 메시지를 주고 받고서도 긴가 민가 의심이 가서 질문을 한 것인데 가히 인공지능의 시대에 살고 있는 한 단면이 아닌가 생각된다.  더구나, 요즈음은 챗봇도 성능이 많이 좋아져서 굳이 전화를 붙잡고 씨름할 필요가 없다.

챗봇과의 메시지는 좀 상투적이고 형식적인 것인데 아무래도 인간과는 많이 달라서 챗봇과의 대화는 좀 거부감 비슷한 것이 있기는 하지만 점차 인공지능이 할수 있는 것이 많아 지고 우리 생활 깊숙히 들어오게 되면 우리의 삶은 영향을 받을 수 밖에 없으며 그러한 변화에 대한 이해를 미리하고 대처할 수 있다면 도움이 될 것이다.  이렇게 인공지능이 우리의 삶을 조만간 "흔들 이슈"들을 정리한 책이 있다.  "AI는 양심이 없다(김명주 지음)"는 인공지능과 함께 살아가려면 필요한 "지혜"가 있는데 이것을 "윤리"로 함축하고, 윤리는 인간만이 가진 "양심"으로 인하여 발현한다는 취지를 가지고 인공지능이 가져올 우리사회의 디지털윤리와 새로운 변화현상에 대한 이해력과 통찰력을 준다. 이 책의 핵심은 죽음, 존재, 신뢰에 대한 인공지능윤리에 대한 것이다.  미래에 인간이 어떻게 해야 인공지능과 공존할 수 있을지에 대한 해답이자 근원적인 방법으로 인공지능 윤리를 제시하고 있다.

이 책의 구성은 <'죽음'을 흔드는 AI>, <'존재'를 흔드는 AI>, <'신뢰'를 흔드는 AI> 그리고 <흔들림 너머 AI 바로 보기>구성이 되어 있다.  <'죽음'>에서는 디지털 부활, 디지털 영생, 디지털 페르소나, 디지털 흔적, 디지털 유산 등등의 키워드가 나오는데 인공지능이 이런 디지털 유산/흔적을 공부하여 디지털부활이 되는, 심지어 살아있는 사람에게도 디지털 쌍둥이를 만들어 산자와 죽은자의 경계가 모호해지는 순간이 나타나고 이런 것에 대한 찬/반, 긍정/부정에 대한 논의가 이루어진다. 인공지능에 대하여 '죽음을 흔드는 손'으로 급부상한다는데 그것은 바로 '사후 디지털 부활' '사후 디지털 고용'등 고인에 대한 사후 프라이버시에 대한 보장은 어떻게 해야 하는지 사회적 공감대 형성에 대한 조처를 마련해야 하는 시기를 맞이하고 있다는 것이다.  <'존재'>에서는 존재하지 않는 가상인간에 대한 것으로 가상 인플루언서, 가상 아나운서, 가상 가수 등에 관한 것인데 우리의 로지, 루이, 래아가 소개된다.  전통적인 윤리의 관점이 실존적인 인간과 그 행위에 국한되어 있지만, 이 버츄얼 휴먼과 아바타가 '존재'하게 되면서 아날로그 현실셰계와 디지털 현실세계가 섞인 혼합현실(MR)이 존재하는 사회에서 디지털 윤리의 필요성과 방향성에 대하여 공감대를 형성하는 것이 필요하다고 강조하고 있다.

<'신뢰'>에서는 가수 블랙핑크를 좋아하는 20데 여성 페르소나로 설정된 인공지능 '이루다'에서 나타난 현상, 헤프닝이 사례로 설명되는데 인공지능의 역기능, 부작용, 위험성에 대한 이야기다.  알파고에서의 잠재력, 발전가능성과는 달리 '이루다'에서는 잠재적인 문제점에 대한 국민적인 공감과 공론화가 시작되었다고 한다. 책임지지 않는 인공지능의 사례로 자율주행차가 나오는데 테슬라 모델S의 자율주행차 사고의 책임소재, 흑인을 차별한다던가, 여성을 차별한다던가, 공립학교를 차별한다던가하는 인공지능의 차별과 편견에 대한 사례들로 구성이 되어있다. 착각하게 만드는 인공지능은 앞서 이야기한 노트북 서비스관련 개인적인 경험에서도 겪은 사례인데 의인화된 인공지능 챗봇이 마치 사람같은 착각을 할 가능성과 불쾌한 골짜기(Uncanny valley)에 대한 소개, 딥페이크/딥 누드에 대한 사례들이 나온다. 인공지능을 통한 의료영상의 위조는 좀 걱정되는 바가 크다. <'신뢰'>에서는 신뢰할수 있는 인공지능이라야 우리와 함꼐할 수 있다는 것이고, 다양한 상황과 시각에서 우리의 윤리적인 상상력이 필요하다는 점을 강조한다. 마지막 장은 인공지능윤리가 필요한 이유와 도출에 대한 것으로 교육, 대학, 공공분야, 정부의 역할을 다룬다.

착한 중국 나쁜 차이나~ 임대근

착한 중국 나쁜 차이나
임대근 지음 / 파람북 / 2022년 4월

한동안 중국과 미국이 무역전쟁을 치루면서 이제나 저제나 불똥이 우리에게 튀지 않을까 걱정을 하며 사는 대한민국에게 가장 부담스러운 말은 "우리편을 들어라."가 아닐까, 더우기 그것이 우리의 우방이라는 미국이거나 우리가 무역을 하며 먹고사는데 큰 시장인 중국일 경우는 난감하기 이를때 없다.  우방의 정책에 호응해야 한다는 일종의 강요같은 것 때문에 러시아의 우크라이나 침공후 도와달라는 우크라이나에게 냉대를 하기도 어렵고 더우기 살상무기를 지원해달라는 말에는 당연히 대국 러시아의 눈치를 보지 않을 수 없으며 그 우방인 중국을 생각하지 않을 수 없다.  그 어느때보다도 긴장이 팽배한 대만해협을 사이에 두고 대만과 중국의 긴장관계도 부담이다. 이래 저래 우리 남한의 처지를 상징하는 일들이 벌어지고 있다.  "착한 중국 나쁜 차이나(임대근 지음)"은 YTN라디오에서 <3분 차이나>라는 프로그램에 방송된 중국에 대한 이야기를 모은 책이다.  

짤막짤막한 제목들을 몇 개의 그룹으로 묶어서 엵은 "착한 중국 나쁜 차이나"는 <가운데 나라, 중국>, <중국을 상징하는 것들>, <우리가 몰랐던 중국 옛 이야기>, <파란만장한 중국 근/현대사>, <중국의 뜨거운 이슈들>, <대만과 홍콩은 어디로?>, 그리고 <중국의 적과 이웃들>로 묶여져 있다. 소제목으로 서로 다른 개개의 이야기를 짧게 짧게 전개하는데 부담없이 편하게 읽을 수 있고 유익하고 재미난 이야기들로 꽉차있다.  중국에 대하여 하나의 같은 주제를 가지고 거기에 관통하는 이야기를 펼쳐나가는 것이 아니기때문에 읽는 사람마다 각자의 소감이 다를 수 도 있겠다. 모아놓은 글들을 읽다보니 중국에 대한 단편적인 소감들이 떠오르는데 나에게는 "관계"라는 단어가 떠오른다. 여기에 나오는 이야기를 하나로 엵어주는 단어로 적합하다는 생각도 든다.  변화무쌍한 관계속에서 유유히 흐르는 자신의 이익이고 보전이다.  이것을 유지하기 위하여 서로 전쟁을 하고 죽인다.  

또다른 단어는 "아픔"이다. 잠자고 있던 중국이 일본 그리고 제국주의 세력에 의해 난도질 당하고 아편전쟁과 홍콩, 청일전쟁, 중일전쟁 등 아픈 역사속에서 역동적으로 살아온 중국, 그리고, 지금은 강대국이 되어 미국의 견제 대상이 된 나라, 우리처럼 분단되지는 않았지만 국공합작도 잠시 서로 분열하여 싸울수 밖에 없었던 역사적인 현실 속에서 주장해온 "하나의 중국"전략을 밀어준 미국 그리고 지금은 그 반대입장인 미국을 볼때 국익을 위해서 입장은 얼마든지 바뀔수 있다는 "냉엄한 국제현실"도 이 책속의 이야기에서 실감할 수 있다. 이제 바야흐로 강대국이 된 중국과 미국의 "경제전쟁", 유럽에서의 러시아와의 힘겨루기와 우크라이나 전쟁, 대만과 중국의 문제 그리고 미국의 역할, 중국의 약진을 그냥 놓고볼수 없다며 배타적인 겡제블록을 만들어 중국을 견제하는데 거침이 없는 미국, 이에 대항하여 결코지지 않으려는 중국 그리고 이들사이에서 먹고 살아야 하는 대한민국의 입장과 샘법은 점점 더 복잡해지기만 하고 있다.  까딱 잘못하면 눈치없다고 욕을 먹는 것 뿐만 아니라 나라와 국민의 삶에 고통을 줄 수 있는데 대놓고 편들라고 보체는 미국이 밉기도 하다.

중국이 그저 자기 멋에 겨운 중화라면 크게 걱정할 필요가 없겠다.  지금의 중국은 갖은 고초를 뒤로하고 자각을 하게된 중국이다. 아편전쟁이나 청일전쟁/중일전쟁, 국공내전 등을 하며 분열하던 중국이 아니라 군사적으로나 경제적으로나 힘이 쎈 나라, 친하게 잘 지내야 하는 나라가 중국이다. 우리도 갖은 역경을 뒤로하고 이만큼 이루어 놓고 먹고 살만한데 새로운 도전이 밀려온다. 어제 미국의 바이든 대통령이 한국을 방문했는데 그 어느때보다 다른 느낌이다. 중국을 왕따놓는 경제적 블록을 만들어 견제를 하겠다고 하고, 미국에 중요한 반도체공장, 자동차공장을 지으라고 압박아닌 압박을 한다. 우리 입장에서는 미국과도 중국과도 친하게 지내야 한다...누가 그걸 모르나?!

북극 허풍담1~ 요른 릴

북극 허풍담 1 - 즐거운 장례식
요른 릴 지음, 지연리 옮김 / 열림원 / 2022년 4월

아무것도 생존하지 않을 상상할수 없는 추위와 함께 그곳에 사는 사냥꾼들의 이야기, 북극권, 아무도 살지 않을 그린란드에서 외롭게 사냥하며 오로지 친구라고는 자신들의 교통수단인 개들과 함께 살아가고 있는 그들은 과연 어떠한 모습으로 살아갈까. 세상과 단절되다시피 살아가고있다. 이웃집을 가려면 개썰매를 끌고 며칠을 찾아가야 하고 눈보라와 고독감을 느끼지만 그들만의 유쾌한 허풍과 해학으로 그 강추위와 맞서 살아간다. 핸드폰도 테레비도 없는 세상과는 단절된채 오로지 눈과 자신의 교통수단 개들과 살아가면서 거의 방문객도 없는 곳에서 자신만의 허풍으로 우리를 재미있게 한다.

각박한 세상속에서 모든걸 버리고 험하지만 멋진 대자연과 함께 북극으로 온 사냥꾼들이 도착한 그린란드에서 외롭고 힘든 와중에서도 유쾌하게 살아가는 그들만의 이야기가 이 책에 있다. 외지에서 온 중절모를 쓴 사람, 문신을 하는 사람으로 인해 그린란드 사냥꾼들이 그에게 문신을 하게되고 그는 그 덕분에 한 재산을 장만해 떠나게 되는 이야기, 그리고 있지도 않은 여인을 사랑하게 되는 한 남자의 이야기와, 혼자사는 남자와 어느날 선박에서 훔쳐온 수탉한마리와 이야기, 그리고 그린란드 사냥꾼을 민병대로 만들려고 했던 중사가 오히려 사냥꾼들에게 고역을 치르게 되는 이야기, 또한 자신들의 친구 사냥꾼을 위해서 유쾌한 장례식을 치르는 이야기등, 섬뜩한듯하면서도 유쾌, 상쾌, 통쾌한 이야기들이 나온다.

우리는 감히 상상할수도 없는 곳이지만 그곳에서도 인간들은 살아가고 또 그곳에서도 아랫쪽에서 벌어지는 소란을 고스란히 받게 되기도 하지만 그들만의 유쾌함으로 헤쳐나가는 이야기속에서는 왜 그리 통쾌한건지, 세상을 향해 던지는 작가의 메세지 같기도 하고 재미나게 읽어 내려 갈수 있었던거 같다. 인간의 발이 닿지 않는 곳이 없다는것을 확실히 느끼게 되지만, 그런 곳에서도 자신만의 방식으로 살아가는 그들의 유쾌한 이야기에 푹빠지다 보면 세상의 소란스러움을 잠시 잊게 만들것이다. 요즘같이 세상을 뒤덮는 코로나와 그리고 전쟁으로 인해 지구가 몸살을 앓고 있는 시기에 저 위쪽 추운 북극쪽에서는 세상을 뒤로한채 그들만의 삶이 있다 상상해 보며 그래도 그들만의 고충이 있음을 알지만 그런 속에서도 유쾌하게 그 삶을 받아들이며 살아가는 그들의 이야기, 재미나게 읽어 내려 갈수 있었던거 같다. 어른들의 안데르센이라 할 만한 작가의 스토리구성과 위트가 함께 하고 세상을 향해 던지는 메세지까지 재미나게 읽어 내려 갔던거 같다. 북극 허풍담2도 기대된다. ^^

15분마다~리사 스코토라인

15분마다
리사 스코토라인 지음, 권도희 옮김 / (주)태일소담출판사 / 2022년 4월

이 글에는 스포일러가 포함되어 있습니다.

가족과 자신이 진료하는 환자밖에 모르는 에릭, 어느날 응급실에서 삶이 얼마남지 않은 할머니로 부터 혼자남게될 손자 맥스를 상담해 줄것을 의뢰받는다. 죽음을 앞둔 할머니의 부탁에 맥스를 만나 자신의 진료실로 오기를 권하고 어느날 자신의 진료실에 온 그와 상담을 하게 된다. 우울증과 강박장애를 가진 맥스는 자살충동까지 있고 할머니에 대한 걱정과 엄마에 대한 분노까지 있다. 그리고 자신이 가르치는 여자아이를 멀리서 지켜보고 있다는 이야기를 듣게 된다.

그후 다시 상담하기를 약속하지만, 맥스의 할머니가 돌아가셨음을 듣게 되고 맥스는 연락이 닿지 않게 된다. 에릭은 맥스가 자살 하려는 것이 아닌지 걱정하게 되고 그 아이를 찾기 위해서 경찰에게도 부탁하고 자신의 친구 로리에게도 부탁을 하지만 찾을 방법이 없다.

그런 와중에 맥스가 좋아한다는 르네라는 여자아이가 살해당했다는 소식을 경찰로부터 듣게 되고 경찰은 에릭을 변호사도 없이 그를 경찰서로 끌고 오는데 그리고 그가 진료한 맥스에 대한 상담기록을 말하라 하지만 에릭은 의사로서 환자의 상담기록을 내어줄수 없다고 강경하게 말을 한다. 변호사도 없이 경찰서로 끌려온 에릭은 로리의 도움으로 그녀의 동생 형사전문변호사 폴을 변호사로 만나게 되고 그의 도움으로 경찰서에서 나오게 된다. 그는 맥스는 자신이 좋아하는 여자아이를 살해 할 아이가 아니라는 믿음을 가지고 맥스를 찾기 시작하는데. 맥스가 한 쇼핑몰에서 5명의 아이를 인질로 잡고 있는 모습을 TV를 통해 알게 된다. 에릭은 맥스를 구하기 위해서 위험한 그곳을 경찰저지선을 뚫고 맥스에게 다가가서 그를 구하게 되지만 에릭은 또 다시 위험에 빠지게 된다. 병원에서는 한 의대생으로 부터 고소를 당하고 그리고 맥스와 관련되어서 정직처분을 받게 되고, 그리고 아내에게 도움을 청하지만 거절을 당하게 된다. 어디에서도 그는 거절당하지만 오로지 맥스는 범인이 아니라는 믿음에 그 여자아이를 죽인 범인을 찾기 시작하는데 추적하는 과정속에서 놀라운 반전에 반전을 거듭하는 놀라운 사건들이 나오기 시작하는데 에릭은 과연 그 과정들 속에서 그는 과연 어떠한 모습을 보일지, 책을 끝까지 읽어 내려가기 바란다. 자신의 딸과, 자신이 사랑하는 환자들을 위해서 그는 그들을 지켜낼지 끝까지 읽어 보면 알수 있을것이다. 탄탄한 스토리가 두꺼운 책의 부담을 덜고 재미나게 읽어 내려 갈수 있을것이다. 아무도 그를 지지 하지 않는 사면초가인 상태에서 그가 풀어내는 과정들속에서 자신의 딸 해나와, 맥스를 생각하는 그가 끝까지 믿고 추적해 가는 과정들속에서 들어나는 놀라운 반전까지 재미있게 읽었던 것 같다.

런던의 마지막 서점~ 매들린 마틴

런던의 마지막 서점
매들린 마틴 지음, 김미선 옮김 / 문학서재 / 2022년 4월

엄마와 단둘이 살던 그레이스는 엄마가 사망하고 자신이 살던 집이 삼촌집이었다는 사실과 그리고 그 집으로 삼촌이 이사오게 되었다는 이야기를 듣고 엄마의 친구 웨더포드아주머니집으로 친구 비브와 함께 올라온다. 그곳에서 비브는 추천서를 받아 백화점에 취직하고 그레이스는 웨더포드부인의 도움을 받아 에번스씨가 운영하고 있는 프림로즈 힐 서점에 6개월간 일을 하기로 하지만 무뚝뚝한 에번스씨와 일을 하게 되지만 실제로는 책에 관심을 가질 여유가 없었던 그레이스에게는 막막하고 힘든 시간임을 직감하지만. 삼촌의 가게에서 자신이 했던 일들을 생각하며 어수선한 에번스의 서점에서 6개월간 서점을 정리정돈하고 에번스씨를 돕기로 작정한다.

바쁜 와중에 손님들이 간혹 방문을 하고 그곳에서 조지라는 남자의 방문을 받게 되고 서로 교감하게 되지만 2차세계대전이 발발하고 조지는 전쟁터로 떠나게 되면서 그레이스에게 '몬테크리스토 백작'을 선물하게 된다. 그리고 친구 비브또한 전쟁에 지원하게 되고, 웨더포드아주머니의 아들 콜린까지 전쟁에 지원하게 되는데, 모두들 전쟁터로 떠나고 그레이스는 에번스씨의 서점을 새롭게 조금씩 업그레이드를 하는데 그 와중에 독일군은 프랑스를 넘어 영국까지 공습을 하게 된다. 그 속에서 사랑하는 이들의 죽음과, 이웃들의 집들이 부서지고, 죽음의 모습을 발견하게 되는데, 그런 속에서 그레이스는 방공호에서 모인사람들에게 낭독을 시작하게 된다. 그리고 폭격이 업는 날은 서점에서 낭독을 하게 되고, 포탄이 떨어지는 두려움의 순간속에서는 그레이스의 낭독의 시간에 사람들은 하나둘씩 모이게 되고 전쟁의 무서움을 조금이나마 떨쳐버리게 된다. 하나둘씩 서점들도 집들도 부서지고 전쟁의 참상이 하나둘씩 드러나고, 그레이스는 그런 와중에 무너진 서점들을 도와 에번스씨의 서점에 그들의 책을 함께 팔고 이익을 나누기도 하는등 자신만의 능력으로 모두를 위해서 전쟁속에서도 도움을 주며 끝이 보이지 않는 전쟁의 시간은 더디게 흘러가지만 그 속에서도 서로 돕고 힘을 내는 그레이스의 모습속에서 그리고 그 주변인물들을 통해서 잔잔하게 전해준다. 책을 통해서 따스하게 전해지는 전쟁속의 그들의 이야기가 따스하게 우리의 가슴을 포근하게 해줄것이다.

마지막 남은 런던의 서점속에서 아니 그레이스가 전쟁터에서 모든것을 잃은 이들을 위해서 전해주는 따스한 이야기가 내 가슴속도 따스하게 해주는 듯했다. 그 서점을 통해서 그레이스 또한 책을 사랑하게 되고 그리고 성숙할수 있었지만 그녀와 서점을 통해서도 많은 사람들이 위로를 받게 되는 모습을 보게 될것이다. 모처럼 따스하고 편안하게 무언가 내 가슴속에서 몽글몽글 피어나는 것이 있음을 느끼게 된다.