AI로 인한 도덕적 문제를 깊이있게 다룬 AI철학서

도덕적인 AI - 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음
월터 시넛 암스트롱.재나 셰익 보그.빈센트 코니처 지음, 박초월 옮김 / 김영사 / 2025년 1월

바야흐로 AI의 시대다. 챗GPT가 뭐냐고 물었던 게 엊그제같은데 이제 챗GPT를 문서 작성 비서로 쓰는 일이 흔하다. AI일러스트와 영상을 이용한 기발한 콘텐츠들이 SNS에 넘쳐나니 이제는 모두 자연스럽게 받아들이는 분위기다.

초창기 AI일러스트의 가장 큰 문제가 뭐였는가? 바로 기존 인간 일러스트레이터들의 그림을 학습해서 그림체를 거의 똑같이 구현해낸다는 점이다. 일러스트레이터들의 자리를 위협하고 저작권에 문제가 생긴다는 문제제기가 많았다.

인공지능을 활용한 자율주행자동차는 이미 절반정도는 상용화되었다. 차간 거리를 재거나 특정 속도를 유지하고 달리다가 앞에 보행자나 다른 차가 끼어들면 멈추기도 한다. 편리하고 신박한 기능들이 많지만 여전히 인공지능을 다 믿지는 못한다. 인공지능이 학습하지 못한 변칙적인 상황이 되면 제기능을 못하고 보행자를 치거나 사고가 날 수 있기 때문이다.

AI를 이용한 노래부르기, 사진으로만 있는 위인들의 얼굴을 움직이게 만들어서 실제 살아 생전의 모습을 구현해내는 기술까지. AI라는 걸 알아도 신기하고 모르고 보면 속이는 건 순식간이다.

하루가 다르게 발전하는 AI기술을 바라보며 우리는 모두 마음 속에 한가지 불편함을 가지게 된다. '이래도 되는 건가?' 왜 그런 마음이 드는 걸까?

그 이유를 이 책에선 5가지로 나눠서 설명한다.
1. 인공지능은 안전할 수 있을까?
2. 인공지능은 프라이버시를 존중할 수 있을까?
3. 인공지능은 공정할 수 있을까?
4. 인공지능에 책임을 물을 수 있을까?
5. 인공지능에 인간의 도덕성을 탑재할 수 있을까?

AI는 인류에게 필요한 기술이고 발전 가능성이 무한하지만 위의 문제들을 제대로 직면하고 해결해야 한다. 인간이 만든 기술이기 때문에 그걸 통제하고 보다 도덕적으로 만들어내는 것도 인간만이 할 수 있다. 이 책은 AI의 부정적인 측면을 많이 보여주지만 그럼에도 불구하고 개선될 수 있는 여지와 희망, 우리가 할 수 있는 일들을 얘기해준다.

'AI의 위험성을 과소평가해도 안 되지만 그렇다고 과대평가해서도 안 된다. 위에서 나열한 도덕 문제(안전성, 공정성, 프라이버시, 자유, 투명성, 기만)를 신중하게 다른다면 대체로 AI는 안전하고 윤리적으로 만들어지고 사용될 수 있다. 목욕물을 버리다가 AI 아기까지 버릴 수는 없다. 그러지 않기 위해서 이제부터 우리는 당면한 도덕 문제를 조명할 것이고, 모든 사람이 AI 윤리에 더 많은 관심을 기울여야 하는 이유를 제시할 것이다.' _ 서문 중

이 책은 '인공지능은 무엇인가?'라는 기본적인 개념부터 잡아주고 시작한다. 바둑을 두는 인공지능 알파고와 챗GPT는 모두 AI라고 불리지만 다른 범주에 속한다. 좁은AI, 범용AI, 강한AI로 나뉘는 AI들은 쓰임에 따라 다른 역할을 수행한다. 연산 전략을 통해 특정한 임무를 수행하도록 설계된 AI를 좁은AI(알파고, 체스를 두는 딥블루 등), 챗GPT, 빙챗, 바드 처럼 오픈AI 챗봇은 범용AI로 분류된다.

우리는 AI에 이미 익숙해졌지만 그것에 대해 이렇게 깊이있게 생각할 기회는 없었다. AI철학서라는 말도 어색하지만 이제는 익숙해져야 할 것 같다. 우리는 앞으로 AI없이는 살아갈 수 없을테고 그로 인해 생길 문제를 미리 인지하고 있어야 한다.

'AI 초지능에 대한 우려는 AI가 지금보다 훨씬 뛰어난 능력을 갖게 되면 무슨 일이 벌어질지 모른다는 두려움에서 비롯된다. 이와달리 오늘날 AI시스템의 안전 문제에 대한 우려는 AI가 제대로 작동하지 않는 부분에 대한 인식에서 비롯된다.'_p.83

'프라이버시 역설은 AI의 프라이버시 위협 중에서 가장 강력할지 모른다. AI의 밝은 전망에 대한 기대감은 프라이버시를 침해하는 문화 생태계의 형성에 기여했다. 프라이버시 침해가 워낙 지속적으로 이루어진 탓에 수많은 사회 구성원이 이를 막기 위해 별다른 노력을 기울이지 않고 있다.'_p.155

막연한 불안감과 함께 AI시대를 맞이하게 되면서 이 현상을 긍정적으로 봐야할지 말지 고민이 많았다. 부정적으로 본다한들 AI급류를 막을 방법은 없다. 그렇다면 정면으로 마주하고 도덕적으로 사용하는 방향성을 가져야 하는 게 맞다. 더 민주적인 사회를 위해 함께 AI윤리를 읽기를 바란다.

*도서를 제공받아 솔직하게 작성한 서평입니다

실화가 아니라는 게 더 놀라운 이야기

두 번째 아이
다비드 포앙키노스 지음, 김희진 옮김 / 문학수첩 / 2024년 7월

<두 번째 아이>는 얼핏 들었을 때는 해리포터에 관한 누군가의 에세이같다는 인상을 준다. 부제가 '우리가 몰랐던 또 한 명의 '해리포터'이야기'니까.

하지만 이 책은 소설이다. 그냥 소설이 아니라 실화를 절반정도 녹여낸 정말 진짜같은 내용의 소설이다.

이야기는 주인공 마틴 힐의 시점에서 시작된다. 저자는 결말이 이미 정해져있는 스토리라는 사실을 숨길 생각이 없다. 첫 문장이 이렇게 시작되기 때문이다.

"마틴 힐의 트라우마가 얼마나 깊은지 이해하려면 비극의 근원으로 거슬러 올라가야 한다."

해리포터가 될 뻔했던 사건이 그 아이에게 트라우마가 됐다는 사실을 처음부터 깔고 들어간다. 그래서 뒷 내용이 계속 궁금해진다.

마틴의 부모님 이야기에서부터, 어쩌다가 해리포터 배역 오디션을 보게 되었는지까지도. 이미 정해진 운명이었다는 듯 불가항력으로 자석처럼 해리포터와 가까워지는 마틴을 보면 안타까우면서도 호기심을 멈출 수가 없다.

그래서? 오디션을 어떻게 봤는데? 다니엘은 얼마나 특별했기에 세기의 오디션을 합격했던 거지? 마틴은 어디가 부족했을까?

익히 알고 있는 해리포터 영화 출연진과 조앤 롤링 스토리의 뒷면을 훑어보는 기분이라 책 읽기를 멈출 수가 없다.

무엇보다 궁금했던 건 이 지점이었다. 해리포터 배역에서 탈락한 이후에 이 아이는 어떤 인생을 살았을까?

그 답을 소설은 잔인하다 싶을 정도로 자세히 서술해준다. 마틴은 영혼없는 인형같은 삶을 산다. 잘 지내다가도 해리포터 소설이나 영화에 대한 소식이 들리면 생각이 멈추고 두려움이 엄습한다. 해리포터의 식을 줄 모르는 인기와 다니엘 래드클리프의 마법같은 뉴스들은 마치 마틴의 실패를 조롱하는 것 같다.

그 기분은 정말 마틴이 아니라면 상상도 못할 것이다. 현 시대에 다니엘만큼 그렇게 긴 세월동안 꾸준한 인기와 흥행 속에서 살았던 배우가 얼마나 될까. 다니엘의 인기는 마틴의 실패를 지속적으로 일깨워주는 것과 같았다.

사실 이 이야기가 해피엔딩이 될 거라고는 예상하지 않았다. 스스로 트라우마를 극복할 힘이 없는 주인공을 어떻게 응원해야 된단 말인가.

그런데 저자는 그걸 해냈다. 마법과도 같은 방법으로 자연스럽고 극적으로 마틴을 늪에서 끌어올려주었다.
실패의 기운으로 가득했던 마틴의 인생은 그 실패를 통해서 앞으로 나갈 힘을 얻었다. 예기치못한 감동에 이렇게 놀란 건 오랜만이었다.

더 이상 해리포터에 대해서는 읽을 책이 없다고 생각한 독자라면 이 책을 꼭 읽기를 권한다. 사각지대에 놓였던 전혀 새로운 해리포터 이야기를 만나게 될 것이다.

더불어 저자의 익살스러운 화법이 몰입감을 더한다는 사실을 덧붙인다.

"마틴은 스스로를 대견스러워할 수 있었다. 그는 소설 일곱 권과 영화 여덟 편을 버티고 살아남았다. 하지만 대장정이 끝났음에도 열기는 수그러들지 않았다. ... 사방에서 기념식과 축하연이 열렸다. 그것으로도 모자라 <해리 포터>의 파생작에 해당하는 새 영화 시리즈, <신비한 동물 사전> 제작이 발표됐다. 마틴은 벌써부터 진이 다 빠졌다."
_p.208


*문학수첩에서 도서지원을 받아 솔직하게 작성한 서평입니다.

#우리가몰랐던또한명의해리포터이야기 #두번째아이 #다비드포앙키노스 #문학수첩 #해리포터 #서평단

행복한 수의사 행복한 동물원

이상한 동물원의 행복한 수의사
변재원 지음 / 김영사 / 2024년 6월

동물원의 동물들이 불쌍해보인다는 막연한 생각은 있었지만 동물권을 위해서 뭔가를 해야겠다는 생각은 깊게 해보지 않았다. 그러다 우연히 청주동물원에 대해서 듣게 되었다. 문을 닫게 된 동물원에서 방치되어 갈비가 드러날 정도로 마른 사자를 청주동물원에서 데려가서 건강하게 만들어주었다는 이야기.

이 책은 그 청주동물원의 수의사가 쓴 책이다.
작은 호기심에서 시작된 이 독서에서 많은 걸 배우게 되어 놀랍고 당황스럽기도 하다. 동물원의 동물들은 생각했던 것 보다도 더 열악한 환경 속에서 살고 있었다. 국내에 없는 희귀한 동물을 동물원에 전시하면 관람객이 많이 몰린다. 그래서 비싼 돈을 주고 해외에서 동물을 사오는데, 문제는 그 동물에게 적절한 환경이 무엇인지, 아프면 어떻게 치료해주어야 하는지 명확한 가이드라인이 없다는 점이다.

실내의 꽉막힌 공간에서 지내면 당연히 아프게 되는데, 그 동물에게 딱 맞는 치료 방법을 몰라서 개인적으로 여기저기 연락하고 찾아보면서 동물을 치료하려 애쓴 내용들은 존경심과 동시에 안타까움이 든다.

동물들을 아프게 만든 사람들은 따로 있는데 치료하기 위해서는 수의사들과 사육사들이 애써야 한다니. 그런 상황에서 포기하거나 현실에 타협할만도 한데 저자인 변재원 수의사는 처음 수의사 된 순간부터 지금까지 변함없이 모든 동물들에게 할 수 있는 최선을 다하고 있었다.

이 책에 쓰인 건 그의 행적의 아주 일부분일테고 그마저도 순화해서 표현한 것들이 많을 것이다. 동물권이 이렇게까지 무너진 게 어디서부터 잘못된 건지 모르겠다. 비단 동물원의 동물들 뿐만 아니라 전세계 어디의 동물이건간에 이 끔찍한 호모사피엔스의 손길에 영향받지 않은 종이 없을테니.

개인이 할 수 있는 일에 한계는 있을테지만 확실한 것은 변재원 수의사의 이 담담하고 솔직한 에세이를 통해서 동물원의 실태와 눈에 보이지 않는 어려움을 알게 될 사람들이 점점 많아질 거라는 점이다.

남형도 기자의 추천사처럼, 동물원에 가는 모든 사람들이 이 책을 한번씩 보면 좋겠다. 자라나는 아이들에게 읽어주는 것도 더할나위없이 좋을 것이다.

*김영사에게 도서를 제공받아 솔직하게 작성한 서평입니다.

#이상한동물원의행복한수의사 #변재원 #김영사 #서평단
#동물원이야기 #수의사의일상 #에세이

직장인 여성의 고민해결서

다정하지만 만만하지 않습니다 - 공감부터 설득까지, 진심을 전하는 표현의 기술
정문정 지음 / 문학동네 / 2024년 5월

이 책은 친절함을 잃지 않으면서 나의 의견을 바르게 표현하는 방법에 대해서 알려준다.

그 방법을 알려주는 문체가 너무나 다정스러워서 저자가 얼마나 친절한 사람인지 자연스럽게 알 수 있다.

인간 관계 처세에 대한 책은 많이 있지만 이 책이 유독 선명하게 느껴지는 이유는 무엇일까.
그건 저자가 경험한 일화들이 한국 사회를 살아가는 여성이라면 누구나 쉽게 접할 수 있는 내용이기 때문일 것이다.

'즉각적인 분노 대신 우아하게 요구하기' 챕터에 소개된 신입 시절의 이메일 통보 사건은 약간은 PTSD가 올 정도로 나의 신입사원 시절을 떠올리게 했다. 인간관계도 서툴고 사회생활은 더 서툰 시절의 디테일한 에피소드들.

에세이는 저자 자신의 경험에 근거한 약간은 일기에 가까운 자기 자랑, 남의 세상 이야기 같다는 생각에 에세이를 별로 좋아하지 않았는데 이 책은 조금 다르게 다가왔다.

거의 모든 부분에서 공감을 느꼈고 현실에서 바로 써먹을 수 있을 정도의 실용성도 충분했다.

치열하게 현대사회를 살아가는 사회인 여성에게는 '내 이야기를 하는 거 아니야?'라고 느낄만큼 살아있는 텍스트로 쓰여진 책이다.

다만 독자층에 한계는 있을 것 같다.

직장에 다니지 않는 가정주부의 경우는 만나는 인간 관계나 소통의 방식에 차이가 있기에 이 책과 잘 맞지 않는다. 또한 그저 사람들과 잘 지내고 싶을 뿐이지 글이나 말하기를 뛰어나게 잘 하고 싶은 게 아닌 사람에게도 적합한 책은 아니다.

또한 여성 중심적으로 쓰여진 책이기 때문에 남성 독자에게는 어필이 많이 안될 수 있다고 생각한다.

메일의 문장 하나 하나에 지나치게 몰입한다는 느낌이나, 대화에 사용하는 특정 말투나 특징을 부정적 시그널로 규정해버리는 점, 독서모임을 강력하게 추천하는 등의 다소 편집증적인 포인트들 때문에 읽고 있기 불편한 점이 있었던 것도 사실이다.

하지만 어차피 조언이나 솔루션은 나에게 맞는 부분을 찾아서 취하면 되는 것이기에. 친절하면서 할말은 하는 사람이 되고 싶은 사람이라면 한번쯤은 읽어보기 좋을 것이다.

#다정하지만만만하지않습니다 #정문정 #문학동네
#서평단 #책리뷰

세월호를 기억하는 방법

월간 십육일 - 세월호 참사 10주기 기억 에세이
4·16재단 엮음, 임진아 그림 / 사계절 / 2024년 4월

국민들 모두가 겪은 트라우마, 세월호 참사. 그날의 충격이 아직도 어제일처럼 생생한 건 나 뿐만이 아니었나보다.

<월 간 십육일>은 4월 16일을 기억하는 사람들의 이야기를 모은 에세이집이다.

2020년 6월 16일부터 4.16재단 블로그에서 꾸준히 연재되어 왔던 시리즈를 10주기를 맞아 책으로 발간했다. 에세이에 참여한 작가들은 시인, 소설가, 뮤지션, 정치인 등 다양한 직업을 가진 ‘비유가족’이다. 그러니까 세월호 유가족이 아닌 일반 시민들이 쓴 그날의 기억 에세이인 것이다.

세월호의 기억이 유가족 만큼은 아니지만 대한민국 국민이 겪는 감정은 모두 비슷할 거라고 생각한다. 충격, 슬픔, 억울함, 비통함, 안타까움, 분노… 그런 감정들이 작가들의 글에서 뚝뚝 묻어난다. 이건 내가 쓴 건가, 싶을 정도로 같은 상황에서의 같은 감정을 느끼는 글도 있었고 누구보다 앞장서서 세월호 진상 규명과 위로에 동참했던 사람의 글도 있었다.

세상에 같은 사람은 하나도 없을진데, 세월호를 기억하는 마음들은 어쩌면 이렇게 닮아있을까.

<월간 십육일>은 세월호를 어떻게 기억해야 할지, 그날의 경험을 어떻게 표현해야 할지 갈피를 못잡는 수많은 사람들에게 ‘세월호를 기억하는 방법’을 알려주는 책이 아닐까 싶다.

10년이 지났지만 여전히 그날을 기억하고 진실을 마주보려 노력하는 사람들의 노력이 담긴 눈물로 쓰여진 에세이. 바쁜 세상 속에서도 여전히 기억을 보존하려 애쓰는 이들이 있다는 사실에 안도하고 나의 10년을 돌아보게 만드는 책이다.


“무엇보다 원하지 않는 이별이 가장 오랫동안 기억에 남는 것 같습니다. 이별 당사자 그 누구도 원하지 않는 상황에서 생긴 갑작스러운 이별에 대해 어떻게 기억하면 좋을까요.”
_이랑<네가 그 친구를 계속 기억하면 된단다>

“내가 슬프기 싫어서 안 보는 마음이 얼마나 알량한 것인지 제 친구 요조의 글을 읽고 다시 생각했던 것 같아요. 내 마음 아플까 봐 못 보겠다, 이 말이 얼마나… 그것을 감당하고 맞서서 살아가는 사람들 앞에서는 진짜 얼마나… 작고 좁은 마음인지 알겠더라고요.”
_이슬아 인터뷰<단단해지는 마음>

“불응으로 기억을 훼손하고 있는 이들은 누구인지, 어떤 의도를 가지고 있는지 다시금 살피게 된다. 우리가 꼭 가져야 할 공동체의 기억이 우리에게 오지 못한 채 어딘가에 억류되어 있고, 그 지연의 여파가 어디까지 미칠지 아득하다.”
_정세랑<기억이 굳어가는 동안, 울타리처럼 서서>

“우리 사회는 세월호 참사 희생자들에게 큰 빚을 졌다. 그러나 그들이 남긴 그 모든 것의 무게를 다 합한다 한들 그들이 온당히 누렸어야 하는 것들의 가치만 할 수 있을까.”
_김애란<모두의 일곱 해>

“시간은 계속해서 우리를 스치고 지날 것이다. 편리한 세상 속에서 기억은 힘을 점점 잃을 것이다. 언젠가부터 나는 편안함과 편리함이 섬뜩하게 느껴진다.”
_황예지<암기>

“상처를 직면하여 그것을 내게 일어난 일로 만드는 작업은 우리 모두의 숙제다. 4월 16일 그날이 더 이상 숨겨진 과거, 슬픈 풍문이 아닐 수 있도록.”
_유지혜<사랑은 시간을 얼린다>

*출판사에서 도서 지원을 받아 작성한 서평입니다.