인공지능 시대, 질문이 필요하다

AI 시대, 우리의 질문 - AI와 우리를 위해 반드시 짚고 넘어가야 할 질문 13
미리엄 메켈.레아 슈타이나커 지음, 강민경 옮김 / 한빛비즈 / 2025년 3월

질문이 창발성으로 가는 길이다. 질문을 하지 못한다면, 인간의 자율성은 없다고 봐야 한다. 의문을 지니지 못하는 존재는 입력한 대로만 결과를 산출하지 그것에서 다른 것을 만들어내지 못하기 때문이다.

질문을 할 수 있는 능력, 이것이 인간을 인간답게 하고 있는 요소 중 하나라면, 그것도 아주 중요한 요소라면, 인공지능 시대에 접어들면 더더욱 질문을 할 수 있어야 한다. 인공지능에 대한 질문부터 인공지능 시대를 살아가는 우리들의 자세까지도.

이 책의 저자들은 그렇게 인공지능 시대에 접어든 우리에게 인공지능 시대를 살아가기 위해서 어떤 질문을 하고, 답을 찾아야 하는지를 제시하고 있다. 

인공지능으로 인한 유토피아도 디스토피아도 결국 우리가 만들어가는 것 아니겠는가. 인공지능에 대해서 너무 환호만 해서도 안 되지만, 그렇다고 부정만 해서도 안 된다고. 적절한 질문을 통해 우리가 나아가야 할 길을 찾아야 한다고.

하여 책의 작은 제목에 'AI와 우리를 위해 반드시 짚고 넘어가야 할 질문 13'이라고 되어 있는데, 굳이 질문 13개라고 하지 않아도 된다.

거역할 수 없는 인공지능 시대를 맞이하여 우리는 어떻게 해야 이 시대를 인간답게 살아갈 수 있을 것인가를 생각하게 하는 질문이라고 보면 된다.

인공지능 시대를 살아가야 할 우리들이 지녀야 할 자세에 대한 저자들의 생각은 이 말에 분명히 나타나 있다.

'종말론과 기술의 유토피아를 넘어선 세상은 AI로 인간을 돕고, 더 강하게 만들고, 더 나은 존재로 만드는 곳이어야지 대체하는 곳이어서는 안 된다.'(407쪽)

이 말에 의하면 인간이 좀더 편리하고 행복하게 살기 위해서 인공지능을 개발해야지, 인간을 대체하기 위해서 개발하면 안 된다는 말이다.

그런데 과연 그러한가? 전쟁에 사용되는 인공지능을 보라. 또 인간의 능력을 넘어서는 인공지능을 보라. 인간을 돕는 것이 아니라 인간을 파괴하는 경우가 있지 않은가. 

이런 인공지능의 개발에 대해서 세계는 아직 공통된 규제 법안을 마련하지 못하고 있다. 그런 점에서 이 책에서 핵무기와 인공지능을 비교하고 있는 부분은 의미가 있다.

'핵분열과 AI에는 실제로 공통점이 많다. 우선 신속함이다. ... 원자폭탄과 AI는 둘 다 엄청난 효력을 보이는 기술이다. ... 원자폭탄과 AI의 세 번째 공통점은 이 두 기술이 모두 국제적인 경쟁을 부추겼다는 사실이다. ... 마지막으로 원자폭탄과 AI가 비약적으로 발전하는 데는 특정 물질이 필요했다.'(395-398쪽)

하지만 원자폭탄과 같은 핵폭탄은 국제적인 협약이 -비록 전세계 모든 국가가 참여하고 있지는 않지만, 대다수의 나라가 참여하고 있고, 그 방향에 대해서는 모두 옳다고 인정하고 있다고 할 수 있으니 - 있는데, 아직 인공지능에 대해서는 국제적인 협약이 없다는 점이 다르다.

핵무기만큼이나 위험할 수도 있다는 얘기가 되는데, 핵무기를 적절히 통제하고 그것을 에너지 자원으로 이용한 것처럼, 인공지능 역시 어떻게 통제하고 이용하느냐가 앞으로 우리들이 살아가는 세상에서 중요하게 작용할 것이다.

그러므로 저자들이 주장하는 'AI로 인한 인류의 멸종을 철학적으로 고찰하는 대신, 그 기술이 초래할 즉각적인 위험에 초점을 맞춘 새로운 규정을 만들어야 한다. ... 데이터 보호, 차별, 콘텐츠 조정, 책임 및 지속가능성에 주목해야 한다'(389쪽)는 말을 참고해야 한다.

여기에 인공지능이 엄청난 에너지 소모를 유발한다는 것을 명심해서 환경 파괴를 막을 수 있는 방법을 찾아야 한다. 

그러기 위해서는 인공지능 개발에 투명성이 확보되어야 하며, 인간이 통제할 수 있는 장치가 있어야 한다. 또한 자본의 이익을 위해서가 아니라 인류의 행복을 위해서 인공지능을 개발한다는,따라서 인간의 행복을 저해하는 쪽으로 인공지능이 사용되지 않도록 한다는 원칙에 합의해야 한다.

그래야만 인공지능이 인간을 대체하는 것이 아니라 인간과 함께 살아가는 서로 공존하는 세상이 될 수 있다. 단지 인공지능만이 아니라 다른 모든 존재들과 함께 이 지구에서 공존하는 삶. 그러한 꿈을 인공지능은 실현시킬 수도 있을 것이다.

파괴가 아니라 상생으로 나아가는 길. 그 길을 위해서 저자들은 이 책에서 인공지능에 대한 다양한 질문을 하고, 그 질문에 대한 답을 찾으려 한 것이다.

질문하는 능력. 이것이 인간다움을 유지하는 한 방편일 것이고, 저자들은 이러한 질문들을 통해서 우리 역시 인공지능과 관련해서 질문을 잊지 않기를, 잃지 않기를 바라고 있다는 생각이 든다.

책의 마지막 부분에 인공지능이 초래할 세상을 디스토피아와 유토피아로 가상의 현실을 만들어 보여주고 있다. 마치 당신은 어떤 세상이 오기를 바라십니까?라고 묻기라고 하듯. 

인공지능에 대해 여러 면으로 생각을 하게 하는 책이다. 특히 인공지능에 대해서 질문을 할 수 있게 하는, 질문이 중요함을 다시금 깨우치게 하는 책이라는 생각이 든다.

마음을 놓는 오롯한 장소를 마련하자

마음의 장소
나희덕 지음 / 달 / 2026년 1월

팍팍한 세상이다. 만물의 영장이라고 자부하는 인간이, 만물의 파괴자가 되고 있는 요즘이 아닌가 싶다.

인간들끼리 전쟁을 한다고? 아니다. 죽어나가는 것은 인간만이 아니다. 인간이 아닌 존재들도 인간들이 일으킨 전쟁으로 수없이 죽어나간다. 죽어나갈뿐만 아니라 지속적인 삶을 유지하기도 힘들어 진다.

그들이 살아가는 장소를 파괴하는 인간들. 어찌 만물의 영장이라 할 수 있으랴. 하여 인간은 만물의 영장이라는 말을 해서는 안 된다. 오히려 인간은 만물의 파괴자라고 해야 한다. 이대로 나가면 이런 이름을 벗어날 길이 없어질 것이다.

나희덕의 산문집이다. 2017년에 출간한 <한 걸음씩 걸어서 거기 도착하려네>를 개정한 개정판이라고 한다. 예전에 출간된 글을 다시 손보고 낼 정도로 우리가 마음을 놓을 장소가 필요했는지도 모른다.

마음을 놓는 장소, 어디일까? 장소라고 해서 실제로 존재하는 공간만을 의미하지는 않는다. 장소라는 말에는 사람도, 시간도 포함되고, 추상적인, 눈에 보이지 않는 것들도 포함된다. 그러니 우리가 마음을 놓을 수 있는 존재라면 바로 '마음의 장소'라고 할 수 있다.

이 산문집에서 많은 장소들이 나온다. 글쓴이의 글을 따라가면서 단지 글자만 따라가는 것이 아니라 마음도 함께 간다. 글쓴이가 마음을 주는 장소에 읽는 나도 마음을 주게 된다.

그러면서 마음을 놓아두게 된다. 그 장소에... 또 글쓴이가 언급하지 않는 장소를 찾고 거기에 내 마음을 놓기도 한다. 내게도 마음의 장소가 있지, 그래, 누구에게나 마음의 장소가 있다. 

그 장소를 떠올리면서 자신을 추스리기도 할 테고... 이런 마음의 장소 중에 글쓰기도 있지 않을까 하는 생각도 하는데. 그것은 글쓴이의 이 문장 때문이다.

'글을 쓴다는 것은 일상적 시간에 대응하면서 새로운 시간을 창조하는 일이다.'(68쪽)

즉 글을 쓸 때 자신의 마음을 그곳에 놓아두게 된다. 마음을 놓아두고 그 마음을 들여다보게 된다. 어쩌면 글을 쓰는 일은 자신의 뒷모습을 보는 일일지도 모른다. 우리는 자신의 뒷모습을 보지 못하고 남이 본 뒷모습을 통해 내 뒷모습을 인식할 뿐인데...

그런 뒷모습이 바로 내 본연의 모습일지로 모른다는 생각. 스티브 잡스의 아버지(키워준 아버지)가 보이지 않는 곳에 최선을 다해야 한다고 했다는, 그렇다면 내 뒷모습에 나 역시 최선을 다해야 하지 않을까, 그런 뒷모습이 바로 내 마음의 장소가 되어야 하지 않을까 하는 생각을 하기도 했으니...

글쓴이는 '무엇보다도 뒷모습은 거짓말을 하지 않는다. 세상에 넘치는 거짓과 위선에도 불구하고 인간이 그나마 정직하고 겸손할 수 있는 것은 연약한 등을 가졌기 때문이다. 뒷모습을 가졌기 때문이다.'(86쪽)고 하고 있다.

뒷모습을 인식할 수 있는 사람, 그는 정직할 수밖에 없다. 꾸미지 않는 삶을 살 수 있는 사람이다. 그런 사람들이 있기에 세상이 조금은 행복해질 수 있는지도 모른다. 그런 사람은 마음을 놓을 수 있는 장소를 지니고 있는 사람이다.

하여 우리가 마음을 놓을 장소가 거창하고 화려할 필요는 없다. 간이역처럼 조용히 제자리를 지키는 작은 장소여도 된다. 

'빠르게 달리던 기차가 잠시 속도를 늦추는 간이역들은 앞만 보고 달려가던 몸과 마음을 들여다보며 지금 너는 어디로 가고 있는지 되묻게 하다. 그 작은 모퉁이에서 꿈과 현실, 기억과 예감은 서로 흘러들어 오롯한 공간을 만든다.'(231쪽)

그렇다. 바로 이러한 간이역과 같은 곳, 그곳이 바로 우리가 마음을 놓을 장소다. 그런 장소를 지니고 있는 사람의 뒷모습은 정직하고 겸손한 모습일 것이고, 인간뿐만이 아니라 다른 존재들과 함께하는 사람일 것이다. 

만물의 영장이라고 자랑하지 않고 만물과 함께하는 그런 존재라고... 그의 앞모습, 뒷모습이 모두 보여줄 것이다. 그러한 마음의 장소를 지닌 사람들이 많아질 세상. 그런 세상이 바로 글쓴이가 이런 글을 쓰는 이유이지 않을까.

나도 내 마음을 놓을 오롯한 장소를 마련해야겠다.

이혼, 어떤 상황에서는 고르디우스의 매듭을 끊는 법이 되기도

이제 이혼합니다
가키야 미우 지음, 김윤경 옮김 / 문예춘추사 / 2023년 11월

'우편함을 열자 상중(喪中)엽서가 들어 있었다."(5쪽)로 시작한다.

상중엽서... 상을 당해서 올해는 연하장을 보내지 못한다는 내용을 알리는 엽서라고 한다. 일본에서는 그런 풍습이 있다고...

그해 상을 당한 사람의 처지에서 새해를 축하할 경황이 없을 테니, 이러한 사실을 미리 알려주는 엽서를 보내 상대에게 양해를 구하고, 상대 역시 섣부른 축하 인사를 하지 않도록 하는 것이다.

이 상중엽서를 받으면 걱정되는 마음이 들 텐데... 소설에서 받은 상중엽서에는 남편이 죽었다는 내용이 담겨 있다. 남편이 죽었다면 보통 반응은? '어떡하나? 마음이 많이 아프겠네. 힘들겠네.'라고 생각하기 쉬운데... 소설은 여기서부터 반전이 시작된다.

"......부럽다."(8쪽)

이것이 소설의 주인공인 스미코에게 든 첫 감정이다. 그러면서 스미코는 '난데없이 솟아난 이 감정이 너무나 당혹스'(8쪽)럽다고 느낀다. 하지만 스미코는 알고 있다. 자신은 남편이 빨리 죽어줬으면 하고 바란다는 사실을.

남편이라는 존재는 스미코에게 없으면 좋은 존재를 넘어 없어졌으면 하는 존재이다. 30년이나 결혼 생활을 했는데, 남편이 견딜 수 없어진, 너무도 싫어진 스미코, 그의 말 하나하나, 행동 하나하나, 특히 그의 몸에서 풍기는 체취마저도 견딜 수 없게 된 스미코.

빨리 남편이 죽어 자신만의 생활을 하고 싶어하지만, 남편이 먼저 죽는다는 법이 없다. 어떻게 될지 모른다. 자신도 나이가 58세다. 그렇다면 방법은 단 하나. 이혼하는 것이다.

이혼? 말은 쉽다. 하지만 걸려 있는 것이 많다. 많은 사람들이 이혼을 쉽게 하지 못하는 것은 다양한 것들이 얽혀 있어 쉽게 끊어내지 못하기 때문이다. 마치 결혼 생활은 고르디우스의 매듭과 같아서 쉽게 풀 수가 없다. 과감히 끊어내지 않으면 안 된다.

소설은 이렇게 시작된다. 이혼이 결코 밝고 경쾌할 수 없지만 소설은 무겁지 않게 전개된다. 이혼을 하려는 스미코의 관점에서 소설이 전개되어 그렇게 느낄 수도 있지만, 스미코라는 남편에게 순종하고 집안일에 충실하고 자녀들에게 최선을 다했던, 그러면서도 부족한 살림 경제를 살리기 위해 파트타임으로 일도 하는 나이 든 여성이 이혼을 결심하고 이혼하게 되기까지의 과정이 개연성이 있기 때문이다.

소설의 앞부분만 읽어도 누구도 스미코에게 '너무하네, 조금 참지.' 하는 말을 할 수가 없게 된다. 집 안에서 손 하나 까딱하지 않는 남편. 자신은 하고 싶은 일을 다 하면서 아내는 집에서 살림만 해야 한다고 생각하는 남편. 파트타임으로 일하는 아내를 전혀 안쓰러워 하지 않는 남편.

딱히 남편에게 이혼의 결격 사유가 없다고 말하는 사람도 있을지 모르겠다. 예전 어른들이 말하듯이 "도박을 하나? 폭력을 쓰나? 바람을 피우나?"에 해당하지 않기 때문이다. 하지만 그렇다고 집 안에서 아내를 하인 부리듯이 부리는 남편에게 이혼의 결격 사유가 없다고 할 수 있을까?

남존여비. 가부장이라는 말로도 설명이 되지 않는, 동등한 존재로 인정하지 않는 부부관계는 이미 성립할 수가 없다. 그러니 이혼은 당연한 결과라고 할 수 있다. 주변의 시선이 의식되기도 하고, 경제적인 고민도 있지만, 스미코는 남편에게 선언한다. "이혼하자"

이 말을 하기까지 스미코가 겪어야 했던 마음의 갈등, 고민들이 소설에서 잘 보여지고 있다. 그래서 읽으면서 이혼을 하려는 스미코를 응원하게 된다. 스미코가 잘살 수 있기를...

잘산다는 것이 무엇인가? 경제적으로 힘들지라도 스미코는 자신의 삶을 주체적으로 만들어가고 있다. 자기가 하고자 하는 일을 하고 있다. 그러면서 점차 주변의 시선을 덜 의식하게 되고, 당당한, 예전 고등학생 때의 자신의 모습을 찾아간다.

그만큼 결혼이 스미코의 주체성을 갉아먹고 있었다는 말인데... 스미코 부부만이 아니라 스미코의 친구들 이야기도 중첩이 되면서 왜 힘들게 참고 살면서도 이혼을 하지 않는 아내가 있는지도 이해할 수 있게 된다. 

그렇다고 작가는 이혼을 하지 않고 참아가면서 살아가는 아내의 모습을 이상적이라고 하지 않는다. 그들은 견뎌낼 뿐이다. 자신을 갉아먹으면서... 또는 비슷한 사람을 만나 남편을 욕하면서 감정을 다소 억누를 뿐이다. 스미코의 친구들의 모습에서 그런 것을 볼 수 있는데... 그럼에도 이들 역시 스미코의 이혼을 마냥 비난하지는 않는다. 여기서 다양한 부부 생활의 모습을 볼 수 있기도 하다.

이 소설의 장점은 이혼으로 인해 여성이 겪는 어려움을 부각시키기보다는 억지로 참으며 사는 결혼 생활보다는 이혼으로 홀로 서서 살아가는 삶도 즐거울 수 있음을 보여주고 있다. 이혼한 친구들을 통해... 소극적이고 가정에만 매여 있던 스미코가 한발 한발 자신의 주체성을 찾아가는 모습을 보여주고 있어서... 스미코를 응원하게 된다. 그리고 안심하게 된다.

참는 것만이 능사가 아님을... 과감하게 끊을 땐 끊어야 함을... 참는 것이 고르디우스의 매듭을 더욱 꼬이게 할 수도 있음을... 이혼이 고르디우스의 매듭을 끊어내는 한 방법임을 이 소설을 통해서 보게 된다.

이 소설을 읽으며 부부 관계에 대해 생각해 보게 된다. 일방적으로 한 쪽에만 감정 노동을, 가사 노동을 하게 하는 관계는 결국 파탄에 이를 수밖에 없음을... 늦지 않았음을, 남존여비 사상이나 가부장적 사고방식을 지니고 지내왔던 남편도 바뀌어야 함을... 바뀌면 부부 관계가 달라질 수 있음을 스미코의 둘째 딸을 통해서 보여주고 있으니... 이 소설을 이혼 장려 소설로 읽지 말자.

오히려 이 소설은 이혼을 당하지 않으려면 어떻게 해야하는지를 알려주는 부부 생활의 참고서라고 할 수 있다. 한때 우리나라에서 [82년생 김지영]이 많이 읽혔다. 그 소설이 30대 아내가 주인공이었다면, 이제 그 아내가 20여 년이 흘렀을 때 겪게 되는 모습이라고... 남편이 그 소설 속 남편보다 더 가부장적인 사람이라면 어떻게 되는지를 보여주는 소설이라고 생각하면 된다.

이런 점에서 아내가 읽어도 좋지만 오히려 남편이 읽어야 할 소설이라는 생각이 든다.

참고로 일본에서 황혼 이혼이 늘고 있다고 한다. 그동안 참고 살았던 아내들이 더 이상 견디지 않으려 한다는 것이다. 어쩌면 당연한 일일지도 모른다. 한쪽의 일방적인 희생으로 유지되는 결혼 생활이 존재해서는 안 되니까. 

우리나라도 초고령사회로 진입하려 하고 있다. 이젠 부부가 은퇴한 이후에 함께하는 시간이 많아질 수밖에 없는 현실이다. 졸혼이라는 말도 나오는 이유가 여기에 있는데... 아마 그것을 막기 위해서라도 이 소설을 읽어야 하지 않을까 하는 생각도 들고.

이 소설에 나오는 '부원병(夫源病)'이라는 말이 현실이 되지 않도록 해야한다. 

* 부원병 : 퇴직한 남편이 근원이 되어 아내에게 생기는 병으로 '은퇴 남편 증후군 Retired Husband Syndrom) 또는 '남편 재택 스트레스 증후군'이라고도 한다.(94쪽)

어떻게 이런 중국을 짝퉁의 나라라고 할 수 있겠는가

이병한의 테크노-차이나 탐문 ㅣ 뉴 노멀 탐문 2
이병한 지음 / 서해문집 / 2025년 11월

만만하게 생각하지 않았다. 대국이라는 생각을 했다. 큰 나라다. 영토도 넓고, 인구도 많고 자원도 많은 나라니 그야말로 큰 나라라고 할 수밖에 없다.

여기에 다른 나라를 대하는 태도까지 크다면 더욱 좋겠지만, 한때 동북공정이다 뭐다 해서 우리나라를 자신들의 속국 취급한다고 중국에 좋지 않은 감정을 지닌 사람도 많았다.

가짜 뉴스는 또 어떤가? 중국에 책임을 떠넘기는 듯한 뉴스들. 그러한 일들에 중국의 책임도 있겠지만 그것이 중국만이 지어야 할 책임은 아닌 것으로 밝혀진 것이 얼마나 많은가. 또한 우리가 직접 겪고 있는 미세먼지를 비롯한 환경 파괴로 일어난 문제만도 중국에게 온전히 책임을 전가하기는 힘들다는 점을 지적하는 사람도 많다.

중국만이 아니라 유럽이나 미국을 따라가려는 나라들이 개발을 하기 위해서 환경에 소홀했던 것은 사실이니까. 환경에 대해서는 유럽이나 미국 역시 그다지 신경쓰지 않았다. 환경이 얼마나 중요한지 알기 전까지는. 개발도상국이라고 하는 나라들보다 선진국이라고 하는 나라들의 환경 파괴가 더 심했음은 분명한 사실이니까.

그러다 이대로 가다간 공멸한다는 위험 신호가 나오니까 그때서야 부랴부랴 환경을 보호해야 한다고, 지나친 개발을 막아야 한다고 하지만, 그들의 위치까지 가지 못했던 나라들은 그렇게 할 수 없었던 상황도 있었다.

중국도 마찬가지였고.... 그런데 이 책을 읽어보면 이제 중국은 환경에도 신경을 쓴다고 한다. 그것도 최첨단 과학기술과 결합해서.

이것이 이 책이 이야기하는 '테크노-차이나'다. 이제 중국은 세계에서 무시할 수 없는 나라가 되었다. 우리가 아무리 짝퉁 천국이라고 해도 아니다. 이제 중국은 짝퉁 천국이 아니라 최첨단의 과학기술을 보유한 그야말로 테크노-차이나다.

그것도 세계를 선도하는... 환경 파괴국, 탄소 최다 배출국이라는 소리를 듣던 중국이 에너지 분야에서도 신재생 에너지 쪽으로 전환해서 이제는 세계를 선도한다고 한다. 

신재생 에너지, 전기차, 바이오 산업에 인공지능, 우주 산업까지 중국은 이제 선진국을 따라가는 나라가 아니라 다른 나라를 선도하는 나라가 되었다고 하는데... 그런 중국을 적대시하면서 그들과 담을 쌓을 수 없음을 이 책을 읽으면 뼈저리게 느낄 수 있다.

중국과 담을 쌓는다는 얘기는 뒤처지겠다는 얘기와 통한다는 생각을 했는데, 그만큼 중국의 발전이 놀라울 정도다.

이런 중국의 발전한 모습을 네 개로 나누어 알려주고 있는데, 1장에서는 '스페이스 차이나'라고 해서 우주 개발에 뛰어든 중국이 이제는 세계에서도 알아주는 우주 강국이 되었다는 점을 여러 사례를 통해서 보여주고 있다. 

2장에서는 '바이오 차이나'라고 해서 생명공학 분야에서 어떠한 발전이 있었는지, 이들이 인공지능과 결합해서 어떤 성과를 거뒀는지를 보여준다. 인공지능과 결합한 의료가 이미 실용화되었다는 것. 그래서 의사의 수가 부족한 점을 보완할 수 있었다는 점을 이 부분을 통해서 알게 된다.

여기에 전염병 예방을 하는데, 중국에서 인공적으로 유전자를 변형한 모기를 통해 모기의 번식을 막기도 한다는 것과 이러한 연구들이 활발히 이루어지고 있다는 점에서 '바이오 차이나'라고. 의료가 한참 뒤떨어진 나라가 아닐까 했던 생각이 잘못되었음을 알게 되었고.

3장에서는 '그린 차이나'라고 해서 탄소 최대 배출국이라는 오명을 씻어내는 중국의 모습을 보여준다. 저자는 여러 자료를 통해 중국을 이렇게 평가하고 있다. '중국은 세계 최대의 탄소 배출국인 동시에 세계 첨단의 탈탄소 기술 국가다'(131쪽)라고.

신재생에너지에 투여한 시간, 노력이 성과를 거두고 있다는 것. 여기서 멈추지 않고 지속적으로 생태 문명, 순환경제를 위해 노력하고 있다는 점을 잘 보여주고 있다.

4장에서는 '디지털 차이나'라고 해서 디지털 기술과 결함한 중국의 모습을 보여준다. 화폐부터 도시, 국가까지 디지털로 전환할 수밖에 없다는 인식에서 2035년까지 디지털 차이나를 완성한다는 방침을 정했다고 한다. 이것을 이렇게 정리했다.

'2035 디지털 차이나'의 방향으로는 크게 세 가지를 표방했다. 디지털 경제, 디지털 사회, 디지털 정부다'(181쪽) 

이렇게 네 부분에 걸쳐 중국이 얼마나 최첨단 과학기술의 나라로 변해가고 있는지를 살펴보고 있다. 그래서 막연히 중국에 대해 갖고 있던 생각, 특히 서양을 따라한다는, 짝퉁 천국이라는 이미지를 완전히 벗겨내고 있는 것이 이 책이다.

중국은 이제 따라가는 나라가 아니다. 앞서가는 나라다. 다른 나라들을 앞에서 이끄는 나라다. 인정하지 않으려 해도 그것이 바로 중국이라고 저자는 주장하고 있다. 이렇게 중국의 다른 면, 어쩌면 우리가 달의 뒷면을 보지 못하지만 달의 뒷면도 엄연히 존재하듯이, 우리가 외면하려던 중국의 모습을 저자는 외면해서는 안 된다고, 안 보려고 하지 말고, 보이지 않더라도 있으니 그것을 보려 해야 한다고 하는 듯하다.

저자가 중국을 너무 긍정적으로 평가하고 있지 않나 하는 의심을 하게 할 정도로 이 책에는 중국의 발전상을 보여주고 있다. 그간 우리가 보지 않았던 또는 보려하지 않았던. 그래서 설마? 에이, 중국이? 이거 너무 친중 아니야? 하는 생각은 잠시 접고 저자가 제시하는 사실들을 확인해 봐야 한다. 그러면 달의 뒷면처럼 그간 보이지 않았던 중국의 모습을 볼 수 있을 테니까. 

저자의 이 말 무시하고 넘어가면 안 될 것이란 생각이 든다. 

'미래가 만들어지고 있는 땅은 비(非)서방이다. 그리고 그 비서구에서 형성디고 있는 새로운 인프라, 미래의 디지털 신경망의 상당수가 중국에 의해 만들어지고 있다.'(214쪽)

인간 ‘없는‘ 전쟁은 없다

인간 없는 전쟁 - 두려움도 분노도 없는 AI 전쟁 기계의 등장
최재운 지음 / 북트리거 / 2026년 1월

AI. 환호에서 공포로 바뀌기도 한다. 여전히 환호하는 사람들도 있지만, 공포감을 느끼는 사람도 있다. 왜냐하면 인공지능이 어떻게 작동하는지 정확히 알지 못하기 때문이다. 여기에 인간이 따라갈 수 없는 능력을 발휘하니...

최근에 벌어진 전쟁에서 인공지능이 활용되고 있다. 인공지능끼리 전쟁을 하는 시뮬레이션을 작동시켜보기도 했다고 한다. 어떤 인공지능은 방어적으로, 어떤 인공지능은 공격적으로 전쟁을 수행했다고 하는데, 인간의 개입 없이 인공지능끼리 전쟁을 벌이는 일이 일어날까 생각하면 모골이 송연해지기도 한다.

이 책의 표지에 있는 말처럼 인공지능은 두려움도 분노도 없는 전쟁기계이기 때문이다. 두려움과 분노가 없기 때문에 효율적으로 전쟁을 수행한다. 반면에 연민도 없기 때문에 살상을 아무렇지도 않게 저지를 수도 있다. 목표를 달성하기 위해서 인간의 목숨은 변수가 되지 않을 수도 있다.

그렇게 우리는 되돌릴 수 없는 기술의 발전으로 이제 대부분의 무기들에 인공지능을 장착하고 있다. 무기들이 스스로 판단해서 전쟁을 수행할 수 있는 단계까지 나아갔다고 하니, 핵무기의 위협만큼이나 이제 인공지능 무기들도 인류에게 위협이 되고 있다.

핵확산금지조약이 발효되어 더이상의 핵무기를 제조하지 않는다는 큰틀에 세계가 어느 정도 (여기에 가입하지 않은 나라도 있지만 대체로 핵무기의 위험을 인식하고, 그 무기를 개발하지 않는 쪽으로 가야 한다는 데는 동의를 한다) 합의를 한 인류니, 이제는 인공지능 무기를 어느 정도까지 허용할 것인지에 대해서도 합의를 해야 한다. 

단지 합의가 아니라 조약으로 강제해야 하는데, 아직까지는 강대국들이, 그것도 인공지능 무기를 개발하고 있는 나라들이 그러한 조약에 반대하고 있으니, 아직 갈 길이 멀다.

이 책을 읽어보면 무섭다. 벌써 인공지능들이 전쟁에 사용되었음을, 이런 무기의 효용성을 목격한 각 나라들이 인공지능 무기를 절대로 포기하지 않을 것이기에 더더욱 무섭다.

인공지능 무기들로 인해 사상자가 줄 수 있다고 하지만, 군인 사상자는 줄 수 있어도 과연 죽어가는 인간들의 수가 줄어들 수 있을지는 의문이다.

무기가 무기를 파괴한다고 해서 전쟁이 끝나지 않기 때문이다. 지금 미국-이스라엘이 하는 일을 보면 무기만을 파괴하는 것이 아니라 사람을 표적으로 삼아 살상하고 있지 않은가. 결국 인공지능 무기들로 전쟁을 하더라도 뒤에 있는 사람을 제거하는 것이 목표가 된다.

인간 '없는' 전쟁은 없다. 인간을 제거하기 위한 인공지능 무기로 작동할 가능성이 있다. 소위 표적을 제거한다는 목적으로, 그러한 표적만을 제거하기 때문에 인명 피해는 덜하다고 주장하기도 하지만, 표적이라 불리는 사람들도 인간이기는 마찬가지다.

또 인공지능이 잘못 판단할 수도 있으니, 더더욱 무서워진다. 돌이킬 수 없는 피해를 입힌 다음에 그것이 잘못된 정보에 의해서 행해졌다고 한다면 도대체 누구에게 책임을 물어야 할지 알 수 없기 때문이다.

그렇지만 인공지능 무기 개발을 막을 방도는 없다. 이미 사용되었고, 효용성이 증명되었기에 자신들만 뒤처지면 안 된다고, 자기 나라가 개발 안 하고, 다른 나라가 개발했을 때 그 힘의 불균형을 감당할 수 없게 된다고 생각하기 때문이다.

돌이킬 수 없는 단계까지 왔다고 보면 이제 우리에게 남은 과제는 인공지능 무기들이 인류를 파괴하지 않도록 통제하는 일이다. 지배, 통제라는 말에 어떤 집단의 권력이 느껴진다면, 공존이라는 말로 바꾸자.

인공지능과 공존하기 위해서 어떻게 해야 할까? 질문을 이렇게 바꾸고 있다. 인공지능은 이미 돌이킬 수 없기에.

저자는 그래서 질문을 바꿔야 한다고 한다.

'우리는 더 근본적인 질문을 던져야 한다. 누구의 가치를 반영한 AI인가? 누구를 위한 안전인가? 누구의 이익을 우선하는가?(328쪽)'로.

이런 질문 앞에 당연히 'AI의 목표와 행동을 인간의 가치와 일치시키는 '정렬'이 선행되어야 하고, AI가 무엇을 학습했는지 알고, 왜 그런 판단을 내리는지 이해하고, 문제가 생기면 원인을 찾아 고칠 수 있게 '추적 관리'를 할 수 있어야 하며, AI 서비스 기획 단계에서 잠재적 사용자, 분야별 전문가, 시민단체가 참여'(310-325쪽)하는 것이 보장되어야 한다고 한다.

이것을 기본으로 하면서 질문을 바꾸면 특정 집단에게 AI를 독점하지 않게 해야 한다고 한다. 그래야 AI와 공존하는 세상이 될 수 있다고.

이제 인간은 AI라는 시험대 앞에 섰다. 문제를 발견했다. 문제를 발견했다면 해답 역시 찾을 수 있다. 그렇게 우리 인간은 해답을 찾아 AI와 공존하는 세상을 만들어가야 한다는 것이 저자의 주장이다.

인공지능 무기들이 현대 전쟁에서 어떻게 사용되었고, 성능이 어떠하며 어떠한 위험성이 있는지를 잘 설명해주고 있는 책이다. 저자는 AI의 효용성만큼이나 위험성에 대해서도 구체적으로 설명하고 있으니, AI에 대한 찬양도, 그렇다고 무조건 부정하는 것도 아닌 공존의 필요성을 인식하게 하고 있다.

저자의 말, 새겨들을 필요가 있다.

'우리가 정말 두려워해야 하는 것은 AI가 인간보다 똑똑해지는 순간이 아니다. 소수가 AI를 독점하고, 다수가 AI에 의해 통제되는 순간이다.' (331쪽)

'AI시대에 인간다움을 지킨다는 것은 AI와 맞서 싸우는 것을 뜻하지 않는다. 이는 우리가 지켜야 할 가치는 무엇이고, AI로 대체해서는 안 되는 영역은 무엇인지, 끊임없이 고민하고 질문하며 대화하고 선택하는 과정이다. 기업이나 국가, 사회 차원의 문제만이 아니다. 개인 역시 일상 속에서 실천할 수 있고, 실천해야 하는 일이다.' (334쪽)

끝으로 이러한 AI 무기들에 대한 글을 읽고 그럼 우리나라는? 하는 생각이 들었는데, 이 책의 뒷부분에서 그 점에 대해서 간략하게 설명해주고 있다.