AI범죄의 심각성

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

출판사로부터 책을 제공받고 솔직하게 쓴 글

" 당신은 AI를 어디까지 믿을 수 있나요 ", 이 책은 2025년 하루가 다르게 발전하고 있는 인공지능 기술의 이면을 돌아봅니다. OpenAI의 챗GPT의 놀라운 성능으로 인해 지브리 스타일로 이미지를 만드는게 유행했던 그 이면 말입니다. 그리고 최근 Google Veo3로 인해 촉발된 영화산업의 재편, 진짜와 가짜를 구별하기 힘든 영상컨텐츠 그 이면도 말입니다. 인공지능 기술발전은 내일을 예측하기 힘든 순간을 지나고 있기 때문에, 우리는 그 이면인 AI범죄의 높은 가능성을 놓치지 말아야 합니다. 이 책 "당신은 AI를 어디까지 믿을 수 있나요"의 저자인 박찬선 작가는 AI범죄학자이자 AI범죄 연구자로서 이 책에 AI범죄의 심각성에 경종을 울리는 많은 내용을 담았습니다. 남들이 모두 기술만을 바라볼 때 인공지능의 빛과 그림자를 다 돌아봐야 할 우리들에게 필요한 책입니다.

이 책에서는 우리가 알 수 있는 대부분의 AI범죄의 사례와 그 문제점, 관련 법규를 담고 있습니다. 우선 가장 쉽게 이해할 수 있는 문제는 바로 저작권입니다. 우리도 누구나 쉽게 챗GPT와 Gemini로 원본 이미지와 유사하게 또는 같은 스타일로 사진을 만들어봤기 때문이죠. 이 책에서는 맹거트의 작품원본과 AI이미지를 비교하는 등 실제 예술작품의 표절, 저작권 문제를 다루면서 그 해결책으로 모색되고 있는 "디지털 망토, 글레이즈 & 나이트셰이드"에 대해서도 소개합니다. 의도적으로 오염물을 사용해 학습에 영향을 주는 나이트셰이드는 처음 듣는 방어기술이라 흥미롭습니다. 또한, 이 책은 각 챕터의 말미에 관련 범죄에 대한 형법 등 조항을 그대로 수록하였기 때문에 논문이나 과제, 숙제를 하시는 분들에게는 정말 좋은 자료입니다.

두 번째로 제가 주목한 AI범죄는 당연히 딥페이크 문제입니다. 요즘은 유튜브에 보면 정치인, 연예인 등 외부에 알려진 인물들은 쉽게 인공지능으로 영상이 편집되어 진짜/가짜를 구별하기 힘듭니다. 어떤 이미지가 원본인지, 저 인물이 실제인지 구분하기 힘든 세상이 됐죠. 이 영상들이 장난으로 쓰여질 수도 있느나 명예훼손이나 개인적인 문제로 퍼지는 등 법적공방이 발생할 수 있는 여지가 충분히 많습니다. 로맨스스캠 범죄도 하나의 사례이고요. 물론 딥페이크 영상을 이용해서 보이스피싱 등의 범죄완성도를 더 높이려는 시도도 진행중이니 인공지능 영상으로 인한 문제점은 더욱 심각해질 전망입니다. 딥페이크와 로맨스스캠에 대해 책에서 읽으면서 느낀 점은 아직 뚜렷한 기술적인 방어대책이 없다는 점입니다. 앞으로 법적인 대응 뿐만 아니라 기술적인 대응도 반드시 필요하다고 생각이 들게 됩니다.