당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

"당신은 AI 범죄를 얼마나 알고 있나요?"

챗 GPT, 미드 저니, 제미나이 등등 인공 지능은 이제 우리 삶 깊숙이 스며들어서 인간의 능력을 높여준다. 생성형 AI는 그림을 그리고 영상을 만들고 소설을 쓰기까지 하는 시대가 왔다. 우리들은 이 눈부신 혁신 앞에서 설렘과 두려움을 동시에 느끼고 있지만 반드시 놓치지 말아야 할 분야가 있다. 바로 AI로 인해 생길 수 있는 범죄가 바로 그것이다. 저자 박찬선 씨는 이 책을 통해서 우리가 반드시 스스로 에게 물어봐야 할 날카로운 질문을 던진다. "과연 우리는 AI를 어디까지 믿을 수 있을까?"

이 책은 현재 진행 중이거나 밝혀지고 있는 다양한 AI 범죄 사례를 현장감 있게 다루고 있다. 예술품의 표절 논란 - 이우환 화백의 점으로부터와 같은 작품 - 뿐 아니라 딥 페이크 정치 영상과 보이스 피싱까지... 진짜 보다 더 진짜 같은 가짜를 만들어내는 AI의 위험성을 아주 실감 나게 보여주고 있다. 그뿐만 아니라 이 책에서는 GPT 류 언어 모델에 의해서 가짜 뉴스가 생성되거나 악성코드가 제작되는 사례까지 조명하면서 AI 범죄의 규모화와 자동화가 얼마나 심각한지 고발하고 있다. 말하자면 기술의 진화에 의해서 범죄의 효율성까지 높아진다는 사실이 두렵게 다가온다.

기술은 이렇게 급속도로 진화하고 있지만 법과 제도는 여전히 미진하다는 사실이 소개된다. 이 책은 AI 범죄에 대해서 현재 존재하는 형법 조항들을 소개하는 한편, 유럽 연합의 인공 지능 법처럼 선진국에서 진행 중인 제도적 논의들도 함께 제시한다. 내가 특히 심각하게 생각하고 있는 부분이 바로 딥페이크 성범죄 물 부분인데, 우리나라 성폭력처벌법에는 딥페이크 성범죄물을 제작, 편집, 유포, 판매, 구입, 소지, 시청 시 상당한 양의 벌금을 내야 하거나 심하게는 징역형에도 처할 수 있다는 사실을 알게 되었다. 그렇다 하더라도 사실 우리나라에서는 AI 범죄에 대한 논의가 이제서야 시작된 것으로 보이기 때문에 앞으로 더욱더 많은 논의가 필요해 보인다.

이 책이 좋았던 이유는 저자가 AI 범죄에 대해서 다룬 방식이었다. 단순히 범죄의 위험성만을 강조하는 것이 아니라 AI가 어떻게 악용될 수 있는지를 구체적인 사건이나 사례로 우선 접근한다는 점이다. 우리가 평소에 접했던 여러 사건들, 서울대 N 번 방 사건 등 혹은 접하지는 못했지만 있을 수 있는 사건, 영국 유명 연예인 딥페이크 성범죄 물 피해 등등 을 제시하면서 기술에 대한 경각심을 심어준다. 또한 AI 범죄로부터 개인의 권리, 기업의 자산, 사회 전체의 안전을 지킬 수 있도록 실질적인 대응 방안을 제시한다는 점에서도 대단히 주목할 만하다. 결론은 발전된 기술을 사용하는 인간이 문제인 것! AI를 제대로 이해하고 신중하게 활용하는 방법만이 범죄를 예방할 수 있다는 것이 저자의 의견인 듯하다.

앞으로 AI 분야는 더욱더 발전할 것이고 여러 분야에 쓰일 것이 분명하다. 그렇다면 지금 우리가 겪고 있는 문제보다도 더 큰 문제가 발생할 수 있다. 이 책은 이런 AI를 둘러싼 법적, 윤리적, 사회적 책임을 함께 고민하자는 제안이자, 다가올 기술 중심 사회를 위한 성찰을 제공한다. 딥 페이크, 댓글 조작, 자동화된 사기 범죄 등등 우리는 더 이상 AI가 특수 계층에 속한 문제라고 볼 순 없다. 곧 우리의 일상이 될 수도 있는 문제이기 때문이다. 아직 우리나라는 AI 사용이 그다지 보편적이지 않으므로 AI 범죄에 대한 논의는 더딘 것 같기도 하다. 그러나 너무 늦기 전에 지금부터 논의를 시작해야 한다. 기술의 발전으로부터 인간의 존엄성을 지키기 위한 시간이 얼마 남지 않았다. AI 범죄 관련 법적, 윤리적 제도를 고민할 때이다.

* 출판사에서 받은 책을 읽고 주관적으로 리뷰하였습니다.