당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

<당신은 AI를 어디까지 믿을 수 있나요?> 박찬선, 이지스퍼블리싱

* 출판사 협찬도서를 받아 서평단 자격으로 작성한 주관적인 리뷰입니다.


AI가 일상적인 뉴스가 되는 시간을 살아가고 있다.

특정 쳇봇이 만들어준 에니메이션 스타일이 유행하여 모든 사람들의 프로필을 장식하기도 하고 인공지능 기술로 만들어진 영화가 영화제의 한 코너를 차지하는 것이 당연하게 느껴진다.

이렇게 일상에 깊게 들어온 인공지능 기술을 사용하면서 생기는 현실적인 문제점을 정리할 필요가 있다고 느끼고 있는데 이번에 잘 정리된 책을 만난 것 같다.

저자는 범죄학을 전공하면서 인공지능 기술에 관심을 가진 경우라 더 신뢰가 간다.

책은 생성형AI를 사용했을 때 발생하는 저작권 침해나 미술품 위작, 가짜뉴스 생성과 같은 문제들을 다루고 있으며 인간의 말을 흉내내는 대규모 언어모델의 강점이 거꾸로 스피어 피싱이나 가짜뉴스와 같은 속임수로 나타나며 일반인들도 랜섬웨어를 손쉽게 만들 수 있는 악성코드 제작에도 활용되는 사례를 보여준다.

최근 온라인 도서 판매 중에서 가장 큰 예스24가 랜섬웨어로 일주일가량 사이트가 닫혀있었던 사건이 떠올라 그 위험성이 잘 와 닿았다.

그 외에도 딥페이크처럼 사람의 외모를 흉내내는 기술로 로맨스 스캠이나 디지털 성범죄물이 쉽게 제작되는 문제에 대해서도 설명해주고 있다. 상상을 구현한다는 생성형 인공지능 기술이 잘못된 상상에 악용되는 것을 어떻게 막을 수 있을지 고민스러운 대목이다.

인공지능도 하나의 프로그램이라는 점에서 자동화된 도구로서 드루킹 사건과 같은 여론 조작에 활용된다거나 주식시장을 혼란시키는 시세 조정이나 크리덴셜 스터핑 같은 해킹공격을 위해 활용이 가능하다는 점이나 가짜 온라인 쇼핑몰을 이용해 사기가 가능한 사례를 통해 봇 형태의 자동화 프로그램의 위험성을 보여준다.

책의 마지막은 피지컬AI의 대표주자 격인 자율주행 기계가 마약운반이나 제어되지 않는 인명살상에 사용되었을 경우에 대한 윤리적 문제를 이야기하고 있다.

책에서 다룬 내용들이 모두 현실적인 문제들이고 지금 벌어지고 일들이라는 점에서 문제의 심각성이 더 크게 느껴졌고 여러가지 사례로 설명하고 있기도 하지만 실제 관련 업무를 하면서 접하는 뉴스들에서도 유사한 사례를 자주 접하고 있어 향후 인공지능 기술 활용에 대한 고민이 많이 필요하다고 느끼게 되었다.