당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

[ 출판사로부터 도서를 제공받아 작성한 리뷰입니다.]

최근 메일을 무심코 열었다가 실수를 하고 말았네요.

그동안 스팸 메일은 알아서 걸러 왔는데, 개인적으로 관련 있는 내용이라서 클릭한 순간, 메일이 가짜라는 걸 발견한 거예요. 당장 무슨 일이 벌어지진 않지만 악성코드 감염, 개인정보 유출 등 어떤 문제가 발생할지 알 수 없다는 것이 너무 불안하네요. 또한 며칠 전, 거의 매일 이용하는 인터넷서점이 랜섬웨어에 감염되어 모든 서비스가 마비되었을 때는 황당하더라고요. 랜섬웨어가 생성형 인공지능(AI)과 결합해 더욱 강력해졌고, 그로 인한 피해는 갈수록 커지고 있는데, 주요 감염 경로 가운데 하나가 바로 제가 걸려든 피싱 메일이라고 하네요. 눈 뜨고 코 베이는 AI 범죄, 제대로 알아야 피해를 막을 수 있어요.

《당신은 AI를 어디까지 믿을 수 있나요?》는 AI 범죄 연구자 박찬선님의 책이에요. 저자는 AI 기술이 주목받는 요즘, 그 이면에 존재하는 위험성과 악용 가능성을 알리고자 이 책을 썼다고 하네요. 기존에 읽었던 AI 관련 책들은 도구로써 어떻게 활용하는지, 사용법 위주였는데, 이번 책은 AI 기술을 악용한 범죄 유형 다섯 가지를 소개하고 있어요. 생성형 AI로 발생한 저작권 침해와 미술품 위작, 생성형 AI 유형인 LLM(대규모 언어모델)을 이용한 가짜뉴스 생산과 스피어 피싱 그리고 악성코드 제작, 딥페이크 기술 범죄 유형인 로맨스 스캠과 성범죄물 제작, 범죄에 이용되는 봇으로 여론 조작, 시세 조종, 크리덴셜 스터핑(무작위 로그인 공격), 온라인 쇼핑 사기 사례들, 자율주행 기술의 명과 암을 알려주고 있어요. 특히 온라인 쇼핑 사기는 공식 사이트를 사칭하는 경우도 있고, 공식 온라인 쇼핑몰에 가짜 광고를 게시하여 피싱 페이지로 유인하기 때문에 접속 과정에서 알아차리기가 어려워요. 매력적인 상품과 가격을 제시하여 소비자들을 현혹하기 때문에 지나치게 가격이 저렴하다면 한 번쯤 의심해봐야 하고, 접속하기 전에 사이트 주소가 정확한지 꼼꼼하게 확인하는 것이 중요해요. AI 범죄 사례들을 소개하고, 각 사례마다 우리가 알아야 할 인사이트와 처벌 규정이 나와 있어서 많은 도움이 되네요. AI 기술이 발전하듯이 그 기술을 이용한 범죄들도 점점 교묘해지기 때문에 피해를 당하지 않기 위한 예방 노력이 필요하네요. 특별 부록으로 2026년 1월부터 시행되는 '인공지능기본법'에 관한 주요 내용이 알기 쉽게 정리되어 있네요. 이 법이 시행되면 국내 인공지능 전반의 수준이 한층 향상될 것으로 전망되지만 지속적인 관심과 개선이 요구되는 영역이네요.