당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

 우리의 생활에 깊게 들어온 인공지능. 이젠 신뢰의 여부를 떠난 의식의 문제가 대두되고 있다.

본 도서는 우리의 일상에 첨예하고 깊게 스며든 AI에 대한 명확한 이해를 묻고 있다. 실생활에 많은 도움을 주는 테크놀로지이지만 이것이 우리에 독과 같은 서비스를 제공하고 있는데 거기에 당신의 이해는 맹목적인 맹신과 이해의 부족으로 피해를 보지 않나 가져온 기술의 범죄로 악용되고 있지 않나 말하고 있다.

 생성형 인공지능 AI. 그 시작의 챗 GPT로 인해 우리의 일상은 크나큰 진일보 했다 볼 수 있다. 질문을 하면 데이터를 학습에 그에 대한 적절한 답을 제시하고 텍스트를 넘어 방대한 딥러닝을 통해 새로운 창조물도 제시한다. 기존의 데이터를 바탕으로 새로운 소설과 같은 글도 써 주기도 하며 다양한 이미지를 통해 없던 이미지도 만들어 준다. 예를 들어 AI를 통해 작가에 반열에 오르는 사람도 있으며 진품과 가품을 구분할 수 없을 정도의 미술작품도 생성해 준다. 심지어 작가의 스타일을 반영해 없던 작품도 만들어 줄 정도로. 서로 다른 방향성에 특화된 AI 플랫폼이 깊이를 더해주는데 그 분야가 전문화될 수록 이를 악용하는 사례가 늘어나고 있다. 예를 들어 챗 봇과 같이 대화 할 수 있는 데이터베이스를 바탕으로 기관과 특정 사이트를 표방하여 개인정보를 빼내기도 하고 진품이 아닌 가품으로 미술시장에 혼란을 주기도 한다. 딥러닝의 악용과 같은 딥페이크를 바탕으로 개인의 사생활을 거짓으로 유포하기도 하며 현란한 문단 작성법에 IT직원도 속을 만큼의 이메일을 보내 악성코드를 유포한다. 보이스피싱과 같은 문구와 홈페이지의 작성에도 유용하게 사용되어 진실과 다름없는 거짓에 전문가가 아닌 사람들은 더욱 혼란스럽기만 하다. 관련 법들과 조항이 개정되고 있으나 활용과 이해의 깊이에 비해 턱 없이 얕고 대처가 부족하기만 하다. 하지만 관련 사례들과 이해만이 자신을 지킬 수 있으니 책은 신설되는 조항과 법 규정을 통해 자신의 권리를 지키는 법을 말하고 있다. 계속 개정되는 법조항에 앞서 사례와 거짓의 올바른 이해만이 자신의 재산과 권리를 지킬 수 있다 책은 말하고 있다.

 모방을 막는 글레이즈와 나이트셰이드 같은 다양한 기술, 스피어 피싱에 관련된 LLM, 워터마킹을 활용한 딥페이킹, 크리덴셜 스터핑, 시세와 여론 조작 등 예방기술과 다양한 인공지능 관련 범죄의 수법을 알 수 있어 상당히 유용하게 다가온다. 하루에 많은 문자와 DM으로 공격을 받는 우리, 현실과 이성에 혼돈이 올 때 본 도서의 올바른 AI이해와 법규정의 대처가 당신에게 도움을 줄 것이다.