[책끌 서평] 당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

이 포스팅은 이지스퍼블리싱 출판사로부터 도서를 제공받아 주관적인 관점에서 살펴보고 작성했다.

우리는 인터넷, 스마트폰에 이어 AI(인공지능)와 함께 살아가야 하는 세상에 살기 시작했다. 스마트폰 없이는 하루를 어떻게 지내야 할지 막막할 정도로, 이제 문서 정리, 영상 제작, 음악 제작 등 다양한 분야에서 AI를 활발하게 사용하고 있다. 갈수록 AI에 대한 의존도는 커져가고 있는데, 정말 AI가 들려주는 이야기를 100% 믿어도 될까?

우리는 이미 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대 등 AI를 잘못 사용했을 때 벌어지는 부작용이 심각하다는 것을 알고 있다. 하지만 이에 대한 대처법이나 대응책은 잘 모르는 것이 현실이다. <당신은 AI를 어디까지 믿을 수 있나요?>는 이처럼 급속도로 발전하는 AI 기술이 불러올 범죄적 위협과 윤리적 논란을 정면으로 다룬다.

p.48

스마트폰을 열 때마다 매번 새로운 뉴스가 쏟아집니다. 하지만 뉴스가 항상 진실된 것은 아닙니다. 사실 관계를 잘못 파악한 경우도 있고, 의도치 않게 내용이 왜곡되는 경우도 있습니다. 또한 누군가는 특정 목적을 위해 의도적으로 허위 뉴스를 만들어 퍼뜨리기도 합니다. 우리는 이렇게 진실된 정보와 거짓된 정보가 뒤섞인 현실 속을 살아갑니다.

이 책의 저자는 AI 범죄연구자로, AI가 우리 삶을 풍요롭게 할 수 있다는 점에서는 축복이지만 맹목적인 기술 신뢰는 재앙을 불러올 수 있다고 경고한다. 저자는 또한 AI를 범죄에 접목해 새로운 수법으로 사회를 교란시키는 다양한 범죄 현장에도 주목한다.

저자는 AI 자체가 악이 아니라 '어떻게 사용되느냐'에 따라 선이 될 수도, 악이 될 수도 있다고 강조한다. AI가 여론 조작, 범죄, 사생활 침해 등 사회적 위협으로 악용될 수 있음을 경고하며, 법과 제도의 보완은 물론 시민 개개인의 비판적 사고와 윤리적 책임이 필수적임을 역설한다.

p.115

온라인 쇼핑 사기에는 여러 유형이 있지만, 그중 하나가 소비자를 사칭 사이트로 유도하는 방식입니다.

먼저 사기법은 공식 온라인 쇼핑몰에 가짜 광고를 게시합니다. 매력적인 제품을 저렴한 가격에 제시해 소비자들의 관심을 끕니다. 이후 관심을 보이는 소비자가 나타나면 사기범은 공식 사이트의 보안 감시를 피하기 위해 텔레그램과 같은 외부 채널로 소비자를 유도합니다. 공식 사이트에는 불법 거래를 감시하는 기능이 있어 피싱 링크를 보내기 어려울 수 있기 때문입니다.

이 책은 AI 시대에 인간 고유의 가치와 책임감을 잃지 않고 기술과 공존하는 방법을 모색해야 한다는 메시지를 독자들에게 전한다. 핵심은 "AI의 편리함에만 기대지 말고, 그 이면의 위험과 한계를 분명히 인식하자"는 것이다.

빠르게 확산되고 있는 AI 시대는 거스를 수 없는 대세가 되었다. 다만 우리가 편리함에만 치중할 것이 아니라, AI와 관련된 윤리와 책임, 그리고 사회적 대응 방안에도 좀 더 진지한 관심을 기울여야 할 때다.

* 출처 : 박기자의 끌리는 이야기, 책끌