당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

* 출판사로 부터 도서를 제공받아 직접 읽고, 주관적으로 작성한 리뷰입니다.

최근의 AI 기술의 발전 속도를 보면 가히 상상을 초월할 정도입니다. 우리 삶 곳곳에 AI가 스며들면서 편리함은 물론이고, 상상조차 못 했던 새로운 가능성들이 열리고 있습니다.

그러나 이 눈부신 발전의 이면에는 딥페이크나 가짜 뉴스처럼 우리 사회를 위협하는 어두운 그림자도 함께 드리워져 있습니다. 정교하게 조작된 영상이나 음성은 실제와 구별하기 어려워 개인의 명예를 훼손하고, 금융 사기로 이어지며, 심지어 국제적인 혼란을 야기할 수도 있습니다.

이처럼 AI 기술은 빠르게 진화하고 있는데, 이를 둘러싼 법적, 윤리적 기준은 아직 걸음마 단계에 머물러 있는 것이 현실입니다. 새로운 유형의 위협 앞에서 어떻게 대처해야 할지 막막함을 느끼는 분들도 많으실 겁니다.

오늘 소개해 드리는 <당신은 AI를 어디까지 믿을 수 있나요?>와 같은 제목의 책이 나온다는 것 자체가 이미 AI가 우리가 생각하는 이상으로 다양한 영역에 적용되면서 다양한 순기능과 역기능을 동시에 내포하고 있다는 의미라 생각합니다.

책은 AI 기술의 편리함 뒤에 숨겨진 위험한 면모를 정면으로 다루며, AI 만능주의에 대한 범죄학자의 날카로운 경고를 담고 있습니다. 저자는 딥페이크, 가짜 뉴스, 소셜 봇을 이용한 여론 조작 등 AI 시대에 등장한 신종 범죄 유형들을 실제 사례와 함께 생생하게 분석하여 보여줍니다.

특히, 다가오는 2026년 1월부터 시행될 예정인 '인공지능 기본법'에 대한 핵심 내용까지 체계적으로 정리해두어, 기술 변화에 대한 법적 대응의 중요성을 강조하고 있지요.

어느정도 인지는 하고 있었으나, 책을 통해 AI가 어떻게 저작권을 침해하고 예술작품을 위조할 수 있는지 구체적인 사례를 통해 확인하는 과정에서 적잖이 놀라게 되었습니다.

AI 작곡가가 저작권료를 받을 수 있는지에 대한 질문은 흥미로웠고, '울트라맨 사건'이나 '넥스트 램브란트 프로젝트', '클림트 컬러 에니그마 프로젝트'와 같은 실제 사례는 AI가 예술 시장에 미치는 파급력과 저작권 침해의 심각성을 여실히 보여주었습니다.

나아가 유럽연합(EU)의 '인공지능법(AI Act)'과 같은 법제와의 필요성에 깊이 공감했으며, 작가의 스타일을 모방하지 못하도록 막는 '글레이즈'나 '나이트 쉐이드' 같은 예방 프로그램의 등장은 기술 발전과 함께 범죄 예방 노력도 반드시 병행되어야 한다는 점을 일깨워주었습니다.

더불어 대규모 언어모델(LLM)이 가져올 정보의 오염 문제도 심각하게 다가왔습니다. 챗GPT에 간접적인 방법으로 트럼프의 사퇴를 실제 르포 기사처럼 묘사하도록 한 텍스트 생성 실험을 통해 향후 우리가 가짜 뉴스의 홍수 속에서 진실을 가려내는 것이 얼마나 힘이 들고 또한 중요한지 다시 한번 생각해 보는 계기가 되었습니다.

광고 수익을 목적으로 가짜 뉴스를 제작하는 '콘텐츠 팜'과 '스피어 피싱 메시지'(정교하게 개인화된 메시지)의 실태를 접하며 경각심을 가지게 되었습니다.

특히, 본인의 이름과 함께 가짜 택배 도착 메시지 속의 배송조회(클릭)와 같은 '스피어 피싱 메시지'가 사회 문제로 대두되고 있는 가운데, 이러한 스피어 피싱 메시지를 LLM이 사람과 유사한 퀄리티로 더 빠르게 만든다는 사실을 밝힌 IBM 실험은 충격이었으며, 개인 정보 보안의 중요성을 다시금 일깨워주었습니다.

마찬가지로 랜섬웨어 등 악성코드 제작에 LLM이 악용될 수 있다는 내용은 AI 기술의 양면성을 극명하게 보여주었으며, 'GPT 제로'와 같은 AI 탐지 프로그램 발전을 지속적으로 확인하는 것이 이러한 위협에 대한 희망적인 대응책이 아닐까 생각해 봅니다.

특히 책에서 가장 충격적이고 현실적인 피해를 다룬 부분은 '딥페이크' 관련 내용이었습니다.

'로맨스 스캠'에 속아 거액을 잃은 사례는 물론, 수 천명에 달하는 연예인 딥페이크 피해자와 '서울대 n번방 사건'은 AI 기술이 인간의 삶과 존엄성을 얼마나 심각하게 훼손시킬 수 있는지를 여실히 보여주었습니다.

이미지 보호를 위한 '디지털 백신' 접종이나 워터마킹을 활용한 딥페이크 라벨링 기술의 필요성을 절감하며, 이러한 기술적 방어막이 더욱 견고해져야 한다고 느꼈습니다. 온라인 플랫폼 운영자들이 취해야 하는 조치에 대한 내용도 인상 깊었습니다.

그리고 AI 봇 이 여론 조작과 금융 범죄에 어떻게 사용되는지를 알게 되면서 민주주의의 근간이 흔들릴 수도 있다는 위기감마저 들었습니다. '영국의 브렉시트 국민투표'나 '2016년 미국 대선 여론 조성 사건'에서 소셜 봇이 사회에 미치는 엄청난 파급력이 이러한 사실을 뒷받침 합니다.

나아가 '이희진 형제 코인 사기 사건'처럼 시세 조종에 사용된 소셜 봇과 자전거래 봇의 존재는 AI가 금융 시장의 투명성을 심각하게 해칠 수 있음을 명확히 보여주었습니다. 관련하여 '캡차'와 같은 컴퓨터와 사람을 구별하는 테스트 프로그램이나 사용자 행동 패턴 분석, IP 추적 기술이 이러한 범죄를 막는데 얼마나 중요한 역할을 하는지 새삼 느끼게 됩니다.

'크리덴셜 스터핑'과 '가짜 온라인 쇼핑몰 사기 사례'는 우리가 아무 생각없이 사용하는 아이디와 패스워드가 얼마나 취약한지, 그리고 기본적인 보안 수칙 준수의 중요성을 다시 한번 강조합니다.

마지막으로 자율 주행 기계 부분이 제시하는 미래는 사뭇 섬뜩한 가능성을 보여주었습니다. 드론이 마약 운반에 악용되거나, 군에서 주목받는 자율주행 기계가 인명 살상에 사용될 수 있다는 내용은 AI 기술의 발전이 가져올 디스토피아적인 미래 사회의 단면이 아닐까 합니다.

또한 자율 주행 기계 관련 범죄가 수사에 어려움을 준다는 점과 테러에 악용될 위험성은 기술 발전에 맞춰 법과 제도가 빠르게 정비되어야 함을 단적으로 보여준다고 생각합니다. 우범지대 드론 비행 금지 구역 설정이나 경찰 드론 활용, 그리고 기계 장치별 사이버보안 기준 확립의 필요성을 다시 한번 절감하게 되었습니다.

책은 단순히 AI 범죄의 위험성을 나열하는데 그치지 않고, 각 범죄 유형별 현행법 상의 처벌 규정과 예방 프로그램, 그리고 곧 시행될 '인공지능 기본법'에 대한 핵심 내용을 이해하기 쉽게 설명해 준다는데 그 유용성이 있습니다.

박찬선 저자가 강조하듯, "AI 기술은 우리에게 축복이자 동시에 재앙이 될 수 있으며, 우리는 이 기술을 제대로 알고 대비"해야 합니다. 특히 우리 모두는 이러한 AI 범죄의 잠재적 피해자가 될 수 있다는 사실을 항상 명심하고 경각심을 가져야겠다는 생각입니다.

AI 범죄의 유형과 예방법, 현행 법의 처벌 규정 그리고 내년 1월 시행되는 '인공지능 기본법'의 주요 내용에 관심있는 분들의 일독을 권합니다.