책과콩나무로부터 도서를 제공받아 작성한 글입니다
인공지능 챗GPT와 같은 생성형 AI는 이미 우리 일상과 창작의 영역 깊숙이 파고들어 전례 없는 편리함을 제공하고 있습니다. 하지만 과연 우리는 AI를 어디까지 믿고 의지할 수 있을까요?
박찬선 저자의 『당신은 AI를 어디까지 믿을 수 있나요?』는 이러한 질문에 대한 깊은 성찰과 통찰을 제공하며, AI 기술의 양면성과 그에 따른 사회적 파장을 분석합니다.
이 책은 편리함 뒤에 숨겨진 윤리적 문제, 법적 공백, 그리고 기술 남용의 가능성을 구체적인 사례를 통해 생생하게 드러냅니다. 특히 AI를 악용한 범죄의 확장과 이를 막기 위한 기술 개발의 현황, 그리고 개인과 사회가 갖춰야 할 예방책에 대한 저자의 통찰은 독자에게 AI 시대를 살아가는 데 필요한 중요한 이정표를 제시합니다.
저자는 AI가 초래하는 범죄의 양상과 그 사회적 파급력을 생생하게 포착합니다. 예술, 음악, 영상 등 창작 분야에서 AI가 기존 저작물을 무단 학습하여 콘텐츠를 생성하는 과정은 ‘저작권‘이라는 개념 자체를 재고하게 만듭니다. 더 나아가, 딥페이크 기술을 활용한 허위 영상 제작, 가짜 뉴스의 확산, 그리고 사이버 사기 등은 단순히 온라인상의 문제를 넘어 민주주의의 근간까지 흔들 수 있는 중대한 사회 문제로 떠올랐습니다.
2024년 미국 대선에서 실제 후보의 목소리와 얼굴을 합성한 가짜 영상이 유포되어 선거 결과에 영향을 미칠 뻔했던 사례, 2023년 국내에서 가족의 목소리를 AI로 합성하여 금전을 요구하는 신종 보이스피싱이 급증했던 사건, 그리고 AI 창작물에 대한 저작권 분쟁 등은 AI를 활용한 범죄가 이미 우리 삶 깊숙이 침투했음을 보여줍니다. 저자는 특히 드론 배송이나 자율주행 차량이 마약 운반 또는 살인과 같은 범죄 도구로 악용될 가능성에 대해 경고하며, AI의 위험성에 대한 사회적 경각심을 일깨웁니다.
AI를 악용한 범죄가 증가하는 만큼, 이를 막기 위한 기술 개발 또한 활발히 이루어지고 있습니다. 책에서는 ‘Glaze‘와 ‘Nightshade‘와 같은 기술을 소개하며 AI가 특정 작가의 스타일을 모방하거나 작품을 무단으로 학습하는 것을 방해하는 방법을 설명합니다. ‘Glaze‘는 작품에 미세한 디지털 망토를 입혀 AI가 원본을 제대로 인식하지 못하게 함으로써 작가의 스타일을 모방할 수 없도록 합니다. ‘Nightshade‘는 작품에 의도적으로 오염물을 뿌려 AI가 잘못된 개념을 학습하도록 유도하여 AI의 학습을 방해합니다.
또한, 딥페이크 범죄 피해를 막기 위한 ‘포토가드(Photoguard)‘와 같은 기술을 해결책으로 제시하며 이미지 보호의 중요성을 강조합니다. MIT 연구진이 개발한 포토가드는 사진에 미세한 신호를 추가하여 사람의 눈에는 보이지 않지만 AI가 사진을 원본 그대로 인식하지 못하게 왜곡된 형태로 인식하도록 만듭니다. 이는 AI가 사진을 학습하거나 편집하려 할 때 엉뚱한 결과물을 생성하게 하여, 딥페이크 제작을 어렵게 만듭니다. 개인이 자신의 사진에 포토가드와 같은 기술을 적용하면 SNS에 사진을 올려도 AI에 의해 악용될 위험을 줄일 수 있음을 언급합니다.
AI 기술은 폭발적으로 발전하고 있지만, 법과 제도는 그 속도를 따라가지 못하고 있는 것이 현실입니다. 박찬선 저자는 AI 범죄 수사의 어려움과 법적 사각지대를 구체적으로 지적하며, 2026년 1월 시행 예정인 ‘인공지능기본법‘을 중심으로 법적 대응의 필요성을 설명합니다. 딥페이크 탐지 기술, 가짜 뉴스 탐지 프로그램 등 실질적인 대응 방안도 함께 제시하여 독자가 현실에서 어떤 준비를 해야 할지 실마리를 제공합니다. 특히, AI를 활용한 서비스 제공 시 사용자에게 AI가 사용되었음을 고지해야 하는 의무를 명시하는 등 법적 규제의 중요성을 강조합니다.
저자는 AI의 무한한 편리함을 인정하면서도, 그만큼 사용자에게 요구되는 책임과 윤리의 중요성을 강조합니다. 저 역시 기술의 발전만큼이나 다가올 AI 시대에 인간의 윤리의식이 중요함을 깨닫게 되었습니다.
이 책을 덮으며 저는 AI의 문제가 비단 기술 개발자나 법률 전문가만의 과제가 아니라, 우리 사회 구성원 모두의 공동 책임임을 통감했습니다. AI가 가져올 미래는 인류가 어떻게 준비하고 대응하느냐에 따라 달라질 것입니다. 이 책 『당신은 AI를 어디까지 믿을 수 있나요?』는 다가올 미래를 현명하게 대비할 수 있도록 도와줄 것입니다.



