당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

인공지능의 손끝에서 탄생하는 콘텐츠들이 많아지는 시대. 유튜브의 영상의 나레이션, 배경 이미지, 스크립트까지 AI의 도움을 받으면서 만들어지고 있습니다. 수준이 낮은 AI 콘텐츠도 존재하지만 티가 나지 않은 콘텐츠들도 나오기 때문에 플랫폼 종사자들은 식별하기 위해서 애를 씁니다. 이러한 가운데 AI가 만든 콘텐츠들의 문제점과 앞으로 시행될 인공지능 기본법에 대해 자세히 알려준 책이 나왔습니다. ​ 바로 당신은 AI를 어디까지 믿을 수 있나요? 도서인데요. 이 책은 AI가 만든 세상 속에서 놓치고 있는 질문과 반드시 짚고 넘어가야 할 법과 윤리의 경계에 대해 고민을 할 수 있게끔 만듭니다. 이 책에 대해서 자세히 알아보도록 하겠습니다. ​

1) AI 작곡

음악 창작 영역에 인공지능이 본격적으로 진입하면서 기존 저작권 체계는 근본적인 도전에 직면했습니다. AI는 수많은 음원 데이터를 학습해 새로운 작품을 생성합니다. 이 과정에서 학습 데이터의 저작권 침해 가능성은 여전히 해소되지 않은 과제입니다. 국내 사례로는 AI 생성 곡이 저작권 등록 후, 인간의 정서적 표현이 아니라는 이유로 권리 인정이 취소된 경우가 대표적(이봄)입니다. ​ 이 사례는 빙산에 일각이지만 사람의 손을 조금만 타면 저작권이 인정이 되야 한다는 점과 전적으로 안된다는 이견이 있습니다. 당신은 AI를 어디까지 믿을 수 있나요? 책의 박찬선 저자는 AI 개발 회사들이 보이지 않는 곳에서 누군가의 창작물을 무단으로 사용할게 아니라 데이터 사용에 대해 동의를 구하고 적절한 저작권료를 지불 해야 한다고 말합니다.

2) 인공지능 기본법

인공지능 기본법은 인공지능 기술, 제품, 서비스 제공 등 산업 발전을 위한 국가 차원의 지원 정책 등을 규정 하고 있습니다. 당신은 AI를 어디까지 믿을 수 있나요? 책의 박찬선 저자는 이법이 시행되면 국내 인공지능 전반의 수준이 한층 향상 될것이라고 전망하는데요. ​ 인공지능 생성물 표시를 의무함으로써 로맨스 스캠과 딥페이크를 이용한 각종 사기 범죄를 예방하는데 도움이 될것이라고 합니다. 하지만 이 법의 경우 유럽 연합의 인공지능법과 달리 데이터의 출저 공개를 의무화 하지 않아 저작권 침해 문제는 계속 남아 있을거라고 저자는 예상 합니다.

이 포스팅은 이지스퍼블리싱에서 책을 받아 읽고 주관적으로 작성 했습니다.