당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

당신은 AI를 어디까지 믿을 수 있나요?

2026년 1월부터 인공지능 기본법이 시행된다고 한다.

학교 현장에서는 챗-GPT를 활발하게 사용하지만 법이 시행되는 것에 대한 인지는 아직 없다.

AI는 너무도 편리하게 업무를 경감시켜주며, 학생들은 손쉽게 자료를 뚝딱, 그야말로 뚝딱 만들어 낸다.

사용하는 것을 권할 뿐, 어떻게 사용할지에 대한 결정은 교사가 한다.

학생들에게 수업과 관련해서 AI 사용을 허락하지만,

당연히 수업시간에 이상한 것을 만들어 내려는 시도를 하는 학생들도 있다.

그러한 학생들에게는 미리 너희가 만든 것들을 부모님과 공유하겠다고 '선전포고'를 하고 시작한다.

이 좋고 또 편리한 기술이 왜 나쁘고 불편해진 것일까?

저자는 기술은 본래 중립적이여서 그 자체로 좋고 나쁨이 없고 기술을 어떻게 사용하느냐에 따라 좋고 나쁨이 있다고 말한다.

이러한 AI 기술의 잘못된 사용으로 현재 최대 이슈인 AI 범죄가 어떻게 이루어지는지 소개한다.

학생들 역시 저작권과 관련해서는 그 의견이 분분하다.

학생들과 AI 활용 수업을 할 때 자신이 그럴듯한 무언가를 만들어 내면 저작권은 자신에게 있다고 하는 반면

기대치에 못미칠 경우 AI가 만들었음을 들어 저작권을 인정하면 안된다고 한다.

현재 저작권은 인간이 만든 것에만 인정되기 때문에 AI가 만든 것은 인정받지 못한다.

내년 1월부터 시행되는 인공지능 기본법에는 생성형 인공지능의 결과물임을 표시할 의무를 규정한다.

그러나 AI가 만들었는지 밝히지 않고 저작권을 주장한다면 과연 범죄일까?

얼마전에 인스타, 페이스북, X등 SNS에 맞게 글을 작성해주는 사이트를 알게되었다.

바이럴 마케팅에 사용하기 좋겠구나 하는 생각이 들었다.

과장·허위 광고 사건의 사례가 소개되는데 코로나로 활발해진 온라인 환경에서 이루어진다.

갑자기 SNS에서 효과 좋다고 산 크림의 몇 안되는 효과 없는 사람이 바로 나이구나 했던 경험이 떠올랐다.

실제 사람이 나와서 이 크림을 만든 사람이라고 하는 영상이 나오는데

어쩌면 그 사람도 AI가 만든 허구의 인물일지도 모르겠다.

만약 그 크림의 광고가 AI로 만든 허구라도 나와 같이 효과가 없는 사람의 경우 부작용 등으로 인한 피해자가 아니므로 크게 대응하지 않아 결국 광고주만 돈을 벌게 된다.

효과가 없는 크림인데 그럴듯하게 광고를 만든 것인지 아니면 정말 효과없는 몇 없는 사람 중 불운한 사람이 나인 걸까?

저자는 앞으로도 AI의 기술을 활용한 온라인 쇼핑 사기는 더욱 교모해질 것이라 예상한다.

그 외에도 여런 조작 문제와 자율 주행 기술 발달로 인한 문제 등을 다룬다.

정보 사회에서 디지털 사회로의 변화 그 중심에 선 인공지능 기술을 받아들이는 인간들이 어떻게 그 기술을 사용해야할지 또 잘못된 사용으로 인한 문제에 어떻게 준비해야할지 대한 이야기를 하고 있다.

2011년 시행된 개인정보보호법처럼 많은 수정을 거쳐 시행되고 있는 지금처럼 일상이 되어가는 개인정보보호에 대한 인식처럼 인공지능 기술의 발달에 대비해 AI 를 안전하게 사용할 수 있는 법 체계에 대한 논의가 활발하게 이루어져야할 것이다.

※도서를 출판사로부터 제공받아 주관적으로 작성한 서평입니다.