-
-
당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월
평점 :
본 도서는 출판사로부터 무상으로 제공받아 주관적인 리뷰를 했습니다.
2022년 11월에 CHATGPT가 발표되고 나서 인공지능이 모든 분야에 전반적인 영향을 미치고 있습니다. 많은 사람들이 AI의 놀라운 능력과 무한한 가능성에 환호하고 미래가 앞당겨진다고 생각하기 시작했습니다. 하지만 이것은 순기능이고 여론조작, 딥페이크, 표절, 위작, 댓글부대, 가짜뉴스, 시세조정, 악성코드 등 다양한 문제를 양산하고 있습니다. <당산은 AI를 어디까지 믿을 수 있나요?>는 AI가 해로울 기회를 점검합니다. 아직까지는 AI로 인해 사회적 큰 문제를 일으키지는 않습니다만 사용하는 인간에 대한 불신이 있죠. AI를 못믿는 만큼 인간도 믿기 힘들기때문입니다. 앞으로 우리에게 해로운 일로 다가올 AI범죄를 점검해봅니다.

저자 박찬선님은 AI범죄연구자라고 하십니다. 중앙대 법대, 전남대 대학원 철학전공, 맨체스터대 대학원에서 범죄학을 전공하고 CHATGPT를 주제로 논문을 작성했다고 합니다. AI윤리 분야 전문연구자십니다.
생성형AI는 기존 지식을 학습해서 글쓰기, 이미지, 음원 등을 내므로 기존 저작권을 학습해서 생성했다는 근원적인 저작권문제가 있습니다. 그런데 문제는 증거가 없다는 점이 큰 논란거리로 보입니다. 미술품쪽에는 심각할 정도로 위작논란이 있다고 합니다. 요즘 부자들은 미술품투자를 한다는데 생성형AI로 인해 큰 부담을 안게 되었다고 합니다.

챗GPT로 인해 가짜뉴스가 많이 양산되고 있습니다. 미국 트럼프대통령이 수감을 차고 연행되는 가짜사진이 SNS에 버젖이 올라옵니다. 이를 막기위해 작성자를 분석해주는 GPT제로라는 서비스가 있다고 합니다. 그리고 피싱메세지도 쉽게 만들수있어서 사람들을 속일 가능성이 점점 높아지고 있습니다. 문제는 사람은 AI에 의존해가서 바보가 될 확률이 높아지고 AI으로 만들어지는 스피어 피싱범죄에 사람은 점점 속을 확률이 높아지고 있어서 문제겠죠. 악성코드도 만들수있다는데 유명한 CHATGPT에서는 그런 행위를 못하게 막아두었겠지만 오픈소스 프로그램에서 충분히 그럴 확률은 올라갈겁니다. 한국에서도 문제가 되었던 딥페이크제작에 대한 경각심을 내용도 담았습니다. 좋은 것, 사람들에게 재미를 주는 영상만들기도 바쁜데 AI범죄에 대한 법적용을 해야 할듯합니다.

테슬라가 몇일전부터 자율주행 택시 운행을 시작했습니다. 현재 이용자들은 호평일색입니다. 그런데 2024년 드론을 이용해서 마약을 운반한 사례가 있다고 합니다. 범죄에 드론뿐 아니라 자율주행차도 이용될 가능성이 매우 높죠. 인명살상부분은 러우전쟁을 깃점으로 전쟁의 패러다임을 바꾼상태입니다. 이제 곳곳에서 테러에 이용될 것이 저자의 우려대로 실현화될 겁니다. 이 부분에 관한 방어시스템을 만들어야 할겁니다. 저자는 AI범죄마다 처벌규정을 담아서 현재 어떤 처벌을 받는지 알수있도록 해두었습니다. 이 책의 내용을 앞으로 빈번히 벌어질 현실적인 AI범죄유형을 담고 있습니다. 이를 막는 AI도 비즈니스로 고려해볼 만하다는 생각도 듭니다.