-
-
당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월
평점 :
**네이버 카페 책책책 책을 읽읍시다의 지원으로
개인적 의견을 솔직하게 작성한 리뷰입니다**

인공지능 AI가 우리의 삶에 파고들기 시작한 이후 우리의 일상에는 인공지능 AI를 활용한 다양한 문제들이 발생했다.
그것은 어쩌면 지금까지 생각지 않았거나 못했던 문제로 이해할 수 있지만 사태가 자못 심각하다 할 수도 있다.
인간은 사람으로서 마땅히 해야할 행동 규범으로의 성질을 윤리로 규정하고 있는데 인공지능 AI의 활용이 왜 인간의 윤리성과 결부되어 문제를 일으키고 있는지 아마도 지금까지 인공지능 AI에 대해 관심이 없던 사람들에게는 의문시 될 것이다.
인공지능 AI는 인간을 대신하기 위한 인간의 특징적인 부분들을 학습시켜 만든 존재라 인간의 윤리성을 담보해야 하는 측면이 있다.
하지만 인공지능 AI가 가진 특유의 생산성은 복제를 윤리성에 회부하지 않는다.
그런 연유로 인간이 만든 수 많은 예술작품과 같은 저작권이 있는 대상들이 무제한적으로 생성되어 진짜와 가짜 복제품의 구별이 쉽지 않는 상황으로 치닫고 있다.
예술에 크게 관심이 없는 이들이라면 뭐, 그쯤이야...라고 생각할 수도 있겠지만 비교의 대상이 예술품이 아닌 인간을 복제한다면 문제는 완연히 달라진다.
그러한 연유로의 인공지능 AI가 파생시키는 다양한 문제들이 존재하는 가운데 과연 우리는 인공지능 AI를 어디까지 믿을 수 있는지에 대해 통찰한 책을 만나 읽어본다.
이 책 "당신은 AI를 어디까지 믿을수 있나요?" 는 지금까지 우리는 인공지능 AI의 발전이 기술의 발전이 가져온 축복이라 생각할 수 있을 만큼의 변화라 인식했지만 그 속을 살펴 본 바로 축복이 아닌 재앙이 될 수도 있음을 알려주며 우리의 인공지능 AI에 대한 믿음에 대한 물음을 재촉하는 책이다.
인간은 삶의 유용함을 위해 윤리와 도덕, 밥이라는 체계를 두고 있다.
그런 인간의 삶에 새롭게 AI범죄까 추가될 가능성이 제기되고 있다.
이는 지금까지 인간이 저질러 온 수 많은 범죄 중 가장 까다롭고 수사하기가 어려운 신종범죄라 할 수 있다.
과연 우리는 인공지능 AI를 활용해 인간을 위해 만든 인간에게 범죄를 저지르는 일을 그저 두고만 보아야 하는지 십분 고민해 보아야 한다.
저작권 침해, 미술품 위작과 같은 일은 이제 더욱더 정밀한 방식으로 제작되고 있어 위작임을 밝히는 일이 매우 어려운 범죄로 인식되고 있다.
인공지능 AI는 인간의 삶을 위해 도구적 존재감을 부여한 것이 생각지도 못한 문제를 일으키는 주범이 되고 있어 난감한 지경이라 할 수 있다.
세계적 IT 학자나 언어학자들이 주장하는 인공지능 AI의 비윤리성에 대한 경계는 발전과 변화에만 촉각을 세우는 나, 우리에게 안전한 인공지능 AI 세계의 구축을 도모해야 한다고 주장한다.
대규모 언어 모델로의 LLM이 일으키는 문제들은 과연 무엇이 있을까?
일예로 보면 미국 대통령의 체포 사건과 같은 가짜 뉴스 생산, 스피어 피싱, 악성코드 제작, 로맨스 스캠, 성범죄물 제작과 같은 딥페이크, 대중들의 심리를 좌우하고 영향을 미치는 봇의 제작이나 여론조작, 주식의 시세조종, 크리덴셜 스터핑, 온라인 쇼핑 사기와 마약운반과 인명 살상에 이르기까지 실로 인간을 위해 개발되고 발전 시킨 인공지능이 오히려 인간의 지속가능함을 제거하는 도구가 되고 있음을 살펴보면 동전의 양면과도 같은 인공지능 AI에 대해 우리는 다시금 생각해 보아야 한다는 사실을 깨달을 수 있다.
다만 무턱대고 발전지향적이고 생산지향적인 의식만으로는 더이상 인간의 지속가능함을 유익하게 할 수 없다는 명확함을 인식하고 더디게 가도 확실한 방식으로의 인공지능 AI의 변화를 만들어 내야 함을 인식해야 한다.
기술의 활용에 대한 윤리성을 고민해 실질적으로 신뢰할 수 있는 인공지능 AI 시대가 되어야 하겠다는 생각을 굳히게 된다.
신종 범죄로의 AI 범죄들의 실체를 확연히 깨달을 수 있는 소중한 기회다.