당신은 AI를 어디까지 믿을 수 있나요?

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

당신은 AI를 어디까지 믿을 수 있나요? - 박찬선

*본 도서는 출판사로부터 제공받았습니다.*

기술의 발전은 양면성을 가지고 있다. 선한 의지로 사용되어 인간을 도울 수도 있지만 악한 사람들에게 휘둘리면 굉장히 대량의 악행도 반복될 수 있다.

특히 봇의 경우 기계적으로 수없이 다른 사람의 계정을 해킹하는 것에 대해 일말의 양심을 가지지 않는다. 프로그래밍 된 좀비처럼 계속해서 될 때까지 작업을 수행한다.

최근 피싱을 비롯해 스미싱도 유행이라서 장년층 분들은 메시지로 오는 링크조차 열어보기를 거부하시는 분들도 많은 것으로 안다. 나의 경우에는 특히 택배로 오는 배송지 지정 링크의 경우 하도 인터넷 쇼핑을 많이 하기 때문에 의심없이 열어보는 편이다. 그런데 그게 악성 코드를 심는 AI의 범죄라면 아찔하지 않은가?

최근에는 “넓게 아무나 걸려라”라는 마인드의 피싱보다 개인정보로 타겟팅하는 <스피어 피싱>으로 진화했다. 여기에는 <개인화>라는 핵심 전략이 숨어있다. 사람들이 더 눈치채지 못하게 점점 더 교묘하게 인공지능은 진화하고 있는 것이다. 내가 해왔던 일, 혹은 실제로 주문한 상품까지 알고있는 스피어피싱 문자에 속지 않을 사람이 몇이나 있을까?

딥페이크의 경우도 사람의 초상권을 침해하는 정도가 심각한 것으로 안내되었다. 그저 웃어 넘길 수 있는 정도의 사진변형 정도가 아니다. 로맨스 스캠과 연계되어 전혀 존재하지 않는 인물로 상대방을 기망할 수 있다. 유명인도 만들어 낼 수 있어서 다수의 피해자를 양산할 수도 있다. 딥페이크의 경우 2026년 1월 22일 시행되는 <인공지능 기본법>으로 최소한의 법제망으로 도움을 받을 수 있을 것 같다. 변화하는 시대에 맞춰 법이 생겨나고 있으나 기술의 진화가 더 빠르기에 그 틈을 어떻게 막아야 할지 걱정이 더욱 되었다.

인권이나 경제적인 손해 이외에도 드론을 이용한 전쟁 이용이나 살인, 마약운반등의 강력범죄에 대한 경각심도 들었다. 실제로 기계가 실행한 범죄에 어떤 의도를 가진 배후를 찾아낼 수 있겠는가. 남긴 것은 기계의 흔적 뿐인데 말이다. 실제로 지금 러시아 우크라이나 전쟁에서도 적의 공격무기 등을 구분하여 해칠 수 있는 <세이커 스카우트>가 상용화되었다. 이는 우크라이나에서 사용 중이다. 생각보다 빠르게 AI를 통한 범죄와 피해에 노출 될 수 있다는 점을 기억해야겠다.