AI 기술이 발전할수록 함께 진화하는 AI 범죄

당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월

-출판사로부터 책을 제공받아 주관적으로 작성한 글입니다-

AI는 수 많은 산업에서 파괴적 혁명을 일으키며 전례없는 속도로 성장과 발전을 해나가고 있습니다. 그러나 이와같은 혁신적 기술이 범죄의 목적으로 악용되고 있습니다. AI 기술이 더욱 정교해 짐에 따라 이에 비례하여 그 범죄도 함께 진화하는 사회적 문제로 대두되고 있습니다.

책의 컨셉은 AI가 치명적인 범죄에 악용되는 것을 예방하기 위해 AI 범죄에 대한 지식을 체계화하여 독자들에게 전달하고 있습니다. 그래서 저자가 범죄학자로서 신종 AI 범죄를 유형화하고 그 사례를 들어 이해하기 쉽게 이야기를 풀어 나가고 있습니다.

저자는 AI 범죄를 크게 5가지로 범주화하고 그에 따라 세부적인 범죄형태를 설명하고 있습니다. 1. 생성형 AI(저작권 침해, 미술품 위작), 2 대규모 언어 모델/LLM(가짜 뉴스 생산, 스피어 피싱, 악성코드 제작), 3 딥페이크(로맨스 스캠, 성범죄물 제작), 4 봇(여론 조작, 시세 조종, 크리덴셜 스터핑, 온라인 쇼핑사기), 5 자율주행 기계(마약 운반, 인명 살상)

이 책에서는 각 유형별로 저자는 “인사이트”라는 파트에서 개별적인 대응방안에 대한 언급하고 있습니다만 여기서는 전체적인 관점에서 일반적인 문제점과 대응방안에 대해 생각해 보도록 하겠습니다.

AI 범죄의 특징이자 문제점은 일반적으로 책임소재가 불명확한 경우가 생기며, 범죄 흔적을 남기지 않거나 추적을 회피하는 기술로 인해 어려움이 존재합니다. 그리고 범죄의 새로운 유형을 기존 법 체계가 따라가지 못하는 지체현상이 발생하고 일반사용자가 AI 범죄의 위험성을 인지하지 못하는 경우가 있습니다.

그 대응 방안으로는 우선 우리도 제정 중에 있는 “인공지능 기본법”등 제도적 기반의 선제적인 구축이 필요하며, 범죄보다 더 진화된 AI 기술을 확보해야 할것입니다. 그리고 AI 리터러시에 대한 일반대중 교육을 강화하고 AI 범죄 대응 생태계(국가, 기업, 시민사회) 구축이 필요하다 할것입니다.

AI는 인류가 가지고 있는 끝없는 욕망을 분출하는 무시무시한 도구가 아닐까 하는 생각을 해봅니다. 또한 AI는 기술의 거울에 비친 인류의 자화상이 되어가고 있습니다. 인간은 선과 악을 모두 가진 존재입니다. 따라서 그 악의 측면이 분출되는 것은 당연한 일이라 하겠습니다. 시대에 따라 그 모습이 바뀌는 범죄와의 전쟁은 인류가 존재하는 한 계속 이어지는 풀어야할 영원한 과제가 될것입니다. 이는 마치 종교에서 말하는 원죄原罪가 아닐까요?

아직 인류는 AI의 태동기에 와 있다고 생각됩니다. 미래에는 저자가 분류한 유형보다 더 심각한 범죄가 파생되어 현실화 될것입니다. 우선 우리가 해야 할것은 AI 범죄의 예방에 중점을 두어 기술적, 제도적 기반을 구축하면서, 그 인식에 대한 대중의 공유 폭을 넓혀 나가야 것이 바람직한 방향이라는 생각이 듭니다.

폭넓은 독자들(기업, 정부, 학계, 일반인들)에게 신종 AI 범죄에 대한 위험성 및 악용가능성에 대한 올바르게 이해하는 관점과 시각을 제공하고, AI 대변혁기에 균형감을 잡는 좋은 책으로 오랫동안 독자들과 함께하길 바랍니다. 감사합니다^^*

#북유럽 #당신은 AI를 어디까지 믿을 수 있나요? #이지스퍼블리싱 #박찬선