당신은 AI를 어디까지 믿을 수 있나요?
이책은 이미 우리 실생활에 많은 중요한 툴로 자리잡은 AI에 대한 위험을 정리한 책이다.
1장 저작권 침해 부터 13장 인명살상에 이르기까지 다양한 리스크를 다루고있다.
각 항목별로 인사이트와 처벌규정등을 다루고 있어 실무자들에게 좋은 참고서가 된다.
책정리에 앞서 나는 보안쟁이나까.
기업의 보안팀관점에서 챙겨보면 좋은 내용들 정리해본다.
1. 이메일 모의훈련 관점 (스피어피싱)
기업은 주기적으로 직원들 대상으로 이메일 모의훈련은 진행하여 이메일로부터 발생할 수 있은 사이버 위협을
대비한다.
보안쟁이가 활용하기 좋은 내용이 있는데, 바로 스피어 피싱에 대한 이야기다.
스웨덴의 다섯개 기관에서 근무하는 158명의 직원을 대상으로 한 실험에서 피싱메일과 스피어 피싱 메일을 발송한 후 이메일 본문에 삼입된 링크 클릭 비율을 비교했다.
이메일 내용은 모두 조직 내 사용중인 소프트웨어 업데이트와 관련된 내용으로 같았지만,
한 번은 개인화된 정보가 전혀 들어가 있지 않았고, 다른 한번은 수신자 이름, 소속 기관명, 그리고 발신자의 이름이 포함되어 있었다.
그 결과 개인화 된 정보가 포함되지 않은 이메일에서는 참여자의 5.1%가 링크를 클릭하였다. 하지만
개인화된 정보가 포함된 이메일에는 27.2%가 링크를 클릭했다.
IBM이 23년 10월 재미난 실험결과를 발표했다.
챗GPT VS IBM 연구진의 이메일 모의훈련 시나리오 대결이 있었다.
글로벌 의료 산업 기업의 직원 1600명을 대상으로 링크 클릭을 유도 하기 위해 진행했다.
결과는 11% VS 16%로 인간의 승리 !
하지만, 결과에 인간이 좋아할 필요가 없다. 챗 GPT는 5분만에 작성했고 인간은 16시간을 투자하여 문든것이기 때문이다.
2. 크리덴셜 스터핑
책에서는 보안계 핫한 리스크인 크리덴셜 스터핑에 대한 이야기도 나온다.
24년 1월 유명 입시학원 대성학원읜 온라인 사이트 95000명의 개인정보가 유출 된 내용을 예시로 든다.
사실 크리덴셜 스터핑의 성공확율은 0.1%정도라고 하지만, 결과 작은 수치로 보기도 어렵다.
3. 작성자를 신뢰할 수 있나?
AI를 활용하여 가짜뉴스가 양산되는 것을 다루기도 하는데, 이 과정에서 AI가 생성한 문서인지를 체크하는
사이트 gptzero.me를 소개한다.
이메일이나, 게시판을 통한 공격으로 기업의 사기 피해등을 조심하기 위해 활용하면 좋은 프로그램 같지만.
내가 작성한 문서를 돌리면 78% 확율로 AI가 만든것이라고 한다...
과연 신뢰할만한지 모르겠다.
AI의 발전을 안타깝게도 제로 트러스트 시대로 우리를 이끌고 있다.
점점 믿고 살기 힘든 세상으로 가고 있다는 다시 한번 알려주는 책이다
