초등 AI 윤리 교육, 생성형 AI가 만드는 가짜뉴스

생성형 AI가 만드는 가짜 뉴스 - 팩트 체크로 뉴스를 제대로 가려낼 수 있을까? ㅣ 초등융합 사회 과학 토론왕 89
조남철 지음, 김석 그림 / 뭉치 / 2024년 8월

AI의 발달이 놀랍기도 하지만 곧 발견된 할루시네이션도 큰 문제로 떠올랐죠.

조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려달라니까 어쩜 입에 침도 안 바르고 저리 술술 지어내는지!

지금은 다시 교육되어 저렇게 물어보면 맥북 출시일과 세종 시대를 설명하고 시간대가 달라 일어날 수 없는 일이라고 답변한다고 해요.

그렇다면 누군가 나쁜 맘을 먹고 AI를 교육시키면 그 사람이 원하는 결과를 전 세계 챗GPT 이용자들이 교육 받겠네...?

저 당시 세종대왕 맥북 사건 결과에 다들 와하하 엄청 웃었지만 저처럼 걱정 많으신 분들은 속으로 엄청 염려하셨을거예요.

의존도가 높아지면 진짜 큰 문제가 될 수 있겠다 싶었고, 그리고 결국 이 책을 만나기 하루 전. 딥페이크 사건이 터졌습니다...

AI의 생활 속 범위가 넓어지면서 정말 많은 부분에서 AI를 만나고 있어요.

요즘 학생들이 만나는 학습프로그램도 AI 기반인 경우가 많고 직장인들도 챗GPT를 이용해 작업물을 완성하는데 도움을 받고 있지요.

그러나 역사적으로 항상 과학기술의 점핑에는 따라오는 질문이 있더라고요, 윤리적으로 이게 맞나?

복제 세포의 성공에 많은 사람들이 이게 맞냐! 물어보았었고, 

고통없는 안락사의 개발이나, 인공 난자등의 출시에 또 많은 사람들이 이게 맞냐! 물었었고, 

딥페이크의 개발 역시 이게 맞냐! 이건 아니지! 외침이 끊임없이 들려옵니다. 옹호하시는 분들은 기술이든 법이든 그걸 악용하는 사람들이 문제지 바르게 쓰는 사람들이 뭐가 문제냐 하지만, 이게 악용될 수 있다는 것 이미 알고 계셨잖아요...   

오늘은 <생성형 AI가 만드는 가짜 뉴스>를 읽어보았습니다.

팔코미 할머니가 거미를 잡아먹는다는 뉴스를 접한 친구들이 진짜인지 확인할 겨를조차 없이

이랬대! 저랬대! 왠일이야! 대박이다! 외치고 있는데요, 이거 사실 우리 현실과 굉장히 비슷하죠.

누가 이랬다며? 저랬다며? 어쩜! 일파만파 커지는 소문은 내용이 부풀려지기도 하고 전혀 엉뚱한 내용이 되기도 합니다.

그리고 그런 소문은 일단 한 번 퍼지면 아니라고 정정하기도 너무 어렵고요. 

착한 팔코미 할머니에 대한 억측과 오해를 풀고 싶었던 휘강이는 신문사에 이 가짜 뉴스에 대한 제보를 하게 되고

털보리 국장도 함께 진상을 파헤치기 시작하는데요, 이 가짜 뉴스의 뿌리를 뽑아낼 수 있을지는 책을 통해 확인해보세요.

그리고 사람들은 왜 가짜 뉴스에 쉽게 현혹되는지도 함께 고민해봅시다.

특히 요즘 생성형 AI와 딥페이크로 굉장히 불안하실 분들 많으실거예요.

이번 기회에 이런 범죄에 대한 처벌을 단디하지 않으면 또 언제든지 같은 범죄가 일어날 수 있다는 사실을 명심하고

과연 어떻게 이 사단이 마무리 될 지 우리 모두가 관심을 가지고 지켜봐야겠어요. 사실 저처럼 AI 걱정어린 눈으로 보는 분들 많으실텐데

기술이 빠르게 발달하고 즉시 상용화 되듯이 그만큼 관련 법안도 빠르고 촘촘하게 제정되었으면 하는 바람입니다. 

특히 가짜 뉴스를 구별하는 몇 가지 방법이 구체적으로 소개되어 있어서

어린이들 뿐만 아니라 어른들도 정독해서 명심했으면 하는 부분이에요.

이 부분은 정말 복사해서 벽에 붙여두고 아이들이랑 수시로 같이 읽어보려고요.

쏟아지는 정보속에서 스스로 판단하지 못한 채 각종 가짜뉴스에 휩쓸린다면 어느 새 생각하는 힘을 완전히 잃고

뉴스를 이용하는 사람들의 먹잇감이 되고 말겠지요.  

가짜 뉴스 속에서 살아남기!

미디어 리터러시의 중요성이 매일 매 시간 강조되는 요즘입니다.

도서를 제공받았습니다.