챗GPT의 거짓말

챗GPT의 거짓말 - 인공지능의 약점과 거짓말에 각성하라
트렌드연구소 지음 / 동양북스(동양문고) / 2023년 8월

#챗GPT #거짓말 #AI #한계 #위험

AI 의 장점이 부각되고 있지만 그 뒷면은 생각하지 못한다. 단점을 이야기 하는 책.

전지전능한 인공지능이라고?

이 책은 챗GPT를 예로 들며 인공지능의 다양한 무넺점들에 관해 이야기 합니다.

인공지능이 절대 할수 없는 것, 인공지능이 태생적으로 부족한 것, 인공지능이라서

하면 안되는 것 등을 짚어가며 인간이 해야할 일을 이야기 합니다.

또한, 챗GPT와 대화를 통해 인공지능의 위험성에 관해서도 이야기 합니다.

인공지능은 단점이 없다고 간과할게 아니라 인공지능이 태생적으로 지닌 부족한

부분을 미리 알고 있으면서 인공지능의 활동을 관찰하며 사용해야 합니다.

— 작가의 말 中

인공지능 학습의 한계

감정을 학습한다는 것 자체가 불가능합니다. 감정이란 자체를 알지 못하기 때문이죠. 인간의 감정을 이해하고 표현하도록 프로그램화 할수는 있습니다. 인간의 감정이 표현되는 과정을 프로그램화 하여 데이터로 입력하면 그 로직에 따라 분석하고 처리하고 출력할수 있습니다. 인간의 감정을 이해한 것처럼 보일수는 있습니다. 이를 처리하기 위해서는 이미지를 분석하는 처리 방법도 필요합니다. 눈으로 영상을 보고 영상을 통해 보고 느끼는 감정도 있기 때문입니다. 문화에 대한 감정반응도 생각해 볼수 있습니다. 한국만의 정이란 관념을 문화적인 데이터로 수집해서 문화적 정서에 맞게 반응하도록 프로그래밍을 추가로 해야 할 것입니다.

인공지능 대화의 한계

대화에는 한계성이 존재합니다. 사람과 사람의 대화 인간과 인공지능의 대화 어느것이든 마찬가지 입니다. 모든 대화에는 당사자만이 알고 있는 부분이 존재하며 대화로 모든것을 다 설명하기는 쉽지 않습니다. 인간과 인간의 대화에서도 충분히 이해하기가 불가능하기에 인간과 인공지능과의 대화도 이해 불가한 상황이 생길수 있습니다. 대화를 나누는 사람들끼리의 지식의 한계도 고려해야할 부분이고 대화에서 사용하는 문맥도 이해하는데 있어 상당히 영향을 줄수 있습니다.

알파고가 세상에 알려지고 챗GPT 가 나왔을때 사람들의 반응은 인터넷이 발명되었을때 보다 더 대단한 발명이라고 생각했고 어떤 사람들은 영화에서 AI 가 인간을 지배하는 상황이 일어날까봐 두려워 하는 사람들까지도 있었습니다. 챗GPT 를 통해 인공지능의 한계에 대해 실제로 알아보며 정리한 책입니다. 거짓말을 하는 챗GPT 처럼 아직까지 AI가 완벽한 수준이 아니며 또 완벽한 AI가 실제로 존재할수 있을지도 의문이 듭니다. 하지만 챗GPT 등으로 보다 많은 분야에 적용하여 많은 도움을 받을수 있다는 것은 사실이라고 생각합니다. 단점도 잘 알고 있으면서 단점을 잘 이용해야 할 몫도 결국에는 AI를 이용하는 사람들의 몫이라고 생각합니다.

"해당 도서는 출판사로부터 서평 작성을 목적으로

책과 콩나무 카페를 통해 무료로 제공 받았습니다."