정보에 오류가 있는데, 인공지능이 자기 확신적인 답변을 하는 것을 말하죠.

챗GPT의 거짓말 - 인공지능의 약점과 거짓말에 각성하라
트렌드연구소 지음 / 동양북스(동양문고) / 2023년 8월

“인공지능의 할루시네이션”
데이터 상 사실과 다른 것인데 인공지능은 답변으로 판단하는 경우, 즉 정보에 오류가 있는데, 인공지능이 자기 확신적인 답변을 하는 것을 말하죠.
한마디로  인공지능의 거짓말, 환각을 의미하는 걸로  인공지능을 사용해보면서 많이들 경험했던 것이죠.

이 책은 이런 인공지능이 거짓말을 할수밖에 없는 한계를 설명하고, 그럼에도 어디까지 인정할 것인지에 대해 서술하고 있다.

챗GPT가 올해 초 핫해지면서, 너나 할 것없이 컴이나 모바일에 설치해서 과연 어느정도 답을 해줄지 질의하기 바뻤죠.
결과적으로는 검색 사이트에서 긁어오는 듯한 답변, 두루뭉실하게 넘어가는 답변, 전혀 다르게 답하는 챗GPT에 실망했었죠.
그러면서, 학습이라는 개념을 알고, 사용자의 프롬프트에 따라 더욱 고급진 답변을 피드백 받을 수 있음을 알고, 고퀄의 다양한 사용법을 찾아보는 방향으로 인공지능 사용 흐름이 변화를 가졌죠.

많은 AI서비스들이 우후죽순 쏟아져 나오고 있지만, 그 중에서도 제일 중심에는 챗GPT라고 해야 겠죠.
그런 챗GPT가 잘못된 답변을 내놓는 환경을 이해한다면, 사용자 측면에서는 그 한계를 고려해서 질의를 한다면 더욱 신뢰할수 있는 고급 답안이 나오겠죠.

그런 거짓말을 하는 인공지능을 앞으로는 규제할 것인지 자유를 줄 것인지는 신중하게 판단해서 규제법이 만들어져야 할 듯 하다.

그동안의 챗GPT의 관련 서적과 달리 거짓말하는 AI도 태생적으로 한계를 가지고 있고, 사용면에서 무분별하게 사용되기 이전에 규제가 필요함을 다시금 경각시켜주는 책이었다.