프롬프트 엔지니어링

프롬프트 엔지니어링 - 챗GPT, 바드, 빙, 하이퍼클로바X까지 한 권으로 끝내기
반병현 지음 / 생능북스 / 2023년 10월

프롬프트 엔지니어링

23년 테크쪽에서의 가장 핫한 키워드 중 하나는 "챗GPT"가 아닐까 생각한다.

온갖 기사와 책들이 쏟아져 나올정도로 오픈AI의 챗GPT는 강렬했다.

덕분에 IT비전공자인 나도 챗GPT관련 그룹사 교육을 다녀올 정도 였다.

실무에 챗GPT를 적용하고 있는 사람이 얼마나 있을지는 잘 모르겠지만 나는 종종 활용하고 있다

(아마 나처럼 활요하고 있는 사람들이 꽤 있지 않을까 생각한다. 왜나면 나도 활용하고 있다는 것을 굳이 홍보하고 있지는 않지만 유용한 부분이 있다)

그러한 활용도를 높일 수 있는 방법이 이책 프롬프트 엔지니어링에 나와 있다.

"프롬프트 엔지니어링은 대규모 언어 모델(LLM)의 성능을 향상시키기 위해 프롬프트를 조작하는 프로세스"라고 볼 수 있다

쉽게 말해 검색창에 키워드를 잘 넣는 사람이 같은 시간에 더 질좋은 자료를 찾아내듯이 AI에게 적절한 질문을 잘 하는 사람이 AI를 더 잘 활용할수 있는 것이고, 이 책은 AI의 매커니즘을 통해 그러한 질문을 더 잘 할 수 있도록 돕는다.

책의 구성은 이렇게 되어있다

프롬프트 엔지니어링의 이론적 배경

태스크 프롬프트

교육학적 기법의 적용

프롬프트 해킹(탈옥)

기본적인 이론부터 활용법까지 다양하게 다루고 있다.

IT책임에도 불구하고 가독성이 좋은데, 그 이유는 아마도 저자가 출판경험이 많기 때문이라고 생각된다.

(저자의 다양한 경험과 학습, 도전하는 모습이 약력에 잘 드러난다)

이 책의 특징 중 하나는 챗GPT와 바트에게 유사한 질문을 해서 둘 간의 차이를 꾸준히 찾아낸다는 것이다. 그런데 실상 그렇게 큰 차이를 보이지는 않는다.

덧붙임

결국 학습, 수행, 시행착오, 응용, 새로운 시도의 반복이다.

다른 것들을 빨리 학습하는 사람이 프럼프트 엔지니어링을 비롯한 AI도 잘 활용한다.

결국 사람이 하는 것, 태도, 그리고 새로운 것에 대한 에너지

이 책을 관심가지고 읽는것도 그러한 맥락

챗GPT와 바트를 모두 써봤는데, 바트가 좀 더 친근함

대화하는 형태로 활용하는 것도 좋은 팁임.

본문의 내용을 일부 인용하면,

챗GPT는 여러분에게 한마디 대답을 할 때마다, 지금까지 여러분과 나눴던 모든 대화내용을 한바퀴 빠르게 훑어보고 옵니다. 그렇게에 여러분과 과거에 나누었던 대화 내용을 바싹하게 파악하고 있는 것이지요. 그래서 유용한 정보들을 미리 채팅창에 입력해 두는 전략도 성립합니다. 당장은 필요없는 이야기더라도, 어차피 나중에 질문하면 어텐션이 이를 참고하여 답변을 생성해 줄 것이라는 기대로 여러 정보를 채팅창에 쌓아 두는 것입니다.

Ai분야에서는 손실 압축에 해당하는 개념이 인코딩이며 인코딩을 담당하는 구조물을 인코더라고 부릅니다.

인코딩은 외부의 정보를 Ai에 입력하는 과정을 의미합니다. 따라서 인코더의 성능이 뛰어나면 뛰어날 수록 Ai의 추성화 능력과 이해력이 높아진다고 단편적으로 생각할 수 있겠습니다.

반대로 압축된 정보를 끄집어내어 표현하는 과정을 디코딩이라고 합니다. 이를테면 여러분이 주변인에게 수박의 생김새를 말로써 설명하거나, 그림으로 그려서 표현하는 등 압축되어 있던 관면을 팽창시켜 현실 세계의 데이터로 표현하는 과정이 디코딩에 해당합니다. 디코더의 성능이 뛰어날수록 Ai의 표현력이 좋아집니다.