LLM(large language model; 대규모 언어 모델)은 사실 AI의 한 유형일 뿐이지만, 지금은 AI 전체를대표하는 보편적인 용어로 자리 잡았다. 현재 주도적인 LLM들은 대부분 생성형 사전훈련 트랜스포머(generative pretrained transformer, GPT) 아키텍처를 따른다.‘ 다른 아키텍처도 있지만 현재로서는 이 아키텍처가 가장 성공적이다. - P15
바람직한 온도의 값은 구체적인 용례에 따라 달라진다. 일관된 결과를 얻을 필요가 있을 때는 온도를 0으로 낮추어서 응답의 확률적 특성(무작위성)을 제한하면 된다. 반대로 창의적이고 다양한 결과가 필요할 때는 1.0으로 설정해서 가변적인 응답을 얻을 수 있다. - P21
LLM 같은 언어 모델이 사용자가 원하는 출력을 생성하도록 유도하는 내용을 담은 입력 메시지를 흔히 프롬프트라고 부른다. 프롬프트 엔지니어링prompt engineering은 그러한 프롬프트를 구축하는 방법론을체계화하려는 시도로, 비교적 최근에 등장했다. 안타깝게도 프롬프트 구축은 아직 확립된 과학이 아니며, 프롬프트 엔지니어링의 일부로 간주할 수 있는 다양한 방법이 계속 등장하고 있다. - P28
상세한 쿼리 전술에서는 질문을 구체적으로 할 뿐만 아니라 예시를 요청하기까지 한다. 프롬프트에 관련 정보와 맥락을 더 많이 제공할수록 전체적인 응답이 향상된다는 점을 기억하자. 예시를 요청하는 것은 질문과 예상출력 사이의 관계를 강화하는 또 다른 방법이다. - P33
|