생성형 AI는 단순히 정보를 나열하지 않는다. 질문을 받는 순간 어떤 내용을 먼저 말하지, 어떤 관점으로 시작할지, 무엇을 제외할지를 동시에 결정한다. 즉, 입력된 조건을 바탕으로 내부에서 판단 기준의 우선순위를 설정한다.
P90
생성형 AI는 질문을 받는 순간, 그 자리에서 문장을 만들어냅니다. 입력된 조건 안에서 확률적으로 가능한 문장 중 하나를 계산해서 선택합니다. 정리하고, 방향을 정하고, 구조를 선택한 뒤 하나의 결과로 조합합니다.
'상황-목적-제약-요청'의 단계적 질문 구조를 적용하고자 합니다. 아무리 좋은 조건이라도 한 번에 모든 결정을 내리게 하면 AI는 다시 평균적인 틀로 돌아가기 때문에, 단계별로 대화를 나누며 결과물의 방향을 만들어야겠습니다.
책에 수록된 '4가지 설계 진단 출발점, 목적, 경계, 과정' 항목을 일종의 체크리스트로 만들어, AI에게 프롬프트를 던지기 전 스스로의 상태와 의도가 명확히 정리되었는지 매번 점검하는 설계자의 태도를 가져야겠어요.
사람은 질문을 들으면 빠진 상황을 스스로 보완한다. 누구에게 보내는지, 얼마나 급한지, 왜 필요한지 머릿속에 보완한다. 하지만 AI는 그렇게 눈치로 공백을 메우지 않는다. 대신 입력된 단서들을 바탕으로, 지금 주어진 요청이 어떤 상황에 가까운지 확률적으로 해석하며 문장을 만들어간다.
P142
누가 이 문장을 읽는지, 언제 써야 하는지, 이 문장을 통해 결국 무엇을 끝내야 하는지. 이 세 가지가 비어 있으면 AI는 가장 일반적인 업무 상황을 가정합니다. 이 결과를 실제로 읽는 사람은 누구인가?, 이 답은 언제 사용하는가?, 이 문장을 통해 어떤 행동이나 결정이 일어나야 하는가? AI가 판단을 시작하기 위한 최소 조건입니다.
허버트 사이먼의 '제한된 합리성' 개념처럼 AI 역시 주어진 수많은 정보 속에서 무엇을 우선순위로 두고 무엇을 배제해야 하는지 맥락을 잡아주지 않으면, 가장 안전하고 무난한 보편적 평균값으로 회귀해 버립니다. 사람의 현재 '상태'와 '우선순위의 기준'을 선명하게 짚어주는 인간의 맥락 정의 능력임을 알게 되었습니다.
먼저 상황을 밝히고, 목적을 적고, 제약을 정한 뒤에 요청하는 방식이다. 설명되지 않는 공백이 평균을 만들고, 평균이 사고를 움직인다. 그리고 책임은 여전히 인간에게 남는다. 그래서 결론은 기술이 아니다. 더 똑똑한 모델을 찾는 것도 아니다. 더 고급 프롬프트를 배우는 것도 아니다. 판단의 조건을 내가 먼저 말하는 것. 그게 전부다. '나는 지금 어떤 조건을 설계하고 있는가?'
P176
1단계: 상황 및 페르소나 설정 → 2단계: 목적 및 제약 조건 전달 → 3단계: 초안 작성 요청 → 4단계: 피드백 및 세부 수정으로 이어지는 단계적 프로세스를 만들어가야겠습니다. AI와의 대화 과정을 직접 설계하고 통제함으로써, AI의 자동화된 평균에서 벗어나 나만의 의도가 명확히 살아있는 밀도 높은 결과물을 만들어 나만의 색깔로 만들어 가야겠어요.
누가 말하는지, 어떤 상황에서 쓰는지 분명했는가?
왜 이 글을 쓰는지, 무엇을 끝내려 했는지 또렷했는가?
하지 말아야 할 것, 지켜야 할 기준이 있었는가?
한 번에 완성하기보다, 순서나 단계를 먼저 정했는가?
P181
프롬프트는 단순한 질문이 아니라 AI의 판단 트랙을 깔아주는 '조건'이며, 정보의 양을 무작정 늘린다고 해결되는 것이 아닙니다. 아무리 정교한 템플릿을 제시하더라도 한 번에 완성본을 요구하면 AI는 복잡한 결정을 처리하는 과정에서 다시 익숙한 보편적 평균값으로 회귀하고 맙니다.
결국 내가 어떤 상황에서 무엇을 우선하고 배제할지 맥락을 정한 뒤, 이를 단계별로 요구하며 대화의 주도권을 쥐는 것이 설계자의 진짜 역할임을 실감했습니다.
AI를 잘 활용하고 싶은 사람이라면 새로운 프롬프트를 찾기 전에 먼저 자신의 설명 방식을 점검해 보는 것이 어떨까요? 이 책은 AI를 사용하는 모든 사람에게 "AI를 바꾸려 하지 말고, 설명하는 방식을 바꿔보라"는 메시지를 전합니다.