출판사로부터 도서를 제공 받아 주관적인 견해에 의해 작성한 리뷰입니다.
이제 업무를 볼 때 AI를 사용하지 않더라도 페이지는 열어놓고 있습니다. 언제 급하게 사용할지 모르기 때문입니다.
업무에 많은 도움을 받고 있는 상황이라 AI를 거부하기보다 제대로 효과적으로 사용하고 싶습니다.
이 책 《왜 내가 쓰는 AI만 멍청해 보일까?》는 AI 사용법을 다루는 책들과는 결이 다르게 왜 설명을 잘 해야 하는지 알려줍니다.
처음 AI를 사용할 때 AI의 정보다 모두 정확하다고 믿었고 또 그것을 그대로 사용했습니다. 하지만 점점 AI도 틀린 정보를 준다는 것을 알게 됩니다.
AI에게 자료를 요청하면 AI는 곧바로 긴 문서를 내놓습니다. 문단은 잘 나뉘어져 있고 문장은 단정하고 제목이 있고 결론도 있는 완벽한 보고서처럼 보입니다.
하지만 읽을수록 어딘가 어긋나 있고 모두 알고 있는 배경 설명이 길고 중요한 데이터는 문단 속에 묻혀 보이지 않습니다.
틀린 답은 없었지만 내가 필요로 하는 답은 아닙니다. 보고서처럼이라고 말했지만 그 안에 아무 기준도 없었던 것입니다.
누구에게 보고하는지, 무엇을 결정하기 위한 문서인지, 지금 가장 중요한 정보가 무엇인지 등등 그 기준을 입력하지 않았습니다.
AI는 말하지 않은 기준을 대신 세워주지 않습니다. 기준이 비어 있으면 어디에나 무난한 구조를 선택합니다.
그래서 결과는 그럴듯하지만 상황에는 맞지 않고 내가 원하는 보고서가 아니라 기준이 없는 상태에서 나온 평균 출력물이 됩니다.
AI가 일부러 거짓말을 한 것이 아니라 내가 주지 않은 설명 즉, 머릿속 전제를 주어진 범이 안에서 그럴듯하게 완성했을 뿐입니다.
AI가 갑자기 멍청해진 것이 아니라 우리가 설명을 입력하지 않은 채 정답만 요구하는 경우가 훨씬 더 많기 때문입니다.
문제는 AI의 성능이 아니라 우리가 무엇을 설명하지 않았는지, 어떤 조건을 입력하지 않았는가에 있습니다.
우리는 AI에게 무엇을 해달라는 말은 잘하지만 왜 필요한지, 지금이 어떤 상황인지, 무엇을 더 중요하게 보는지와 같은 기준을 입력하지 않습니다.
어디까지가 허용 범위인지에 대한 조건은 충분히 입력하지 않고 판단 공간에 공백이 생깁니다. 우리는 공백을 AI가 채워주길 바랍니다.
말을 못해서가 아니라 말해야 할 것을 점검하지 않아서입니다. 우리는 설명을 많이 하는 것처럼 느낄 때가 있습니다.
그 설명은 종종 사건의 나열이고 판단의 기준은 빠져 있습니다. 문제는 AI의 이해력이 아니라 우리가 설명을 다루는 방식입니다.
설명을 잘 못하는 건 생각이 부족해서도, 머리가 나빠서도 아니라 우리는 대부분 설명하는 법을 배워본 적이 없기 때문입니다.