이한빛-왜 내가 쓰는 AI만 멍청해 보일까

왜 내가 쓰는 AI만 멍청해 보일까? - 같은 AI를 써도 결과가 달라지는 진짜 이유
이한빛 지음 / 생능북스 / 2026년 7월

"멍청해 보이던 AI를 똑똑하게 활용하는 법!"

제목부터 시선을 끌었던 이 책! 나 역시 AI를 사용하면서 '왜 이렇게 멍청한거야?'라는 소리를 수없이 해댔었다. 특히 초반에 이런 현상이 심했는데, 아마 누구나 그런 경험 한두 번씩은 해봤을 것이다.

물론 과거에는 기능적으로 부족한 점들이 많아 실제로 멍청하다 평하는 것이 꼭 틀린 말만은 아니었다. 예를 들어 한글이 깨지는 현상이 심하다거나, 특정 물음이나 단어에 대해 엉뚱한 답을 한다던가 하는 것들 말이다.

하지만 최근 몇 달 사이 AI들이 급성장하면서 오히려 지금은 멍청하기보다 인간들이 활용을 잘 못하는 쪽에 가깝다고 하는 것이 맞을 것이다.

그렇다면 과연 이런 AI들을 어떻게 사용해야 할까? 멍청하지 않고 똑똑하게 쓰기 위한 방법들에는 어떤 것들이 있을까 궁금하여 읽게 된 책인데, 해답은 멀리 있지 않았다.

그것에 대해 지금부터 함께 이야기해보려고 한다.

총 6장으로 구성된 이 책은, 우리 생활에 밀접하게 다가온 AI를 사용자가 잘 활용할 수 있도록 연결해 주는 책으로, 구조적 설계와 확실한 사용법을 제시하고 있는 책이다.

특히 평소 AI를 사용함에 있어 뭔지 모를 답답함과 짜증을 느꼈던 사람이라면, 이 책을 통해 큰 만족감을 얻게 될 것이다. 나 역시 이 책을 통해 나의 부족했던 점을 발견하고 채워 넣을 수 있었는데, 아마 다른 독자들도 비슷한 느낌을 받지 않을까 한다.

이제는 불특정 다수의 질문을 AI에게 무작정 쏟아내기보다, 사전 점검을 통해 판단한 조건을 설계에서 AI를 활용해 제대로 된 답변을 얻어낼 수 있는 지혜로운 인간으로 거듭나기를 바란다.

평소 우리가 사용하던 사고방식과 전달 방식의 한 끗만 조정하면 우리는 똑똑한 AI를 활용하는 현명한 유저가 될 수 있을 것이다.

=====

책 자세히 들여다보기!

=====

■사례로 알아본 문제점

1. 사례 1로 본 문제점

AI 입장에서 저자의 요청은 "논문 형식을 갖춘 텍스트 덩어리를 만들어 줘"라는 명령과 크게 다르지 않았을 것이다. 저자가 말하지 않은 것은 정보가 아니라 조건이었다. 그리고 비어 있는 그 자리를 AI는 자연스럽게, 그리고 그럴듯하게 채웠다.

결국 존재하지 않는 논문은 갑자기 생겨난 것이 아니었다. 저자가 비워둔 조건 안에서 조립된 결과였다.

2. 사례 2로 본 문제점

나중에야 알았다. 저자는 '보고서처럼'이라고 말했지만, 그 안에는 아무 기준도 없었다. 누구에게 보고하는지, 무엇을 결정하기 위한 문서인지, 지금 가장 중요한 정보가 무엇인지, 무엇을 앞에 두고 무엇을 줄일지. 이것들은 단순한 요구사항이 아니라, 무엇을 우선하고 무엇을 중요하게 볼지 정하는 기준이었다. 저자는 그 기준을 입력하지 않았다.

AI는 말하지 않은 기준을 대신 세워주지 않는다. 기준이 비어 있으면, 어디에나 무난한 구조를 선택한다. 그래서 결과는 그럴듯하지만, 상황에는 맞지 않는다. 저자가 원하는 보고서가 아니라, 기준이 없는 상태에서 나온 평균 출력이기 때문이다.

■AI가 멍청해 보이는 이유

AI가 갑자기 멍청해진 것이 아니라, 우리가 설명을 입력하지 않은 채 정답만 요구하는 경우가 훨씬 더 많기 때문이다.

AI는 이미 충분히 똑똑하다. 그럼에도 기대와 어긋나는 답이 나오는 이유는 지능이 아니라 설명 방식에 있다. 우리는 단지 '설명하는 법'을 배운 적 없는 상태로 AI를 만나고 있을 뿐이다. 문제는 그 간극에서 시작된다.

그렇다면 우리는 왜 이렇게 설명을 못할까?

이 질문은 '말을 못해서'가 아니라 '말해야 할 것을 점검하지 않아서'로 이어진다. 우리는 설명을 많이 하는 것처럼 느낄 때가 있다. 하지만 그 설명은 종종 사건의 나열이고, 판단의 기준은 빠져있다.

---------------------------

<사람의 대화>

말한 것+공통기반+맥락→이해

---------------------------

우리는 이 구조에 너무 익숙하다. 그래서 '설명'을 따로 훈련하지 않아도 된다고 믿어왔다. 문제는 이 방식이 AI 앞에서는 그대로 작동하지 않는다는 점이다. 이 차이는 짧은 대화로 드러난다.

사람은 '그거'를 말하지 않아도 서로가 같은 '그거'를 가리키고 있다고 믿는다. AI는 그 믿음을 공유하지 않는다. 그러니 AI가 '그거'자리에 무언가를 채워 넣는 순간, 내가 생각한 '그거'와 엇갈릴 수 있다. 그리고 우리는 그 엇갈림을 '이해력 부족'으로 오해한다. 하지만 실제로는 공유 실패다. 공유가 실패했는데도 우리는 공유했다고 생각했다. 그래서 더 답답해진다.

우리는 설명을 안 하는 사람이 아니다. 다만, 말하지 않아도 통한다고 믿는 방식에 익숙해져 있을 뿐이다. 사람 사이에서는 그렇게 생략된 부분이 자연스럽게 베워진다. 그러나 AI 앞에서는 그 생략이 그대로 공백으로 남는다.

■우리는 무엇을 말하지 않았을까

---------------------------

질문은 표현이고, 조건은 방향이다.

---------------------------

1. 문장이 부족한 게 아니라, 기준이 없었다

사람에게는 너무 당연해서 굳이 말하지 않는 정보들. 하지만 AI에게는 입력되지 않으면 존재하지 않는 정보다.

우리가 자주 마주치는 '맞는 말이긴 한데 애매한 답'은 AI의 실패가 아니다. 조건과 기준의 공백이 있을 때 나타나는 전형적인 출력이다.

2. 질문은 그대로 두고, 조건만 추가하면 결과는 완전히 달라진다.

조건은 출력 방향을 정한다

기준은 판단 규칙을 정한다

이 두 가지가 입력되지 않으면 설명에 공백이 생긴다. 그리고 그 공백 위에서 AI의 판단이 시작된다.

중요한 것은 조건의 양이 아니라 어떤 조건이 판단에 직접 영향을 주는 가이다. 조건은 장식이 아니다. 선택 기준이다.

3. 프롬프트는 질문이 아니라 조건이다

이제 질문은 바뀌어야 한다. "AI가 이 상황을 판단하기 위해, 내가 아직 주지 않는 조건은 무엇일까?" 이 질문을 던지는 순간 프롬프트는 더 이상 단순한 문장이 아니다. 판단의 범위를 설계하는 행위가 된다. 문제는 우리가 말하지 않은 조건이었다.

그렇다면 또 하나의 질문이 남는다. 우리는 왜 그 조건을 말하지 않았을까? 그 이유는 인간의 습관, 인지 구조에 있다.

4. 왜 우리는 설명이 충분하다고 착각했을까?

1) 왜 확인 절차가 사라질까?

우리는 조건을 일부러 줄이지 않는다. 그저, 말해야 한다는 생각이 떠오르지 않을 뿐이다.

반복을 통해 의식적으로 수행하던 과정이 자동으로 처리되는 상태를 '자동화'라고 한다. 자동화가 일어나면 속도만 빨라지는 것이 아니다. 그 과정을 점검하는 단계 자체가 사라진다.

확인 과정 자체가 사고 흐름에서 빠진다. 그래서 우리는 '다 말했다'고 느낀다.

▶메타인지 점검 소실: 빠뜨렸다는 사실을 모른다

자신이 무엇을 알고 있고 무엇을 말했는지를 점검하는 능력을 '메타인지 점검'이라고 한다.

이 상태에서는 이런 질문이 떠오르지 않는다. "이걸 말했나?", "이 부분을 조건으로 제시했나?" 기억력이 나빠서가 아니다. 확인할 기회 자체가 사라진 상태다. 그래서 우리는 '다 말했다'고 느낀다.

▶공통기반 착각: 상대도 알고 있을 것이라 믿는다

상대와 공유하고 있다고 믿는 배경지식과 상황의 집합을 '공통기반'이라고 한다. 사람과의 대화는 공통기반 위에서 이루어진다.

문제는 이 감각을 AI에게 그대로 적용할 때다. 우리는 이렇게 생각한다. "이 정도는 말 안 해도 알겠지." 하지만 AI는 입력되지 않은 정보를 전제로 삼지 않는다. 문장 안에 없는 정보는 판단에 포함되지 않는다. 그 순간, 가장 중요한 조건이 조용히 빠진다.

2) 착각을 강화하는 두 가지 요인

▶처리 유창성

어떤 정보가 쉽게 떠오르고 쉽게 말해질수록 더 정확하고 충분하다고 느끼는 경향을 '처리 유창성'이라고 한다. 유창함은 입력의 충실함'을 보장하지 않는다. 오히려 유창함이 강할수록 점검을 건너뛰었을 가능성이 높다.

▶지식의 저주

이미 알고 있는 정보일수록 설명하지 않았다는 사실조차 떠오르지 않는다. 이처럼 한 번 알게 된 정보를 모르는 상태를 상상하기 어려워지는 현상을 '지식의 저주'라고 한다.

그래서 우리는 이렇게 말한다. "설명은 다 했는데 AI가 이해를 못 하네." 하지만 실제로는 핵심 조건에 대한 설명이 시작조차 되지 않았을 가능성이 크다.

3) 가장 자주 빠지는 조건: '나 자신'

가장 자주 빠지는 것은 '나 자신'에 대한 정보다.

-나는 어떤 수준의 답을 원하는가?

-나는 지금 어떤 상태인가?

이 정보들은 내 머릿속에서는 너무 분명하다. 그래서 조건으로 제시하지 않아도 전달된 것처럼 느껴진다.

하지만 AI에게는 다르다. 이 정보들은 배경이 아니다. 입력되지 않으면 존재하지 않는 조건이다. 그래서 자기 관련 정보는 가장 자주, 그리고 가장 조용하게 누락된다.

■지금 우리에게 필요한 것

AI를 더 능숙하게 다루는 기술이 아니라, AI가 먼저 그어둔 판단의 출발선을 그대로 따르지 않는 구조다. 어떤 조건과 기준 위에서 사고를 시작할지 스스로 정하는 능력이다. 판단을 무의식적으로 위임하지 않는 방법이다.

결론은 기술이 아니다. 더 똑똑한 모델을 찾는 것도 아니다. 더 고급 프롬프트를 배우는 것도 아니다.

판단의 조건을 내가 먼저 말하는 것. 그게 전부다.

우리가 AI 앞에서 바보처럼 느껴졌던 이유는 지능이 부족해서가 아니다. 설명을 설계하지 않았기 때문이다.

■결론

"왜 같은 AI를 써도 결과가 이렇게 다르게 보일까?"

우리는 생각보다 많은 것을 말하지 않는다. 누가 묻는지, 어떤 상황인지, 무엇을 중요하게 보는지, 어떤 기준으로 판단해야 하는지, 이 조건이 빠진 상태에서 AI는 가장 평균적인 답을 만든다.

그래서 우리는 종종 이렇게 느낀다. "AI는 멍청하다."

하지만 실제로 일어난 일은 조금 다르다. 설명 공백이 생겼고 그 자리를 평균이 채웠을 뿐이다.

"AI는 멍청하지 않다."

그동안 우리는 AI가 더 똑똑해지기만을 기다려 왔다. 더 빠르게, 더 정확하게, 더 완벽하게, 하지만 질문은 달라야 했다. AI가 얼마나 똑똑한가가 아니라, 나는 얼마나 명확한가. 나는 무엇을 전제로 두고 있는가. 나는 어떤 기준을 말하지 않았는가. 나는 어떤 조건을 비워둔 채 결론을 요구했는가.

AI는 문장을 완성할 수 있다. 그러나 어디서 출발할지는 정하지 못한다. AI는 여러 가능성을 펼칠 수 있다. 그러나 그중 무엇이 더 중요한지는 스스로 고르지 못한다.

누구에게 보내는지, 무엇을 꼭 넣어야 하는지, 어디까지 말하면 안 되는지는 여전히 내가 정해야 한다. 그 일은 여전히 사람의 몫이다.

=====

다소 무섭게 느껴졌던 부분

=====

AI는 결론을 대신 정하지 않는다. 하지만 생각의 기본 설정을 먼저 제공한다. 그리고 우리는 그 기본 설정 위에서 고민한다. 우리는 선택했다고 느낀다. 그러나 실제로는 이미 제시된 조건과 기준의 틀 안에서만 선택했을 가능성이 있다.

그리고 내가 그 기준을 말하지 않았다면, 그 공백은 누가 채웠는가? 바로 AI이다.

여기에 더해 설명의 공백은 곧 위임을 뜻한다. 공백은 중립이 아니다.

조건이 없는 질문에 대해서도 답은 '중립적'으로 만들어지지 않는다. '공백'은 단순히 정보가 적다는 뜻이 아니다. 판단을 정하는 조건과 기준이 입력되지 않아 비어 있는 상태다. 사용자가 기준을 제시하지 않으면 시스템의 기본값이 그 자리를 채운다.

한 번의 위임은 크게 느껴지지 않는다. 하지만 판단의 조건과 기준을 우리는 반복적으로 외부 구조에 의존하면서 무엇이 합리적인지 정의하는 기준이 점점 외부로 이동한다.

문장은 완성되어 있다. 그럴듯하고 매끄럽다. 그러나 누군가가 책임지고 한 말은 아니다. 확률적 예측 구조 안에서 조합된 결과일 뿐이다.

하지만 결과가 발생했을 때 그 책임은 결국 인간이 우리가 지어야 한다.

사진 설명을 입력하세요.

사람들은 자신이 '선택'했다고 믿고 있지만, 사실은 정말 중요한 조건과 방향성의 누락으로 결국 AI가 제시하는 평균값에 휩쓸려 특정 기준의 틀안에서 결정을 내리게 된다는 점은 1차 공포로 다가왔다.

여기에 더해 한 번, 두 번 의존도가 반복되다 보면 나중에는 '나만의 기준'이 아닌 외부의 기준에 의존하게 되면서 나만의 정의나 생각, 기준이 없어진다는 점도 크게 다가왔는데 이것이 2차 공포였다.

마지막 공포는 결국 나는 원치 않았지만, 그러한 모든 결괏값에 대한 책임은 결국 인간인 내가 져야 한다는 점이었다.

처음부터 내가 원해서 이루어진 것이 아님에도 불구하고, 착각 속에 휩쓸려 결국 우리는 우리가 원하지도 않았던 결과를 맞닥뜨림과 동시에 책임까지 져야 하는 것이다.

단순히 'AI는 멍청한 것 같아'의 수준을 넘어, 한편으로는 가스라이팅 당하는 느낌까지 들어 기괴하고 공포스럽게 다가왔다. 이런 현상을 막기 위해서는 확실히 자기만의 주장, 관념, 사고, 판단이 반드시 필요하다는 생각을 해본다.

마무리

출처 입력

과거에 비해 지금은 AI를 활용함에 있어 답답함을 덜 느끼고는 있지만, 그럼에도 여전히 가끔씩은 '왜 이렇게 멍청한 거야?'라는 소리가 절로 나올 때가 있다.

의도를 제대로 파악하지 못하고 엉뚱한 대답을 한다거나, 어딘가 미묘하게 어긋나는 답변을 받을 때마다 그런 생각을 하고는 했는데, 이 책을 계기로 확실한 원인과 이유를 알았다.

원인은 AI를 사용하는 유저인 나에게 있었던 것이다. 나에 대한 정보 설명 부족, 사전 설명이나 배경 설명 부족, 원하는 바에 대한 조건이나 방향성에 대한 설명 부족 등의 사유가 결국 그러한 '멍청한 대답'을 이끌어낸 원인이었던 것이다.

앞으로는 조금 번거롭지만, 이런 조건값들을 상세히 기술함과 동시에 내가 원하는 출력 방향까지 설계해 제대로 활용해 볼 예정이다.

그렇게 나도 성장하고, AI도 함께 성장하다 보면, 지금보다 훨씬 똑똑하고 활용도 높은 AI 도구가 되지 않을까 한다.

그때는 아마 지금처럼 '왜 내가 쓰는 AI만 멍청한 거야?'라는 소리는 안 하게 되지 않을까?