직장인을 위한 AI 업무 설계의 기술 - 이민수

직장인을 위한 AI 업무 설계의 기술
이민수 지음 / 한빛미디어 / 2026년 9월

* 출판사로부터 도서를 제공받아 작성한 리뷰입니다 *

나는 기획자(MD)로 직장생활을 했는데, 20년을 근무하는 동안 다양한 TFT 프로젝트를 경험했었다.

지금 생각해도 웃겼던건, 단지 정보처리분야 자격증을 가지고 있다는 이유만으로...

사업부 내에서 모든 IT 관련 업무를 전담했었다.

(그룹웨어나 ERP 같은 정보시스템 어드바이저 역할부터 사업부장님의 PPT자료 작성, 게다가 PC 수리까지... ㅠㅜ)

정보시스템 어드바이저는 시스템에 이상이 생기면 제가 먼저 현장을 확인하고 IT실과 소통하는 역할이었다.

개발자 출신은 아니지만, 그나마 MD 중에서는 개발자들과 소통이 된다는게 이유였다.

마치 군대에서 족구장 라인 그릴때 미대출신을 찾는 것처럼, 상품기획부에서 IT 관련한 일꺼리는 전부 나에게 떨어진거다.

당시에는 혼자만 일이 늘어나는 것 같아 좀 짜증이 났었지만,

지금 생각해보면 비전공자로써 IT 시스템의 기본 원리를 깊이 이해하게 된 계기였던 것 같다.

20년의 직장생활 동안 회사에는 총 세 번의 대형 IT 프로젝트가 있었고, 나는 당연히 세 번 모두 참여했었다.

(당연히 기존 업무는 그대로 수행하면서, 수억 원의 IT 프로젝트 태스크포스팀원으로 참여해야 했다.)

내가 입사했을 당시, 우리 회사는 자체 서버 기반의 유닉스 시스템을 사용하고 있었다.

그룹웨어로 "인포맨(?)"을 사용하고 있었고, 각 사업부마다 개별 시스템을 사용했었다.

내가 참여한 IT 프로젝트는...

첫 번째 프로젝트는 유닉스 시스템을 윈도우 기반의 지식경영시스템으로 전환하는 작업이었고,

두 번째 프로젝트는 시대 흐름에 맞춰 인터넷 기반 그룹웨어와 영업관리시스템(SFA)으로 개편한 것이다.

세 번째 프로젝트는 ERP, MRP, MES, SFA를 하나로 통합하고, 엑셀 Add-on 방식으로 문서 작성을 자동화하는 프로젝트였다.

ERP : Enterprise Resource Planning, 전사적 자원 관리

MRP : Material Requirements Planning, 자재 소요량 계획

MES : Manufacturing Execution System, 제조 실행 시스템

SFA : Sales Force Automation, 영업관리시스템

내가 다닌 회사에서 MD는 상품기획부터 생산, 영업, 물류, 손익까지 전 과정을 책임지는 '프로젝트 오너'에 가까웠다. 

따라서 각 부서의 현장 지식(도메인 지식)과 데이터가 어떻게 연결되는지 가장 잘 알고 있는 게 MD였기 때문에 반드시 참여해야만 했다.

(당시 MD는 상품기획부터 생산, 영업, 물류, 손익까지 프로세스 전체를 관리하고 책임지는 역할이었기 때문이다.)

이와 별개로 생산담당 임원으로부터 수요예측 시스템 알고리즘을 개발하라는 과제를 받은 적도 있었다. 

당시 상용 소프트웨어와 회사 내에서 개발한 코드는 있었지만, 

실무 부서의 암묵지가 충분히 반영되지 않아 현장에서 사용하기에는 무리가 있었다.

나름대로 열심히 고민하며, 2차 보고까지 하고 IT실과 구체적인 개발 계획을 협의 중이었는데... 

담당 임원의 전보로 프로젝트 자체가 캔슬되어서 개인적으론 아쉬웠던 경험이다.

재미있는 것은 이때 배운 지식을 컨설턴트로 활동하는 지금도 유용하게 써먹고 있다는 것이다.

물론 최근에는 AI와 에이전트 기술이 도입되면서 IT 환경이 이전과는 많이 달라졌지만...

기술을 실무 프로세스에 적용하고 현장의 암묵지를 시스템화하는 기본 원리는 그때나 지금이나 동일하기 때문이다. 

한때 나를 힘들고 짜증나게 했던 경험이 지금은 도움이 된다니... 아이러니 하다.

◈ ◈ ◈ ◈ ◈

기업 현장에서 AI 활용이 일상화되면서, 사내 AI 에이전트를 도입이 이슈가 되고 있다.

하지만 현장에 AI 에이전트를 구축하는 것은 생각보다 쉽지 않다. 

앞에도 설명했듯이, 해당 기업만의 암묵지를 충분히 반영해야만 현장에서 제대로 작동하기 때문이다. 

게다가 AI 특유의 환각(Hallucination) 현상도 제어해야 한다.

업무가 자동화될수록 환각 현상으로 인한 오류는 치명적이다. 

환각 현상을 제대로 제어할 수 없다면, AI를 도입하지 않는 것보다 더 큰 리스크가 될 수 있기 때문이다.

따라서 AI 에이전트를 도입할 때는 하네스(Harness) 설계가 매우 중요하다. 

하네스는  AI 모델이 사고를 치지 않고 안전하게 실제 업무를 완수할 수 있도록 모델 외부를 감싸고 있는 소프트웨어 인프라 및 운영 체계를 의미한다.

즉, 하네스를 어떻게 설계하느냐에 따라 AI 에이전트의 업무 성과와 신뢰성에서 큰 차이가 나게 된다.

강의와 멘토링을 통해 만난 대표님들의 고민을 들으며, 하네스 설계에 깊은 관심을 갖게 되었는데...

이 책을 발견해서 서평단을 신청하게 되었다.

목차를 살펴보면... 

이 책은 업무에 AI를 적용하는 단계를 개인 차원에서 팀 조직 전체로 확장하는 흐름을 명확하게 보여준다.

구체적으로 13개의 장을 개인 차원(1~3부, 1~7장), 팀 조직 차원(4~5부,8~13장)으로 나눠 

독자가 필요한 부분만 선택해서 읽어볼 수 있도록 구성했다.

초보자부터 실무 경험이 있는 독자까지 폭넓게 접근하려는 저자의 의도를 확인할 수 있다.

1부 :  AI를 내 작업 폴더로 들여와 설치하고 첫 실행과 검증까지의 과정

2부 :  AI의 출력을 3중 검증 게이트와 제약 조건을 거쳐 실제 업무 산출물로 바꾸는 방법

3부 :  한 번 검증된 업무를 결정 카드와 영향 추적 시스템으로 세팅하는 단계

4부 :  팀 단위의 비용 가드와 명확한 책임선을 세워 AI가 사고치지 않게 통제하는 방법

5부 :  작은 파일럿과 회고 루프를 통해 팀의 거부 신호를 극복하고 AI를 지속해서 정착시키는 전략

그리고 각 장의 구성은 에피소드와 내용 설명, 플로우차트와 파이썬 코드 예시, 실습 과제, 핵심 요약으로 구성해 

실무자가 직접 따라하면서 학습할 수 있도록 설계했다.

이 책에서 다루는 내용은 AI 에이전트를 도입할 때만 필요한 내용인 것은 아니다.

특히 환각효과를 제어하거나 유닛이코노믹스를 설계하는 원리 등은 AI기반 솔루션 사업화 전략에도 활용할 수 있는 핵심 지식이다.

개인적으로 매우 유용하게 읽은 부분이다.

◈ ◈ ◈ ◈ ◈

4장에서는 작업지시서(프롬프트)에 명확한 제약 조건을 걸어 AI의 환각 현상과 오류를 제어하는 방법을 소개한다.

저자는 AI 활용시 좋은 답변을 얻는데 활용할 수 있도록 프롬프트를 설계하는 방법을 소개한다.

AI에게 복잡한 업무를 지시할 때 가장 중요한 점은, 프롬프트를 정밀하게 설계하는 것이다.

저자는 이를 4개의 블록으로 표현한다.

컨텍스트 (참고 자료 지정) :  AI에게 무엇을 보고 답변할지 기준이 되는 문서를 직접 지정하는 것

출력 형식 (답변 형식 지정) :  AI가 내놓을 결과물의 분량이나 구조, 절대 쓰지 말아야 할 금지 항목을 규정 하는 것

날조 차단 (환각 현상 제어) :  제공된 자료에 없는 내용은 절대 스스로 만들어내지 말라고 경고하는 것

탈출구·검증 (사람에게 넘기기) :  AI가 판단하기 어렵거나 근거를 찾을 수 없는 내용은 모른다고 표시하고, 결정을 사람에게 넘기도록 하는 가는 안전장치

즉, 효과적인 프롬프트 설계는 AI가 임의로 판단할 범위를 좁히도록 통제하는 것이다.

◈ ◈ ◈ ◈ ◈

8장에서는 입력 토큰 구조를 파악하고 비용 가드를 걸어 AI 사용 예산을 통제하는 방법을 소개한다.

기업의 본질은 이익 추구다.

AI 에이전트를 도입해 업무 효율성을 높이는 이유도 본질적으로는 운영 및 관리 비용을 절감하기 위해서다.

하지만 자체 LLM(Large Language Model, 대규모 언어 모델)을 직접 구축하지 않고 API를 활용하는 한, 

AI 에이전트를 사용할 때마다 토큰 비용이 계속 발생하게 된다. 

따라서 적절한 토큰 사용 통제 장치가 없다면, 

AI 도입으로 얻는 이점보다 비용이 더 커지는 배보다 배꼽이 더 큰 비효율을 초래하게 된다.

저자는 이러한 문제를 해결하기 위해 작업 수준별로 최적 AI 모델을 배정하라고 제안한다.

다만, 단순히 비용을 줄이겠다고  저렴한 경량 모델만 배정하는 것은 위험하다.

모델 등급을 낮출수록 답변의 오류나 환각 현상이 증가할 수 있고, 

이를 바로잡기 위해 모델 선택 프롬프트를 별도로 실행하거나 사람이 개입해 수정하는 과정에서 추가 비용이 들어가기 때문이다.

저자는 이러한 문제를 해결하기 위해 단순 호출비가 아닌, 

오류 발생 시 재작업 비용까지 고려한 '검증 총비용'을 기준으로 모델 등급을 정할 것을 제안한다.

검증 총비용 = AI 호출비 + (오류 발생 가능성 × 검증 및 수정 비용)

즉, 답변이 틀리더라도 검증과 수정에 들어가는 리소스가 적은 단순 작업에는 경량 모델을 배정하고, 

반대로 한 번의 오류가 치명적이어서 검증과 수정에 막대한 비용이 드는 핵심 작업에는 상위 모델을 배정하라는 것이다.

◈ ◈ ◈ ◈ ◈

AI 에이전트를 실제 업무 및 B2B 서비스에 도입할 때, 

매번 동일한 고정 정보를 AI 모델에 전송하는 것은 토큰 낭비 원인이 된다.

저자는 이러한 토큰 낭비를 막고 운영 효율을 극대화하기 위한 핵심 기술로 '컨텍스트 캐싱(Context Caching)'의 활용을 제안한다. 

캐싱은 회사 소개, 사내 정책 문서, 전문 용어집, 브랜드 스타일 가이드처럼 변경 빈도가 낮고 반복적으로 사용되는 긴 입력을 

빠른 임시 저장소에 미리 저장해 두고 재활용하는 기술을 의미한다.

그리고 캐싱을 적용하기 위한 핵심 전제 조건으로, 프롬프트 데이터를 다음 두 가지로 명확히 구분해야 한다.

고정 데이터 (캐싱 대상) :  자주 바뀌지 않고 모든 작업에 공통으로 주입되는 긴 문서 및 데이터

가변 데이터 (실시간 입력) :  사용자 입력값, 개별 회의록, 실시간 조회 데이터 등 매번 달라지는 정보

저자는 책에서 자료별 캐싱 적합성을 구체적인 예시로 설명하고 있다.

이처럼 데이터 레이어를 분리하여 '고정 데이터'에 캐싱을 적용하면, API 호출할 때마다 발생하는 입력 토큰 비용을 크게 낮출 수 있다. 

즉, 캐싱을 적절히 활용함으로써 AI 에이전트 서비스의 유닛이코노믹스를 최적화할 수 있다.

◈ ◈ ◈ ◈ ◈

9장에서는 환각 현상 검증과 생성물의 책임선을 팀의 기본 절차로 정립하는 방법을 소개한다.

AI 에이전트는 복잡한 업무를 연결하고 실행해 주지만, 

수집한 자료의 이용 권한이나 결과물의 법적 적합성까지 보장해 주지는 않는다. 

사내에서만 쓰는 업무 자료라면 저작권 문제를 대수롭지 않게 느낄 수 있지마느

내부 데이터가 외부로 유출되거나 이해관계자 간 분쟁 과정에서 노출될 경우 심각한 리스크 요인이 될 수 있다.

따라서 AI 에이전트 도입시 저작권 문제를 고려해야 한다.

저자는 저작권 리스크를 방지하기 위해 AI 결과물에 대한 저작권 인정과 책임 소재를 분명히 남기는 방법을 추천한다.

즉, 단순한 AI 생성물에 '인간의 창작적 기여'를 증명할 수 있는 작업 이력(프롬프트, 수정 내역, 선택 과정)을 

기록으로 남기는 체계를 구축하라는 것이다.

문화체육관광부와 한국저작권위원회에서 발간한 '생성형 인공지능 활용 저작물의 저작권 등록 안내서'에서

생성형 AI 결과물의 저작권 등록 여부 판단 기준이 '인간의 창작적 기여'이기 때문이다.

◈ ◈ ◈ ◈ ◈

AI는 잡일에서 손을 떼게 해 주지만, 무엇을 채택하고 무엇을 거부할지의 마지막 결정은 끝까지 사람의 몫이다.

저자가 에필로그에 남긴 첫 글이다.

이 책은 업무 자동화를 위한 AI 에이전트를 구축하는 과정에 대한 책인데,

책의 말미에는 오히려 인간 역할의 중요성을 당부한다.

AI는 자료를 찾고 정리하며 반복적인 업무를 처리하는 데 드는 시간을 줄여 준다. 

덕분에 사람은 더 중요한 문제에 집중할 수 있지만, 그렇다고 판단의 책임까지 AI에 맡길 수 있는 것은 아니라는 거다. 

AI가 제시한 답변이 아무리 그럴듯하더라도 그것이 지금의 상황에 적합한지, 어떤 결과를 가져올지, 무엇을 놓치고 있는지는 사람이 살펴야 한다. 

결국 AI를 잘 활용한다는 것은 더 많은 일을 AI에게 맡기는 것이 아니라, 

AI가 처리할 일과 사람이 직접 판단할 일을 구분하는 데 있다. 

AI는 일하는 방식을 바꿀 수 있지만, 무엇을 받아들이고 무엇을 거부할 것인지를 결정하는 주체는 여전히 사람이어야 한다.

◈ ◈ ◈ ◈ ◈

이 책은 한동안 집중적으로 출간되었던 프롬프트 기획이나 바이브 코딩 방식 등 생성형 AI 도구 사용법을 소개하는 책이 아니라...

개인 업무 시스템 구축에서 시작해 팀 단위의 통제 체계(하네스)와 거버넌스로 확장해 나가는 AI 업무 시스템과 비즈니스 전략에 관한 책이다.

즉, 비즈니스 영역에서의 AI 에이전트 구축 및 활용 전략을 깊게 다루는 책이라고 보면 된다.

개인적으로 이 책은 사내 AI 에이전트 도입을 고민하는 실무자와 AI 서비스 스타트업 대표자, 

그리고 조직 내 AI 전환(AX)을 주도하는 기획자들에게 추천하고 싶다.

1~3부의 개인 업무 템플릿화부터 4~5부의 팀 단위 환각 제어와 유닛 이코노믹스 설계까지...

실무에 필요한 단계별 실행 가이드를 실제 적용 사례, 직관적인 시각화 자료, 그리고 바로 활용할 수 있는 파이썬 코드 등 

참고 자료와 함께 체계적으로 제시하기 때문이다.

다만, 유의할 점은 4부와 5부에서 다루는 팀 거버넌스나 하네스 설계 부분은 조직의 규모와 문화에 따라 적용 난이도가 다를 수 있다는 것이다.

따라서 실제 현장에 적용할 때는 회사의 업종과 성장 단계, 도메인 지식 등을 종합적으로 고려하고 

검증 게이트의 개수나 통제 수준을 유연하게 조정하여 설계해야 할 것이다.

개인적으로는 책을 읽으면서,

내가 그 동안 스타트업 대표님들에게 조언했던 내용을 다시 한 번 떠올린 계기가 되었다.

내가 알고 있던 지식을 연결하고 체계화시킬 수 있었다는 것이 더 정확할 것이다.

#클로드 #업무설계 #하네스운영 #업무루틴 #한빛미디어 #직장인을위한AI업무설계의기술 #이민수 #리뷰어스클럽 #서평단 #AI #에이전트 #IT