[서평] 한권으로 끝내는 AI전환

한 권으로 끝내는 AI 전환
오형섭 지음 / 하움출판사 / 2026년 7월

- 본 서평은 출판사로부터 책을 제공받아 읽고, 주관적으로 작성한 서평입니다.

요즘 거의 모든 기업이 AI로의 전환 혹은 AX를 외치고 있지 않나 싶다. 개인적으로도 평소 AI가 정말 많은 것을 변화시키겠구나 실감하고 있지만, 업계도 그만큼 AI가 필수적이고 중요하며, 무엇보다 이 전환에서 뒤쳐지면 도태된다는 절박한 인식이 반영된 것이 아닐까 싶다. 하지만 실제 AX를 위해 벌어지는 활동 들을 보면, 이게 맞나 싶을때가 많다. 제일 흔한 시도로 챗GPT나 제미나이 등을 챗봇과 연결해 사내 챗봇을 만들고 '무엇이든 물어보세요'하며 대거 홍보하는 사례가 많은데, 사용자 입장에선 이건 그냥 외부 LLM을 갖다 이름만 바꾼것이고 실제로 물어보면 답변이 제한되어 더 불편하게 느껴진다. 심지어는 업무와 바로 연계가 어려워 불편하기까지 하다. 이와 같은 많은 사례를 보며 AI 전환을 제대로 하려면 어떻게 해야할 지 생각이 많아졌다. 그런 가운데 마침 '한권으로 끝내는 AI전환'이란 책이 출간되었다고 해 구해서 읽어보았다.

이번 책의 저자는 AI 컨설턴트로, 인공지능 전환과 데이터 기반 조직 운영 전문가라고 한다. 책은 AI 전환이라는 게 결국 새로운 도구 하나 들여놓는 일이 아니라 조직이 일하는 방식 자체를 다시 짜는 과정이라는 이야기로 문을 연다. 그러고는 업무 자동화가 지금까진 단순 보조 수단으로 활용되어 왔지만 이제는 스스로 판단하고 움직이는 에이전트로 넘어가는 흐름을 짚으며, 지금 우리 조직은 어디쯤 와 있는지 돌아보게 만든다. 이어 AI가 실제로 쓸모 있으려면 그 밑바탕이 되는 데이터를 어떻게 관리해야 하는지, LLM이라는 모델을 어떤 기준으로 골라야 하는지를 설명하고, 실제로 시스템을 어떻게 설계할 것인지 살펴본다. 마지막으로 이렇게 만든 AI 시스템을 어떻게 지속적으로 운영하고 관리할지, 그리고 한두 부서의 실험을 넘어 회사 전체로 어떻게 확산시키며 정착시킬지에 대한 논의와 함께 끝을 맺는다.

개인적으로는 RAG와 LLMOps / AgentOps 에 대한 내용이 인상깊었다. RAG는 LLM이 답변하기 전에 관련 자료를 먼저 찾아 참고하게 만드는 방식으로, 많은 기업에서도 도입되어 있다. 하지만 학습되지 않은 사내 문서나 최신 정보를 근거로 답할 수 있게 해주어야 하는데, 대체로 보안 이슈 및 LLM 이전에 작성된 문서의 최적화가 덜 된 관계로 시스템 구현은 되었지만 제대로 동작하지 않는 경우가 많은 듯해 개선이 필요하다 생각이 들었다. 한편 LLMOps / AgentOps 관련해 저자는 AI 시스템을 한 번 만들고 끝내는 것이 아니라 프롬프트와 모델, 데이터를 지속적으로 버전 관리하고 로그와 모니터링을 통해 품질과 비용을 관리해야 한다고 지적하는데 현재 많은 국내 기업이 보안을 이유로 사내 자료와 AI 결과물 공유, 관리에 소극적인 경향이 있어, 그 부분에서 결국 조직의 생산성 향상을 위해서는 이런 운영 체계로의 전환이 불가피하지 않나 싶은 생각이 들었다.
AI 도입을 고민하는 조직이라면 기술에 대한 고민보다 그 기술을 조직의 업무와 의사결정 구조 속에 어떻게 녹여낼지 많은 고민이 필요함을 알 수 있었다. AI를 조직 전체의 자산으로 만들기 위해 어떤 것들이 필요한지 알려주는 지침서로 적극 추천한다.

#한권으로끝내는AI전환 #오형섭 #하움출판사 #AI전환 #AX #RAG #LLMOps #AgentOps #생성형AI #AI거버넌스 #조직운영 #데이터전략 #LLM #에이전틱AI #AI인프라 #디지털전환 #AI생산성 #실무가이드 #경영전략 #AI리더십