-
-
[전자책] AI 시스템 설계 - 불확실한 AI를 운영 가능한 시스템으로 만드는 구조와 원칙
이한울 지음 / 한빛미디어 / 2026년 9월
평점 :
"한빛미디어 서평단<나는 리뷰어다>
활동을 위해서 책을 협찬받아 작성된 서평입니다."
■ 어떤 책인가
부제가 “불확실한 AI를
운영 가능한 시스템으로 만드는 구조와 원칙”이다. 작가는
AI 시스템의 평가와 안전성, 신뢰할 수 있는 운영 구조를
연구하고 이를 실제 제품으로 구현해 온 연구자이자 엔지니어라고 소개되고 있다.
책은 처음에 AI는 왜 데모에서는 성공하고 운영에서는 실패하는가를
실제 현장에서 자주 접할 법한 에피소드로 시작한다. 이를 통해 AI 시스템이
운영환경에서 안정적이지 못 하게 되는 이유를 알기 쉽게 드러낸다. 왜일까? 데모에서는 AI 모델이 결과를 잘 도출하지 못 하는 질문은 제외하고, 선택된 질문도 여러번의 프롬프트 수정으로 최적화된 결과를 만들어 낸다. 그렇게
되게끔 팀원들의 즉, 인간의 통제가 개입한다는 것이다. 그런데, 운영환경에서는 사용자가 데모에서 생각하지 않았던 방식으로 질문하고 시스템은 엉뚱한 답을 반환하는 경우를 종종
마주하게 된다. 데모 때 무심코 적용되었던 인위적 통제 장치가 운영환경에서는 사라진다. 그리고, 애꿎은 AI 모델만
탓하기 쉬운데 진단이 잘못된 것이고, 구조적으로 동작할 수 있도록 시스템 설계 차원에서 준비가 필요하다는
설명이다. 아울러 LLM모델이 비결정적이라는 것을 인정하고
그에 맞는 대응책도 필요하다고 한다.
이후 개발방식에 있어서도 TDD(Test Driven Development)가
AI 모델 시스템에는 적합하지 않고, 평가 기준을 먼저 두는
EDD(Evaluation Driven Development)를 같이 사용해야 한다.
LLM 호출에서 RAG(Retrieval
Augmented Generation), 에이전트까지, 운영 가능한 AI 구조를 만들기 위해 소프트웨어공학 측면에서 한 덩어리인 시스템을 파이프라인 처리 구조로 바라보고, 입력 처리기, 프롬프트 구성기,
LLM호출기, 출력 처리기로 구분해서 각 단계별로 실패할 수 있는 지점을 찾을 수 있도록
한다. 그리고, 파이프라인을 아우르는 상태 관리자와 오류처리기를
둔다.
신뢰할 수 있는 AI 시스템의 설계 원칙으로 좋은 답변을 만드는 AI와 신뢰할 수 있는 AI 시스템의 차이를 드러내고, AI 위험을 통제 가능한 문제로 바꿔서 해결의 실마리를 마련하고, 운영을
닮은 평가 데이터 마련, 가드레일과 정책을 통한 AI 행동의
통제 등의 내용 등이 이어진다.
■ 책 내용 이해에 도움을 주는 장치들
- 박스로 용어, 부가
설명 등을 추가로 제공한다.
- 필요에 따라 의사코드(Pseudo
Code)를 제시한다. 시스템 설계자, 개발자
등에게는 코드 몇 줄이 설명하려는 내용을 직접적으로 더 잘 전달할 수 있다.
- 내용의 신뢰성 측면에서 각주로 여러 외국 참고 문헌들을 표기하고
있다.
■ 책의 난이도와 어떤 사람들이 보면 좋을까
나는 AI 관련해서 LLM, RAG
는 어느 정도 작동 원리까지는 알고 있다. 하네스 엔지니어링, 에이전틱 AI 등에 대해서는 용어 정도만 들어본 수준이다. 저자가 논리 정연하게 쉽게 설명하려는 것을 느끼면서도 개인적으론 페이지가 쉽게 넘어가지는 않았던 것 같다. 사실 절반 정도밖에 읽지 못 한 상태여서 리뷰 이후에 더 읽어 볼 계획이다.
AI 시스템을 시스템 설계와 소프트웨어 공학적인 측면에서 바라볼 수
있도록 시야를 넓혀 준 책이다. 사내 Wiki 등 AI 시스템을 구축하고 운영하려는 조직에서 이 책을 미리 접해서 내용을 참고하고 적용한다면 운영 환경에서 보다
안정적이고 신뢰할 수 있는 AI 시스템이라는 좋은 결과를 얻는데 더 가까워질 거라고 생각한다.