이제는 AI 엔지니어링이다 - AI 엔지니어링

AI 엔지니어링 - 파운데이션 모델을 활용한 시스템 설계부터 개선까지, AI 앱 개발 원스톱 가이드
칩 후옌 지음, 변성윤 옮김 / 한빛미디어 / 2025년 9월

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬받아 작성된 서평입니다."

ChatGPT가 등장한 이후, AI는 더 이상 연구실의 실험 대상이나 특정 인들의 전유물이 아닙니다. 누구나 GPT-4, Claude, Llama 같은 파운데이션 모델을 API 하나로 사용할 수 있는 시대가 왔습니다. 하지만 "API를 호출하는 것"과 "실제로 사용자에게 가치를 주는 AI 서비스를 만드는 것" 사이에는 큰 차이가 있습니다. 칩 후옌의 『AI 엔지니어링』은 바로 그 차이를 좁혀주는 실전 가이드입니다.

전통적인 ML 엔지니어링과 무엇이 다른가?

이 책의 1장은 AI 엔지니어링이 기존 머신러닝 엔지니어링과 어떻게 다른지 명확하게 정리합니다. 전통적인 ML이 데이터 수집부터 시작한다면, AI 엔지니어링은 제품 요구사항을 먼저 이해하고 모델을 그에 맞게 적응시키는 방식입니다. 이는 단순한 순서의 변화가 아니라, 사고방식 자체의 전환입니다.

저자는 AI 엔지니어링 스택을 세 계층으로 나눕니다: 애플리케이션 개발, 모델 개발, 인프라. 이 구조를 이해하면 "내가 지금 어떤 레벨의 문제를 다루고 있는가"를 명확히 파악할 수 있습니다.

2장: 파운데이션 모델의 기초부터 탄탄하게

2장에서는 마스크드 언어 모델, 자기회귀 언어 모델, 자기지도학습 같은 핵심 개념들을 다룹니다. 단순히 "GPT가 뭐다"라는 표면적 설명이 아니라, 이런 모델들이 왜 대규모 데이터셋을 필요로 하는지, 데이터의 품질이 모델 성능에 어떻게 직접적인 영향을 미치는지를 설명합니다. 특히 실제 학습 데이터에 포함된 클릭베이트, 허위정보, 음모론 같은 문제들을 어떻게 필터링해야 하는지도 다룹니다.

3-4장: 평가의 중요성 - AI가 많이 쓰일수록 더 중요해진다

AI가 많이 사용될수록 치명적인 실패가 발생할 기회도 많아지므로, 평가의 중요성이 더욱 커진다고 저자는 강조합니다. 

3-4장에서는 오픈엔디드 모델을 평가하는 다양한 방법론을 다루는데, 특히 최근 급성장하고 있는 "AI-as-a-judge" 접근법을 상세히 설명합니다.

단순히 정확도 숫자 하나로 모델을 평가하기보다 생성형 AI의 출력물은 정답이 여러 개일 수 있고, 창의성, 유용성, 안전성 등 다양한 측면을 고려해야 합니다. 이 장은 여러분이 만든 AI 챗봇이 "정말 잘 작동하는가"를 어떻게 판단할지 구체적인 방법을 제시합니다.

5-10장: 실전 기술의 모든 것

책의 후반부는 실제 AI 애플리케이션을 만드는 데 필요한 모든 기술을 단계별로 다룹니다.

5장 프롬프트 엔지니어링은 단순한 프롬프트 작성 요령만을 알려주기보다 시스템 프롬프트, 사용자 프롬프트, 도구 프롬프트의 우선순위와 역할을 설명하고, 컨텍스트 길이 제한(1천~100만 토큰) 안에서 어떻게 효과적으로 정보를 배치할지를 다룹니다.

6장 RAG와 에이전트는 여러분의 프로젝트에 직접적으로 도움이 될 부분입니다. 

RAG(검색 증강 생성)는 외부 데이터를 모델에 연결하는 핵심 기술로, 회사 작업 데이터를 챗봇에 연결하는 여러분의 업무와 정확히 일치합니다. 저자는 단순히 "RAG를 쓰세요"가 아니라, 청킹 전략, 임베딩 선택, 검색 최적화까지 실무에서 마주치는 구체적인 문제들을 다룹니다.

7장 파인튜닝에서는 LoRA 같은 효율적인 파인튜닝 기법을 설명하고, 언제 프롬프트 엔지니어링으로 충분하고 언제 파인튜닝이 필요한지 판단 기준을 제시합니다.

8장 데이터셋 엔지니어링은 합성 데이터 생성, 데이터 증강, 데이터 품질 관리 등을 다루며, 제한된 데이터로도 좋은 성능을 내는 방법을 알려줍니다.

9장 추론 최적화는 레이턴시와 비용이라는 두 가지 병목을 해결합니다. 양자화, 증류, 병렬화 같은 기법들을 통해 M1 맥북에어 같은 제한된 환경에서도 효율적으로 모델을 실행하는 방법을 배울 수 있습니다.

10장 AI 엔지니어링 아키텍처는 전체 시스템 구조와 사용자 피드백 수집을 다루며, 프로덕션 환경에서 AI 서비스를 어떻게 설계하고 운영할지를 보여줍니다.

이 책은 어떤 사람들에게 추천할 수 있을까요

1. 개발 인턴으로 일하는 여러분처럼, 실전 프로젝트를 진행 중인 분들

책의 구조가 실제 프로젝트 흐름과 정확히 일치합니다. 요구사항 분석 → 모델 선택 → RAG 구축 → 평가 → 최적화 순서로 읽으면, 여러분의 5개월 인턴 프로젝트를 체계적으로 완성할 수 있습니다.

2. API 호출은 할 줄 아는데, 그 다음이 막막한 개발자들

"OpenAI API를 호출했는데, 이제 뭘 해야 하지?"라는 질문에 대한 완벽한 답을 제공합니다.

3. AI 스타트업 팀원들

저자가 NVIDIA, Snorkel AI, Netflix에서 일하고 스타트업을 창업한 경험을 바탕으로, 제한된 리소스로 최대 성과를 내는 실용적인 전략들을 공유합니다.

4. 기술 공부를 이제 막 시작한 학생들

파이썬만 조금 할 줄 안다면 충분합니다. 책은 기초 개념부터 차근차근 설명하며, 복잡한 수학보다는 실용적인 구현에 초점을 맞춥니다.

개인적으로 생각하는 이 책의 특별한 점은

이 책은 O'Reilly 플랫폼에서 출시 이후 가장 많이 읽힌 책이며, 중국어, 프랑스어, 일본어, 한국어, 폴란드어, 러시아어로 번역되고 있습니다. 이는 단순한 인기가 아니라, 전 세계 AI 엔지니어들이 이 책의 가치를 인정한다는 의미입니다.

저자는 1,200개 이상의 레퍼런스와 1,000개 이상의 GitHub 저장소를 참고했으며, 각 장마다 실제 케이스 스터디를 제공합니다. 이는 튜토리얼 책이 아니라 프레임워크 책입니다. "이렇게 코딩하세요"가 아니라 "이런 질문을 던지며 최선의 해결책을 찾으세요"를 알려줍니다.

AI 기술은 빠르게 변화하지만, 좋은 AI 애플리케이션을 만드는 원칙은 변하지 않습니다. 『AI 엔지니어링』은 유행을 좇는 책이 아니라, AI 엔지니어로서 갖춰야 할 본질적인 사고방식과 체계적인 접근법을 알려주는 책입니다. 모든 AI 개발자 지망생들에게 이 책은 최고의 투자가 될 것입니다.