-
-
LLM 서비스 설계와 최적화 - 비용은 낮추고 성능은 극대화하는 AI 서비스 구축과 운영 가이드
슈레야스 수브라마니암 지음, 김현준.박은주 옮김 / 한빛미디어 / 2025년 4월
평점 :
한빛미디어 서평단 <나는 리뷰어다> 활동을 위해서
책을 협찬받아 작성된 서평입니다.
📚 책 소개
오늘 소개할 책은 ⌜LLM 서비스 설계와 최적화 (슈레야스 수브라마니암)⌟이다.
📍 책 선택 이유
부스트캠프에서 OpenAI API를 활용한 기능을 개발하는 부분을 맡아서 진행한 적이 있었다. 프롬프트 최적화를 진행하느라 프롬프트를 작성하고 API를 호출한 후 결과를 보는 작업을 반복하고 최종 프롬프트로 원하는 작업을 진행하기 위해 많은 양의 결과를 한 번에 요청했다가 중간에 에러가 발생하여 처음부터 다시 하는 등의 상황이 발생하여 많은 시간을 들이고 API 비용으로 많은 돈을 낭비하게 된 경험이 있다. LLM을 활용할 수 밖에 없는 요즘, 비용 최적화와 성능 최적화를 위한 설계 방법을 익힐 필요가 있음을 절실하게 느끼게 되었고 그 부분에 대한 내용이 담긴 이 책을 선택하게 되었다.
👏🏻 책의 특징 및 차별점
[직접 시행착오를 겪지 않고 체득할 수 있는 실전 전략]
LLM 서비스 설계와 최적화 관련 테크닉은 보통 직접 부딪혀보고 실패를 반복하면서 겨우 익히게 되는 경우가 많다. 특히 비용과 성능 사이에서 어떤 선택을 해야 할지, 어디서 병목이 생기는지를 파악하는 건 말처럼 쉽지 않다. 그런데 이 책은 그런 시행착오를 먼저 겪은 사람들이 정리한 경험과 전략을 하나로 모아 전달해 주는 느낌이라 시행착오 없이도 중요한 감각을 익힐 수 있었다. 나처럼 실제로 많은 시간과 많은 API 비용을 써가며 실수를 했던 사람에겐 특히 더 와닿았고 시행착오를 겪기 전에 이 책을 읽었으면 좋았겠다는 생각을 했다.
[비용 최적화 & 성능 극대화를 위한 단계별 실전 방법 안내서]
튜닝부터 추론, 모델 선택, 인프라 구성, 배포까지 LLM 기반 서비스 개발 과정 전체를 하나의 흐름으로 잘 정리해준다. 각 단계에서 고민해야 할 핵심 포인트와 판단 기준이 구체적으로 제시되어 있어서, 전체적인 구조를 잡는 데 큰 도움이 됐다. 예를 들어, 어떤 상황에서 프롬프트만으로 해결할 수 있는지, 언제 파인튜닝을 고려해야 하는지 같은 실무적 기준들이 명확히 제시되어 있어 실제 프로젝트에 곧바로 적용할 수 있었다. 단순히 이론을 설명하는 게 아니라 실무 상황을 상정하고 정리된 안내서라서 더 실감 나게 읽혔다.
👤 추천 독자
1. LLM 기반 서비스를 설계하고 최적화하는 업무 담당자
2. LLM API 비용으로 문제를 겪고 있는 사람
3. LLM 성능 최대화를 위한 전략을 공부하고 싶은 사람