-
-
LLM 서비스 설계와 최적화 - 비용은 낮추고 성능은 극대화하는 AI 서비스 구축과 운영 가이드
슈레야스 수브라마니암 지음, 김현준.박은주 옮김 / 한빛미디어 / 2025년 4월
평점 :
한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.
1) 책 소개
LLM을 활용한 서비스를 개발하고 배포하는 과정에서 비용 문제는 피할 수 없는 고민이다.
비용을 낮추려면 원하는 만큼의 성능을 내기 어렵고, 최고 성능 모델을 사용하려면 최적화와 비용 문제 등 여러 난관에 부딪히게 되었다.
이런 고민을 하던 중 [LLM 서비스 설계와 최적화]라는 책을 만나게 되어 매우 반가웠다.
이 책은 LLM을 활용한 실용적인 서비스 구축부터 비용 효율성과 성능 최적화까지, 전체 과정을 체계적으로 다루는 실무 지침서이다.
단순한 이론 설명이 아니라 실제 서비스 개발에서 마주치는 구체적인 문제들과 그 해결 방안을 담고 있어서, 나와 같은 고민을 하는 분들에게 실질적인 도움이 될 것 같다.
2) 책 구성과 장점
모델 선택 가이드에서는 단순히 "이 모델이 좋다"는 식이 아니라, 실제로 서비스를 만들 때 고려해야 할 현실적인 요소들을 꼼꼼히 다루고 있어서 도움이 되었다. 각 모델의 장단점을 비용, 성능, 유지보수 관점에서 비교해주니 선택의 기준이 명확해졌다.
특히 프롬프트 엔지니어링 부분은 생각보다 깊이가 있었다. 사람들이 AI를 제대로 활용하지 못하는 이유가 바로 "질문하는 법을 몰라서"라고 생각하는데, 실제로는 질문 하나 제대로 만드는 것도 상당한 기술이 필요하다는 것을 깨달을 수 있다.
파인튜닝 관련 내용도 언제 파인튜닝이 필요한지, 또 언제는 굳이 하지 않아도 되는지에 대한 판단 기준을 제시해주어 실무 적용에 도움이 될 것 같다.
가장 도움이 되었던 부분은 배포와 최적화 관련 내용이다. 모델을 만드는 것도 중요하지만 실제로 서비스로 운영할 때의 비용과 성능 문제는 또 다른 차원의 고민이라는 것을 다시 한 번 실감했다. 저자가 실제 경험을 바탕으로 한 조언들이 곳곳에 녹아있어서 이론만으로는 알 수 없는 실무적인 통찰들을 얻을 수 있었다.
전체적으로 LLM 서비스 개발이라는, 자칫 복잡하고 어렵게만 느껴질 수 있는 주제를 차근차근 풀어내어 접근 가능하게 만들어준 점이 이 책의 가장 큰 장점이다.
3) 독서 후기
서두에서 언급했던 비용과 성능 사이의 딜레마에 대한 답을 찾는 과정에서 실마리를 찾은 기분이라 개인적으로 많은 도움이 되었다.
다만 LLM 입문자나 초보자에게는 추천하기 어려울 것 같다. 기본적으로 LLM에 대해 아무것도 모르고 "서비스를 한번 만들어볼까?" 하고 뛰어들기에는 이 책이 너무 어렵게 느껴질 것이다.
또한 책 자체가 다소 딱딱하게 구성되어 있어서 처음부터 끝까지 쭉 읽기는 조금 힘들었다.
그래서 자신이 서비스 설계 중 한계를 느낄 때 필요한 부분을 발췌해서 읽으면 더욱 효과적일 것 같다. 일종의 레퍼런스 가이드로 활용하면 좋을 것이라 생각된다.
4) 추천 독자
- LLM 기술에 대한 심층적인 이해와 실무 적용 능력을 기르고자 하는 분
- LLM 서비스 기획 및 개발자