LLM 프로덕션 엔지니어링

LLM 프로덕션 엔지니어링 - 프롬프트, RAG, 파인튜닝으로 설계하는 신뢰성 높은 생성형 AI 시스템 구축 전략
루이-프랑수아 부샤르.루이 피터스 지음, 김태헌 옮김 / 제이펍 / 2025년 9월

<LLM 프로덕션 엔지니어링> 루이-프랑수아 부샤르, 루이 피터스, 김태헌 역, 제이펍

* 출판사 협찬도서를 받아 서평단 자격으로 작성한 주관적인 리뷰입니다.

LLM기반 에이전트 프로그래밍에 대해 체계적이고 심도 있는 책이 나왔다.
최근 여러 책들이 난립하고 있지만 뭔가 체계적이거나 내용적으로 충실하게 LLM 에이전트 프로그래밍을 소개하는 책을 발견하기는 쉽지 않았다.

물론 개인적으로 좋아하는 책이 있긴 하지만 이 책은 기존에 내가 선호했던 LLM 에이전트 프로그래밍 책과 차별되는 점이 있어 좋았다.

저자들은 towards AI라는 인공지는 교육 컨텐츠 회사의 공동 창립자로 해당 회사는 LLM 에이전트에 대한 교육 코스웍을 제공하는 사업을 하고 있다고 소개하고 있어. 책에서 소개한 해당 회사의 홈페이지에 들어가니 84개의 코스에 40시간이면 수강할 수 있다는 소개 영상을 볼 수 있었다.

아마도 유튜브 영상 강의도 같이 제공하는 것 같은데 중요한 것은 저자들이 설계한 커리큘럼에 맞게 책이 쓰여졌다는 사실이다.

그만큼 내용의 진도에 대한 단계적인 설정도 그렇고 매 챕터마다 소개하고 있는 실습 예제들은 따라하기 쉬우면서도 챕터의 내용을 충실하게 반영하고 있어 읽으면서도 교재를 읽고 있다는 느낌을 받았는데 전체 책의 내용을 훑고 나서 저자들의 정보를 접하니 이 책이 왜 체계적이라고 느껴졌는지 잘 알 수 있었다.

책은 LLM읠 기본적인 개념 및 현재의 활용 환경에 대한 소개로 시작해서 LLM을 활용하기 위한 필수적인 프롬프트 엔지니어링을 알려주고 중요한 RAG 시스템 구성방법에 대해 본격적으로 설명에 들어간다.

RAG라는 개념이 무엇이고 파이프라인 구성이 어떻게 되는지 RAG를 구성하기 위한 핵심도구인 LangChain과 LlamaIndex에 대해 소개하면서 두 개의 도구외에 많이 쓰이는 OpenAI API까지 전박적으로 도구적인 특성이 무엇인지 잘 정리해 두었다.

전반적으로는 랭체인에 대한 활용이 높지만 라마인덱스가 어떤 상황에서 사용되는지도 적절하게 사례로 소개하고 있어 두 가지 도구 모두 활용가능하도록 소개하고 있고 마지막으로 LLM에 대한 파인튜닝과 배포에 대한 내용까지 개발 전과정을 모두 살펴볼 수 있게 소개하는 점이 마음에 들었다.

특히 고급 RAG에서는 RAG의 지표 및 평가에 대한 부분을 다루면서 검증도구를 활용해서 PoC 단계를 지나 제품화 하기 위한 부분까지 꼼꼼하게 챙겨서 알려주고 있다.

저자들이 이야기하는 것처럼 기초부터 어드벤스까지 방대한 분량의 내용을 다양한 실습을 통해 세세히 잘 보여주고 있어 마치 저자들의 강의를 직접 듣는 것 같은 기분이 들게 하는 좋은 책이었다고 생각한다.

철학 최대한 쉽게 설명해 드립니다

철학, 최대한 쉽게 설명해 드립니다 ㅣ 누구나 교양 시리즈 6
페르난도 사바테르 지음, 유혜경 옮김 / 이화북스 / 2025년 8월

<철학 : 최대한 쉽게 설명해 드립니다> 페르난도 사바테르, 유혜경, 이화북스

* 출판사 협찬도서를 받아 서평단 자격으로 작성한 주관적인 리뷰입니다.

어느 노회한 스페인 철학자가 쓴 이 책은 정말 제목 그대로 취대한 쉽게 설명해주는 철학의 역사이다.

정확히는 서양철학사이겠지만 우야든 동서양을 모두 넘나들며 설명한다면 듣는 사람도 이애가 쉽지 않을 것이고 철학이라고는 하나 서로의 시작점과 생각의 결이 워낙 다르다는 것도 한대 묶을 수 없는 부분이라고 생각한다.

이 책은 개인적인 생각으로는 중고생 정도가 읽어도 쉽게 이해가 가능한 책이라는 생각이 들었고 처음부터 독자를 청소년으로 했다고 생각이 드는 것이 책은 시대별로 중심 철학자들을 소개하며 철학의 변천사를 고대 그리스부터 기독교 철학과 근대와 현대의 실존주의 까지 수많은 철학자들에 대해 막힘없고 연관관계를 가지고 설명하고 있다.

무엇보다 이런 철학자들과 그 시대를 설명하기 위해 '알바'와 '네모'라는 십대 중반의 인물들을 등장시켜 그들의 대화를 통해 그 시기 철학자들에 대한 이해를 돕고 있는데 서너 페이지의 짧은 대화지만 어찌 그리 핵심을 잘 표현해 주는지 감탄하게 된다.

아마도 내 생각에는 저자 본인이 느끼는 그 시대 철학자들에 대한 정리를 개성이 강한 두 인물을 통해 일상의 우리와 대비해보게 만들었다고 생각한다.

그만큼 저자의 고민이 녹아 들어있는 책이었고 쉽게 쑥쑥 잘 읽히는 책이면서도 서양철학사를 한눈에 훑어보기 적당한 책이라는 생각이 들었다.

삽화로 보기 좋게 그려진 철학자 하나하나의 깊이 있는 공부는 따로 해야겠지만 이 책 한권이면 어디가서 서양철학사에 대해 빠지지 않고 대화가 가능할 것 같은 지식의 포만감이 느껴지는 책이라 기분좋게 책장을 덮을 수 있었다.

바이브 코딩 혁명이 온다

바이브 코딩 혁명이 온다 - AI 에이전트와 제로 코드 소사이어티의 탄생
김재필 지음 / 한즈미디어(한스미디어) / 2025년 8월

<바이브 코딩 혁명이 온다> 김재필, 한스미디어

* 출판사 협찬도서를 받아 서평단 자격으로 작성한 주관적인 리뷰입니다.

생성형AI의 대표격인 쳇GPT가 등장한 이후 모두가 체감할 수 있는 지는 모르겠지만 IT업계는 매일매일이 변혁이고 혁명인 듯한 상황에 빠져있다.

그 중에서도 IT업계의 산업지형을 바꾸는 큰 요인 중에 하나가 바로 바이브 코딩이라는 개념일 것 같다.

바이브 코딩이라는 용어 자체는 올해 2월 안드레이 카르파티라는 AI 연구자에 의해 소개 되었지만 이미 많은 사람들이 생성형 AI를 이용해 코딩이 아닌 프롬프트에서 주고 받는 대화로 프로그램을 만들어 내고 있는 상황이었다.

'플라이 피터'라는 비행 시뮬레이터 게임으로 한달에 1억 매출을 올린 인디 개발자도 등장하고 근무하는 회사에서 생성형 AI에게 질문한 코드로 프로그램하는 주니어 개발자의 모습이 어색함이 없어지고 있다.

그야말로 혁명이다.

컴퓨터 구조와 프로그램의 기초를 안다면 누구나 자신의 아이디어를 컴퓨터 프로그램으로 만들어 낼 수 있는 환경이 주어 진 것이다.

이 책은 그런 바이브 코딩에 대해 소개하는 책으로 책의 서두에 간단하게나마 코딩의 역사를 소개한 점이 특히 맘에 들었다. 그리고 그 끝에 좋은 코드가 무엇인지 설명하고 있어 바이브 코딩으로 코드를 만들어 낸다고 하더라도 우리가 얻어야 할 것이 무엇인지 잊지 않게 설명해주고 있다.

기본적으로 바이브 코딩에 대한 내용을 다루고 있지만 바이브 코딩을 가능하게 하는 AI 에이전트와 에이전틱 AI에 대한 소개도 깊이 있게 다루고 있다는 점도 마음에 들었고 무엇보다 현재 바이브 코딩을 서비스하는 여러 서비스들에 대해 초급, 중급, 고급으로 나누어 개별적인 사용법과 특징에 대해 꼼꼼하게 설명하고 있어 바이브 코딩을 입문하고 싶어하는 누구라도 도움이 될 것 같다.

현재의 바이브 코딩을 가능하게 하는 기술은 결국 생성형 AI 기술이다. 최근 출시된 쳇GPT 5에 대한 심도 있는 평가는 그런면에서 마지막 책 출간 직전까지 있었을 저자의 고민과 노력이 느껴지는 대목이었다.

바이브 코딩을 다루는 책이지만 최신 에이전트 AI, 에이전틱 AI까지 총 망라한 책이라서 최신 IT기술 트랜드에 관심있는 독자라면 일독을 권하고 싶은 책이다.

서경석의 한국사 한 권

서경석의 한국사 한 권 - 한 줄 코드로 재밌게 읽고 평생 기억하는
서경석 지음, 염명훈 감수 / 창비교육 / 2025년 7월

서경석의 한국사 한 권


나에게 역사는 어렵고 재미없는 교과목이라는 생각이 컸다.
나이가 들고 시간이 지남에 따라 세상의 여러 일들이 역사와 무관하지 않음을 알게 되었다.
내 주변에서 일어나는 일들이 역사와 깊게 연결되어 있다는 사실을 깨달은 요즘의 나는 역사에 흥미를 가지게 되었다.
그렇긴 해도 재미없고 지루하기만 한 역사에 대한 기억으로 역사에 다가가기란 쉽지 않다.
학교에서 배웠던 역사와 이런저런 TV라는 매체를 통해 들여다본 역사의 이야기들이 내 머릿속에서 정리되지 않은 채 뒤죽박죽 날아다닌다.
역사를 제대로 알고 싶은 나에게 이 책이 손에 들어왔다.
처음 서경석의 한국사 한 권은 독도하면 떠오르는 그분이라고 생각했다.
직접 손에 든 책 <서경석의 한국사 한 권>은 TV 속에서 봐왔던 코미디언 서경석이었다.
아뿔싸! 어쨌든 한 줄 코드로 재미있게 읽고 평생 기억하는 서경석의 한국사 한 권은 어떻게 내게 한국사를 들려줄지 기대하면 책을 펼쳤다.
선사시대를 시작으로 고조선과 철기시대, 삼국과 가야, 남북국과 후삼국 그리고 고려와 조선, 근대를 거쳐 현대까지의 한국사를 다루고 있는 책은 간단하지만 한국사의 핵심을 재미있게 풀어내고 있다.
어렵지도 않으면서도 그동안 헷갈렸던 역사의 가닥들이 탄탄하게 그려진다.
역사 속 사건들의 관계를 정확하게 그려내며 그동안 내가 잘 이해하지 못했던 부분들도 명확히 알게 되었다.
역사의 큰 사건들과 기억해야 하는 것들을 한 줄 코드라는 코너를 통해 기억하기 쉽도록 하는 저자의 유머는 무릎을 탁 치게 만든다.
학교에서 배웠던 이제는 가물거리는 한국사의 이야기가 저자인 서경석이 풀어내는 이야기를 읽으며 새롭게 정리된다.
이제 곧 한국사를 접하게 될 아이에게 선물로 주면 딱일 것 같다.
아이가 역사가 어렵지 않고 재미있는 것임을 그리고 한국사에 대한 길잡이가 되어줄 책이라 생각된다.

팔란티어 인사이트

팔란티어 인사이트 - 제2의 테슬라를 넘어 기업 자율 주행 OS를 만들다
안유석 지음 / 처음북스 / 2025년 9월

<팔란티어 인사이트> 안유식, 처음북스

* 출판사 협찬도서를 받아 서평단 자격으로 작성한 주관적인 리뷰입니다.


한 기업이 특정 산업을 대표하는 경우가 종종 있다.

최근 IT업계에서 인공지능과 더불어 화두가 된 기업은 단연 팔란티어일 것 같다.

사실 유명세에 비하여 팔란티어는 알려진 내용이 많지 않다.

오히려 미국방성과 CIA를 통해 두각을 나타냈다는 사실로도 그 신비로움은 당연하게 다가온다. 팔란티어를 이끄는 수식어는 다양하다. 데이터업계의 테슬라라는 말도 있는데 일런 머스크와 같은 유명한 페이팔 마피아가 시작한 기업이다보니 테슬라와 비교하는 경우가 많은 것 같다.

하여간 테슬라와 팔란티어는 닮은 면이 있다.

이 책에서도 강조되고 있듯이 기존의 패러다임을 뚫고 새로운 가치정립을 목표로 하는 것도 비슷하지만 그런 목표가 인간 세상에 대한 새로운 해석이라는 점도 닮아 있다고 느껴졌다.

팔란티어는 데이터를 기준으로 세상을 해석하는 회사이다. 인공지능 기술의 발달로 더 주목받고 있는 것도 사실이지만 궁극적으로 팔란티어를 데이터를 잘 아는 회사이다.

현재 인공지능기술과 관련된 응용연구를 하고 있는 입장에서 보면 인공지능 기술의 발전은 현실세계를 데이터로 표현하는 것에 대한 요구가 더 높아지고 있다. 과거 IT기술 발전으로 DX와 같은 디지털 전환과 빅데이터로 대변되는 기술들이 데이터를 외쳤지만 사실 데이터를 쌓아서 무엇을 해야할지 막연할 때가 많았다.

그런데 인공지능 기술의 발달은 그런 데이터가 실제로 활용 가능하다는 점을 보여주고 있고 팔란티어는 그런 데이터를 다루는 것에 있어서 전세계에서 가장 독보적인 인사이트를 가진 회사로 알려져 있다.

그래서 팔란티어하면 처음 등장하는 단어 중 하나가 온톨로지이다. 온톨로지는 데이터로 세상을 바라보려는 노력의 기반 기술로 도메인 지식을 기반으로 데이터에 대한 개념과 관계를 명시적으로 정의하려는 기술이다.

그런데 막상 온톨로지를 구현하려고 하면 인간의 인지력과 컴퓨터의 인지력에 대한 차이때문에 온톨로지를 효과적으로 구성하는 것이 쉬운 일은 아니라고 알려져 있다.

팔란티어는 그 어려움을 현실화 한 기업이다. 데이터가 유기적인 관계를 가지도록 엮기만 해도 현재의 인공지능 기술은 자연스럽게 그 데이터에 대한 다양한 추론이 가능할 정도로 기술이 성숙되어 있다보니 팔란티어의 기술은 인공지능 시대와 맞물리면서 자연스럽게 그 명성을 더해가고 있다.

지금의 팔란티어는 누구도 쉽게 따라하기 힘든 넘사벽이 되었지만 초기 국방부에 입성하기까지 레이시온이라는 거대 방산업체와 경쟁하며 힘겹게 입성했다는 사실은 새롭게 알게된 사실이었지만 오히려 팔란티어 같은 작은 기업이 거대 방산업체와 경쟁이 가능한 미국의 시스템에 대한 부러움이 들기도 했다.

관련 기술을 연구개발하는 입장에서 인공지능 기술이 AGI라고 불리는 범용 인공지능 기술로 인정받는 순간을 '특이점'이라고 말들 하지만 그 단계가 아니라도 이미 산업적인 면에서는 '특이점'이 발생하고 있다고 생각한다.

그렇기때문에 팔란티어의 존재는 산업전반을 이끌어갈 선도기업으로서 우리가 나아갈 방향을 알려주는 모습이 될 것이라고 생각하며 팔란티어의 인사이트를 이해하는 것은 우리가 산업에서 뒤쳐지지 않는 중요한 요소가 되리라 믿는다.