랭체인으로 구현하는 AI 서비스 & 에이전트 개발 입문

랭체인으로 구현하는 AI 서비스 & 에이전트 개발 입문 - LLM API, RAG, 자율형 에이전트 구현과 배포까지
ML_Bear 지음, 손민규 옮김, 장하렴 감수 / 영진.com(영진닷컴) / 2026년 4월

* 출판사에서 보내준 책을 읽고 서평을 썼습니다.

2022년 말 챗GPT 가 처음 등장하였을때 우리가 평상시에 쓰는 말로 AI 와 대화할 수 있어서 큰 충격을 받았습니다. 마치 SF 영화나 소설에 등장하는 장면처럼 느껴졌는데 처음 기대와는 달리 사용해 보면서 대부분 잘하지만 전혀 틀린 내용을 알려주거나 간단한 사칙연산도 틀리는 경우가 많았습니다. 이제 겨우 3년 지났지만 이제 AI 는 엄청나게 빠른 속도로 발전하면서 이제 우리 생활 깊숙이 스며들었습니다. 키워드를 입력하고 페이지를 하나하나 클릭해서 원하는 정보를 찾아야 했던 구글이나 네이버 같은 검색 사이트와 달리 질문을 입력하면 바로 답변을 만들어 주어서 무척 편리하네요.

이렇게 AI 를 편하게 쓸 수 있게 되었는데 어떤 기술로 동작하는지도 궁금하고 나에게 딱 맞는 AI 를 스스로 만들어보고 싶다는 생각도 들 것입니다. '랭체인으로 구현하는 AI 서비스 & 에이전트 개발 입문' 에서는 랭체인을 이용해 AI 서비스를 개발하는 방법에 대해 자세히 설명하고 있습니다.

어떻게 동작하는지 가장 빨리 파악하기 위해서는 간단한 서비스를 직접 만들어 보면서 경험하는 것이 중요합니다. 이 책에서는 채팅 서비스를 만들면서 랭체인을 어떻게 쓰는지 단계적으로 나와있네요. 거대언어모델(LLM)이 없을 때에도 챗봇이 있었는데 내가 물어보는 질문에 대해 동문서답을 하는 경우가 많아서 쓰면 쓸수록 화가(?) 났습니다. LLM 을 이용한 챗봇은 문장의 의미와 맥락을 파악하는데 여기서 중요할 역할을 하는 것이 랭체인이네요. 랭체인을 설치하는 방법에서부터 구조 설계 후 실제 개발 코드까지 나와있어서 따라가면서 이해하기 편했습니다.

챗GPT 초기에는 오늘 날씨나 현재 대통령이 누구인지 물어보면 언제까지 데이터로 학습하였기 때문에 모른다고 하는 경우가 많았습니다. 이제는 웹에서 검색하고 있다는 표시가 나온 다음에 잠시 후 바로 결과를 보여줍니다. 우리가 검색할때 페이지를 하나씩 클릭하면서 원하는 정보를 찾는 것처럼 이를 AI 에이전트로 만들면 이러한 과정을 전부 자동으로 대신하고 결과만 추려 보여주기 때문에 별도의 작업이 필요하지 않네요. LLM 이 내부 학습 데이터로 충분한지 아니면 외부 서비스를 이용해야 하는지, 외부 서비스를 이용한다면 어디가 맞는지 등을 학습시켰기 때문에 가능하다고 합니다. Function Calling 부분에서는 이론적인 부분과 함께 실제 구성 방법 등을 알 수 있었네요.

이렇게 만든 서비스는 나 혼자 이용할 수도 있지만 경우에 따라 다른 사람도 쓸 수 있도록 공개해야 할 수도 있습니다. 서버에 배포하기 위해서는 아마존 웹서비스나 네이버 클라우드 같은 서비스를 이용해야 하지만 서버 비용에 대한 부담도 있고 서버를 관리하는게 번거롭습니다. 파이썬으로 간단한 웹페이지를 만들때 Streamlit 을 이용하는 경우가 많은데 이를 편하게 배포할 수 있는 사이트도 있네요. 책을 읽어보니 어렵지 않아서 한번 AI 에이전트를 만든 다음에 이용해봐야 겠습니다.

AI 는 무서울 정도로 빠르게 발전하면서 기존에 사람이 하던 일들을 빠르게 대체해 나가고 있습니다. 챗GPT 나 Gemini 등 외부 서비스를 바로 이용할 수도 있지만 자신에게 최적화된 AI 에이전트를 만든다면 더 편하게 이용할 수 있을텐데 이에 필요한 기반 기술과 예제를 볼 수 있어서 도움이 되었습니다.