LLM을 활용해서 서비스를 만들다 보면 처음에는 단순히 API를 호출하는 정도로 시작하게 된다.

사용자 질문
→ LLM API 호출
→ 답변 반환

처음에는 이 정도로도 충분해 보인다.

하지만 기능이 조금만 복잡해져도 흐름이 금방 길어진다.

사용자 질문
→ 프롬프트 구성
→ 관련 문서 검색
→ LLM 호출
→ 결과 파싱
→ Tool 호출
→ 다시 LLM 호출
→ 최종 답변 생성

이런 흐름을 매번 직접 코드로 관리하기는 꽤 번거롭다.

여기서 자주 등장하는 도구가 LangChain이고,

이 흐름을 관찰하고 평가하기 위해 사용하는 도구가 LangSmith다.

LangChain이란?

LangChain은 LLM 기반 애플리케이션을 만들기 위한 개발 프레임워크다.

쉽게 말하면, LLM 앱에서 자주 필요한 기능들을 연결하기 쉽게 도와주는 도구라고 볼 수 있다.

예를 들면 이런 것들이다.

프롬프트 관리
LLM 호출
RAG 구성
Tool 호출
Agent 구성
메모리 관리
출력 파싱
체인 구성

즉, 단순히 “LLM API 한 번 호출하기”를 넘어서,

여러 단계를 가진 LLM 앱을 만들 때 유용하다.

LangChain 공식 문서도 LangChain을 LLM과 관련 도구를 연결해 애플리케이션과 에이전트를 만들 수 있게 해주는 프레임워크로 설명한다.

LangChain이 필요한 이유

LLM 앱은 생각보다 단순하지 않다.