출처: 원본 링크
개인 LLM API를 위한 LangChain 호환 래퍼 (custom_langchain_chat_model)
이 저장소는 LangChain 및 LangGraph와 완벽하게 호환되는 커스텀 챗 모델을 구축하기 위한 작업 코드를 제공합니다. 이를 통해 회사 내부 모델이나 커스텀 인증이 필요한 유료 API와 같은 사설 또는 독점 LLM API를 LangChain/LangGraph 프레임워크 내에서 사용할 수 있습니다.
주요 내용:
- 목적: LangChain 및 LangGraph를 사용하여 사설 LLM API를 통합하는 방법을 보여줍니다.
- 튜토리얼: 커스텀 LangChain 모델 생성에 대한 자세한 단계는
tutorial.md파일을 참조하십시오. - 요구 사항:
- Python >= 3.13
- 주요 의존성:
langchain >= 1.0.0,langgraph >= 1.0.0,pydantic >= 2.12.3,pydantic-settings >= 2.11.0
- 설치:
git clone https://github.com/tranngocphu/custom_langchain_chat_model.gitcd custom_langchain_chat_model- 가상 환경 생성 및 활성화
pip install -e .
- 환경 변수:
.env파일에API_OAUTH_URL,API_BASE_URL,API_KEY,API_SECRET를 설정해야 합니다.API_BASE_URL은{model}플레이스홀더를 포함하는 형식 문자열이어야 하며, 인증 메커니즘은 개인 LLM API 사양에 맞게 업데이트해야 합니다. - 실행 예시:
- 빠른 실행:
python main.py - 전체 예시 (도구 사용):
python full_example.py(덧셈 및 곱셈 도구를 사용하는 예시 포함)
- 빠른 실행:
- 코드베이스 개요:
custom_langchain_model/디렉토리 아래에core/(환경 변수, 로깅, 보안),llms/(콜백, 컨텍스트, 그래프, 모델, 상태, 도구) 등의 모듈로 구성되어 있습니다. - 라이선스: MIT 라이선스.