LiteLLM Gateway: Vertex AI Agent Engine 지원

요약

LiteLLM Gateway가 이제 Vertex AI Agent Engine을 지원하여 사용자가 Vertex AI 에이전트 플랫폼을 통합된 OpenAI 호환 인터페이스 및 A2A(Agent-to-Agent) 프로토콜을 통해 표준화된 방식으로 상호 작용할 수 있게 되었습니다.

주요 이점

  • 통합 인터페이스: LiteLLM을 통해 Vertex AI 에이전트를 호출할 수 있습니다.
  • 중앙 집중식 관찰 가능성: LiteLLM 대시보드에서 로그, 지연 시간 및 비용을 추적할 수 있습니다.
  • 엔터프라이즈 제어: 특정 에이전트에 대한 팀 액세스 및 API 키를 관리할 수 있습니다.
  • 쉬운 온보딩: LiteLLM Admin UI 또는 YAML 설정을 통해 쉽게 온보딩할 수 있습니다.

관련 URL

설명 이미지

제공된 텍스트 내용에서는 설명 이미지를 추출할 수 없었습니다.

관련 노트 링크

(기존 노트의 내용을 알 수 없어 자동으로 링크를 생성할 수 없습니다.)