LiteLLMopen-source Python SDK 및 proxy 서버를 통해 100+ LLM을 위한 unified OpenAI 형식으로 인증, 로드 밸런싱, 비용 추적 관리

새로운 모델에 대한 0일 Support를 위해 재시작하지 않고 어떻게 할 수 있나요?

Use Auto Sync New Models to pull the latest pricing and context-window data from GitHub on demand or on a schedule — no restart required. Trigger a manual sync with POST /reload/model_cost_map, or schedule periodic syncs with POST /schedule/model_cost_map_reload?hours=6.

Asked by Gabriel Duarte · Feb 1, 2026

가격은 어떻게 설정되어 있나요?

Pricing is based on usage. Contact us for a quote tailored to your team.

Asked by Fiorella Bianchi · Feb 1, 2026

데이터 보안과 규정 준수에서 추가적인 정보를 읽고 싶다면?

See Data Security / Legal / Compliance FAQs.

Asked by Zara Ahmed · Jan 17, 2026

Enterprise 라이선스를 설정하고 확인하려면 어떻게 해야 하나요?

라이선스 키를 환경 변수에 추가합니다: ``` LITELLM_LICENSE="eyJ..." ``` 그런 다음 LiteLLM Proxy를 재시작합니다. http://<your-proxy-host>:<port>/ 에 접속하면 Swagger 페이지에 설명란에 "Enterprise Edition"이 표시됩니다. 표시되지 않으면 키가 정확하고 만료되지 않았는지, 그리고 프록시가 완전히 재시작되었는지 확인하십시오.

Asked by George Papadakis · Dec 11, 2025

왜 Enterprise인가요?

LiteLLM OSS는 기본 기능—OpenAI 호환 게이트웨이, 가상 키, 지출 추적, 예산, 폴백, 요청/응답 로깅—을 이미 제공합니다. Enterprise는 수백 명의 사용자와 수십 개의 애플리케이션이 LLM에 안전하게 접근할 수 있도록 대규모 조직에 필요한 제어 기능을 추가합니다. - OSSEnterpriseAuthAPI 키 - SSO + SCIM, OIDC/JWT - 키 관리: LLM API, MCP, Agent 전반에 걸친 가상 키, 사용자, 팀 - 조직, 조직/팀 관리자, 위임된 관리자 역할 - 보안: 키 회전, 비밀 관리자에 대한 읽기/쓰기 - 가드레일: 항상 켜짐 / 요청 기반, 키 및 팀 범위 가드레일, 로깅 - 로깅: 요청/응답 로깅, Prometheus 메트릭, 키·팀 별 Langfuse, Langsmith, Arize 등 라우팅, 관리‑ops 로그 - 배포: 단일 지역 프록시, 하나의 라이선스로 다지역 배포, 관리자/워커 분리 - OSS 가드레일 프레임워크는 커스텀 가드레일과 Presidio(PII 마스킹)를 지원합니다. 여러 내장 콜백 통합—llmguard_moderations, llamaguard_moderations, hide_secrets, openai_moderations, google_text_moderation, lakera_prompt_injection, aporia_prompt_injection 등—은 LiteLLM Enterprise 라이선스를 요구합니다.

Asked by Ahmed Saleh · Nov 25, 2025