LiteLLMOtevřený Python SDK a proxy server pro správu autentizace, vyrovnávání zatížení a sledování výdajů v rámci 100+ LLM pomocí sjednoceného formátu OpenAI.

Jak mohu získat podporu od denu 0 pro nové modely bez restartu?

Použijte funkci Auto Sync New Models, která přetáhne nejnovější údaje o cenách a délce kontextového okna z GitHubu na vyžádání nebo dle plánu — restart není potřeba. Spusťte manuální synchronizaci pomocí POST /reload/model_cost_map nebo naplánujte periodické synchronizace pomocí POST /schedule/model_cost_map_reload?hours=6.

Asked by Gabriel Duarte · Feb 1, 2026

Jak je nastaveno cenové zpracování?

Ceny jsou založeny na spotřebě. Kontaktujte nás pro cenovou nabídku přizpůsobenou vašemu týmu.

Asked by Fiorella Bianchi · Feb 1, 2026

Kde mohu najít více informací o bezpečnosti dat a souladu s předpisy?

Podívejte se na FAQ bezpečnosti dat / Právní / Soulad.

Asked by Zara Ahmed · Jan 17, 2026

Jak nastavit a ověřit Enterprise licenci?

Přidejte licenční klíč do svého prostředí: LITELLM_LICENSE="eyJ..." Restartujte LiteLLM Proxy. Otevřete http://<váš-proxy-host>:<port>/ – stránka Swagger by měla zobrazit „Enterprise Edition“ v popisu. Pokud ne, ověřte, že klíč je správný, nevypršel a že byl proxy zcela restartován.

Asked by George Papadakis · Dec 11, 2025

Proč Enterprise?

LiteLLM OSS již pokrývá základní funkce — OpenAI-kompatibilní bránu, virtuální klíče, sledování výdajů, rozpočty, náhradní možnosti a záznam požadavků/odpovědí. Enterprise přidává kontrolní mechanismy, které potřebují větší organizace k bezpečnému přístupovému řízení pro stovky uživatelů a desítky aplikací k LLM. OSSEnterpriseAuthAPI klíčeSSO + SCIM, OIDC/JWT Správa klíčů Virtuální klíče, uživatelé, týmy napříč LLM API, MCP a Agenty Organizace, správci org/týmu, delegovaní správci Role bezpečnosti – rotace klíčů, čtení/zápis do secret manageru Zábrany Vždy aktivní / na základě požadavku 1 Klíč a týmově omezené zábrany Záznam Logování požadavků/odpovědí, Prometheus metriky Přesměrování podle klíče / týmu na Langfuse, Langsmith, Arize a další Řízení operací logů nasazení Jediný regionální proxy Multi-regionální nasazení pod jednou licencí rozdělení administrátor / pracovník 1 Sestava bezpečnostní zábran OSS podporuje vlastní zábrany plus Presidio (maskování PII). Několik vestavěných callback integrací — včetně llmguard_moderations, llamaguard_moderations, hide_secrets, openai_moderations, google_text_moderation, lakera_prompt_injection, a aporia_prompt_injection — vyžaduje licenci LiteLLM Enterprise.

Asked by Ahmed Saleh · Nov 25, 2025