#LLM Gateway

#1

LiteLLM

Otvoreni, izvor kod koji predstavlja Pythonov SDK i proxy poslužitelj za upravljanje autentičnostom, smišljeno opterećenjem i praćenjem troškova preko 100+ LLM-ova u jedinstvenoj OpenAI formatu.

#2

New API

Otvoreni kod za LLM pristupni vratilac koji ujedinjuje više API-ja proizvođača AI s upravljanjem rutiranjem, facturiranjem i analize