#LLM Gateway

2 tools tagged “LLM Gateway”

LiteLLM interface preview
#1
LiteLLM

Odprtokodna Python SDK in posredniški strežnik za upravljanje avtentikacije, uravnavanja obremenitev in sledenja porabi po 100+ LLM-ih z uporabo enotnega OpenAI formata.

4.6 (5)
Freemium
New API interface preview
#2
New API

Odprtokodni LLM prehod, ki združuje več API-jev AI ponudnikov z usmerjanjem, obračunavanjem in analitiko

4.3 (4)
Freemium