#LLM Gateway

2 tools tagged “LLM Gateway”

LiteLLM interface preview
#1
LiteLLM

ღია-წყაროს Python SDK და პროქსი სერვერი, რომელიც მართავს ავთენტიფიკაციას, დატვირთვის ბალანსირებას და ხარჯების თვალყურის დევნას 100+ LLM-თან ერთად, ერთიანი OpenAI ფორმატის გამოყენებით.

4.6 (5)
Freemium
New API interface preview
#2
New API

ღია წყაროს LLM გატე, რომელიც მრავალ AI მომწოდებლის API‑ებს აერთიანებს, უზრუნველყოფს რაუტინგს, გადახდებს და ანალიზს

4.3 (4)
Freemium