New APIOdprtokodni LLM prehod, ki združuje več API-jev AI ponudnikov z usmerjanjem, obračunavanjem in analitiko

4.3 (4)

Pregledal Daniel Nikulshyn·Posodobljeno junij 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Pregled

New API je odprtokodni LLM prehod, ki nudi enoten vmesnik za povezovanje z več ponudniki AI modelov, vključno z OpenAI, Anthropic Claude in Google Gemini‑style API-ji. Deluje kot centralna upravljavska plast, ki ekipam omogoča usmerjanje zahtevkov med ponudniki, nadzor dostopa in sledenje uporabe z enega mesta. Projekt je namenjen razvijalcem, platformskim ekipam in organizacijam, ki v velikem obsegu uporabljajo AI API-je in želijo enoten vstopni sistem namesto integracije vsakega ponudnika posebej. Z izpostavljanjem OpenAI-kompatibilnih končnih točk omogoča, da obstoječe aplikacije in SDK-ji delujejo z večimi zaledji, ne da bi bilo treba prepisovati kodo odjemalca. Poleg osnovnega proxy-inga se New API osredotoča na operativne vidike, kot so kvote na podlagi žetonov, upravljanje obračunavanja in kreditov, revizija zahtevkov ter analitika uporabe. Te funkcije ga naredijo primernim za gradnjo notranjih AI platform ali za preprodajo/merjenje dostopa več uporabnikom ali ekipam. Ker gre za odprtokodno, samohostljivo orodje, operaterjem omogoča nadzor nad uvajanjem in pretokom podatkov, kar je lahko pomembno za upravljanje stroškov in skladnost. Pojavlja se v istem prostoru kot drugi API prehodi in agregatorji, kot sta LiteLLM in One API, od katerih izhaja. Kot pri večini samogostovanih prehodov, uvajanje New API zahteva postavitev infrastrukture in stalno vzdrževanje, obseg podpore ponudnikov in stabilnost pa sta odvisna od prispevkov skupnosti.

Ključne funkcije

Enoten API prehod za več ponudnikov
Končne točke združljive z OpenAI
Usmerjanje zahtevkov med ponudniki modelov
Upravljanje kvot žetonov in obračunavanja
Analitika uporabe in revizija

Cene

Model: Freemium
Kategorija: Platforme za servisiranje AI modelov
Ocena: 4.3 / 5 (4)

Primeri uporabe

Združitev dostopa do LLM-jev več ponudnikov

Usmerjajte zahteve med OpenAI, Claude in Gemini preko enega API-ja, kar poenostavi integracijo in zmanjša zaklepanje pri dobaviteljih za inženirske ekipe.

Uveljavljanje kvot in fakturiranje za ekipe

Uveljavite kvote na uporabnika ali ekipo ter sledite uporabi za notranje obračune, kar omogoča nadzorovano porabo LLM-jev v organizaciji.

Revizija in analiza uporabe LLM-jev

Zajamite podrobne dnevnike in analitiko zahtevkov LLM-jev za podporo skladnim revizijam, optimizaciji stroškov in spremljanju zmogljivosti.

Samohostana AI infrastruktura

Namestite odprtokodni prehod v lastni infrastrukturi, da ohranite nadzor nad podatki in hkrati standardizirate dostop do več LLM ponudnikov.

Prednosti in slabosti

Prednosti

Odprtokodno in samohostano za popoln nadzor
Združuje številne AI ponudnike za enotno združljivo API
Vgrajene kvote, obračunavanje in analitika uporabe
Revizija in upravljanje dostopa za večuporabniške nastavitve

Slabosti

Zahteva samohostanje in stalno vzdrževanje
Globina funkcij je odvisna od prispevkov skupnosti
Dokumentacija je lahko redka za novince

Rekord bitk

V 6 bitkah v Panteonu.

Ocene

4.3

Povprečje iz 4 ocen.

Prijavi se za oddajo ocene.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Vprašanja

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Asked by Margaret Whitfield · May 25, 2025

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Asked by Camille Laurent · May 21, 2025

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.

Asked by Devin Walker · May 13, 2025