New APIOtvoreni kod za LLM pristupni vratilac koji ujedinjuje više API-ja proizvođača AI s upravljanjem rutiranjem, facturiranjem i analize

4.3 (4)

Recenzirao Daniel Nikulshyn·Ažurirano lipanj 2026.

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Pregled

New API je otvoreni izvor kod LLM gateway koji pruža jedinstveni interfejs za spajanje s više proizvođača AI modela, uključujući OpenAI, Anthropic Clauda i Google Gemini-stil API-jeve. Rabi se kao centralni uređaji za upravljanje koji omogućava timovima usmeravanje zahtjeva prema proizvođačima, kontrolu pristupa i praćenje korištenja iz jedne mjesta. Ciljem ovog projekta je razvijačima, timovima za platformu i organizacijama koje su za potrebe svojih aktivnosti konzumirale velike količine APIs inteligencijskih sustava, što željeni rezultat nije potrebno provesti integraciju svaki od njih zasebno. Dijeljeno korištenjem otvorenog API-a koji je kompatibilan s OpenAI-inim endpointima, omogućava već postojećim aplikacijama te SDK-jema da funkcioniraju s mnogim pozadinskim službama bez neke rekonfiguracije klijentskog koda. Iza osnovne proksije, nova API su fokusirana na operacijske brige kao što su kvote bazirane na tokenima, upravljanje fakturiranjem i kreditima, auditiranje zadataka i analiza korištenja. Ove značajke čine je pogodnim za izgradnju unutarnjih platformi za umjetnu inteligenciju ili ponovno prodaju/mjerenje pristupa više korisnika ili timova. Kao što je otvoren izvor i moguće za samostalno hostiranje, on omogućava operatoru kontrolu nad implementacijom i protokom podataka, što može biti važno za upravljanje troškovima i provedbu zakona. On se izvorno smjestio u isti okvir kao i drugi gatewayi i agregatori API-a, poput LiteLLM-a i One API-a, od kojih potiče. Kao i kod većine samohostiranih gateway-a, prihvatanje New API-a zahtijeva postavljanje infrastrukturnog okoliša i nastavno održavanje, pa tako ovisnost o podršci provajdera i stabilnost ovisi o doprinosima zajednice.

Ključne značajke

Ujedinjeni multi-provider API vratilac
Spoljane OpenAI-skompatibilne endpointe
Rutiranje zahtjeva preko providera modela
Tokenova kvote i upravljanje fakturiranjem
Analize uporabe i auditiranje

Cijene

Model: Freemium
Kategorija: Platforme za servisiranje AI modela
Ocjena: 4.3 / 5 (4)

Slučajevi uporabe

Ujedinite pristup LLM iz različitih providera

Rutirajte zahtjeve kroz jedan API prema OpenAI-u, Claudu i Genimu, jednostavno integrirajući i smanjujući udruživanje između providera za timove inženjera.

Ograniči kvote i facturiranje po timovima

Upravite kvotama korisnika ili tima i pratite uporabu za unutarnje fakturiranje, omogućujući kontroliranu konzumaciju LLM-a kroz organizaciju.

Auditirajte i analizirajte uporabu LLM-a

Snimiti detaljne dnevne zapise i analize zahtjeva LLM-a kako bi podržavali audite zakonitosti, optimalizaciju cijena i nadzor izvođenja.

Samohostirani infrastrukturni AI-providere

Instalirajte samohostirani vratilac otvorenoga koda kako biste održali nadzor nad podacima dok standardizirate pristup više LLM-providera.

Prednosti i nedostaci

Prednosti

Otvoreni kod i samohostiranje za puni uvid u funkcionalnost
Ujedinjuje mnoge AI provajdere iza jedne kompatibilnog API-ja
Izgradene kvote, fakturiranje i analize uporabe
Auditiranje i upravljavanje pristupom za multi-korisničke konfiguracije

Nedostaci

Zahtijeva samohostiranje i nastavak održavanja
Dubina funkcionalnosti ovisi o zajedničkim prilozima
Dokumentacija može biti oskudna za početnike

Rekord bitaka

U 6 bitkama u Panteonu.

Recenzije

4.3

Prosjek iz 4 ocjena.

Prijavi se za ostavljanje recenzije.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Pitanja

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Asked by Margaret Whitfield · May 25, 2025

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Asked by Camille Laurent · May 21, 2025

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.

Asked by Devin Walker · May 13, 2025