New APIAtvērtā pirmkoda LLM vārteja, kas apvieno vairākus AI pakalpojumu sniedzēju API ar maršrutēšanu, rēķināšanu un analīzi

4.3 (4)

Pārskatījis Daniel Nikulshyn·Atjaunināts 2026. g. jūnijs

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Pārskats

New API ir atvērtā pirmkoda LLM vārteja, kas nodrošina vienotu saskarni savienojumam ar vairākiem AI modeļu pakalpojumu sniedzējiem, ieskaitot OpenAI, Anthropic Claude un Google Gemini stila API. Tā darbojas kā centrālā pārvaldības slānis, kas ļauj komandām maršrutēt pieprasījumus pāri pakalpojumu sniedzējiem, kontrolēt piekļuvi un izsekot lietojumu no vienotas vietas. Šis projekts ir vērsts uz izstrādātājiem, platformu komandām un organizācijām, kas patērē AI API lielā mērogā un vēlas vienotu vārteju, nevis integrēt katru pakalpojumu sniedzēju atsevišķi. Izvietojot OpenAI saderīgas gala punktu adreses, tā ļauj esošajām lietojumprogrammām un SDK strādāt ar daudziem aizmugursistēmām bez klienta koda pārrakstīšanas. Papildus pamat funkcijai kā starpniekam, New API koncentrējas uz operacionālām problēmām, piemēram, uz tokenu balstītām kvotām, rēķināšanu un kredītu pārvaldību, pieprasījumu revīziju un lietojuma analīzi. Šīs funkcijas padara to piemērotu iekšējo AI platformu veidošanai vai piekļuves pārdalei un mērīšanai vairākiem lietotājiem vai komandām. Kā atvērtā pirmkoda, paš-hostējama rīku, tā dod operatoriem kontroli pār izvietošanu un datu plūsmu, kas var būt svarīga izmaksu pārvaldībai un atbilstībai. Tā pozicionē sevi tajā pašā telpā kā citas API vārtejas un agregatori, piemēram, LiteLLM un One API, no kuriem tā iegūst. Tāpat kā lielākā daļa paš-hostēto vārteju, New API pieņemšana prasa infrastruktūras iestatīšanu un pastāvīgu apkopšanu, un pakalpojumu sniedzēju atbalsta plašums un stabilitāte ir atkarīgi no kopienas ieguldījumiem.

Galvenās funkcijas

Vienota daudzpakalpojumu API vārteja
OpenAI saderīgas gala punktu adreses
Pieprasījumu maršrutēšana pāri modeļu pakalpojumu sniedzējiem
Tokenu kvotas un rēķināšanas pārvaldība
Lietojuma analīze un revīzija

Cenas

Modelis: Freemium
Kategorija: AI Modeļu Izpildes Platformas
Vērtējums: 4.3 / 5 (4)

Lietošanas gadījumi

Vienota daudzpakalpojumu LLM piekļuve

Maršrutējiet pieprasījumus pāri OpenAI, Claude un Gemini caur vienotu API, vienkāršojot integrāciju un samazinot piegādātāju atkarību inženieru komandām.

Noteikt kvotas un komandu rēķināšana

Pielietojiet uz lietotāju vai komandu balstītas kvotas un izsekot lietojumu iekšējiem norēķiniem, ļaujot kontrolētu LLM patēriņu visā organizācijā.

LLM lietojuma revīzija un analīze

Izmantojiet detalizētus žurnālus un analīzi par LLM pieprasījumiem, lai atbalstītu atbilstības revīzijas, izmaksu optimizāciju un veiktspējas uzraudzību.

Paš-hostēta AI infrastruktūra

Izvietojiet atvērtā pirmkoda vārteju iekšēji, lai saglabātu datu kontroli, vienlaikus standartizējot piekļuvi vairākiem LLM pakalpojumu sniedzējiem.

Plusi un mīnusi

Plusi

Atvērtā pirmkoda un paš-hostējams pilnīgai kontrolei
Apvieno daudzus AI pakalpojumu sniedzējus aiz vienotas saderīgas API
Iebūvētas kvotas, rēķināšana un lietojuma analīze
Revīzija un piekļuves pārvaldība daudzlietotāju iestatījumiem

Mīnusi

Prasa paš-hostēšanu un pastāvīgu apkopšanu
Funkciju dziļums ir atkarīgs no kopienas ieguldījumiem
Dokumentācija var būt niecīga jaunpienācējiem

Atsauksmes

4.3

Vidējais no 4 vērtējumiem.

Pieslēdzies, lai atstātu atsauksmi.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Jautājumi

Kādas operatīvās iespējas piedāvā New API ārpus pamat API starpnieka?

Papildus pieprasījumu maršrutēšanai uz vairākām LLM piegādātājiem, New API ietver iebūvētas kvotas, aprēķinu, auditu un lietošanas analītiku, padarot to piemērotu komandām, kas jāuzrauga, jāmonitorē un jākontrolē LLM patēriņš centrāli.

Asked by Margaret Whitfield · May 25, 2025

Kādi LLM pakalpojumu sniedzēji un API formāti atbalsta New API?

New API darbojas kā vienota vārteja galvenajiem LLM API, ieskaitot OpenAI-, Claude- un Gemini-ķēdju galapunktus, ļaujot novirzīt pieprasījumus starp pakalpojumu sniedzējiem caur vienotu, konsekventa interfeisu.

Asked by Camille Laurent · May 21, 2025

Vai New API ir bezmaksas, un vai to var izvietot pašam?

Jā. New API ir atvērtā koda, tāpēc to var izvietot pašam bez licencēšanas maksājumiem. Jūsu vienīgās izmaksas ir infrastruktūra, uz kuras to darbināt, un lietošanas maksa, ko uzliek augšējie LLM pakalpojumu nodrošinātāji.

Asked by Devin Walker · May 13, 2025

Uzdod jautājumu

AI Modeļu Izpildes Platformas alternatīvas

Pinecone

AI Modeļu Izpildes Platformas

Pilnīgi administrēta vektora datubāze reāllaika semantiskajai meklēšanai AI lietotnēs

4.8 (6)

Freemium

GLM‑4.5

AI Modeļu Izpildes Platformas

Atvērtas koda hibridiskās pārdomas MoE pamatmodelis, izstrādāts agentu, kodēšanas un rīku lietošanas uzdevumiem

4.5 (6)

Free

Astrolabe

AI Modeļu Izpildes Platformas

Ātri sēvi, atvērto OpenAI kompatībā rotes un pārvadātāju, lai OpenClaw agentiem ir līdzeklis efektīvi izvairīties no lielākos apgrozījumu izmaksu, kas paredzēti bezsadarbības kontroles un drošības politikas ietvaros.

4.4 (5)

Free