New APIPoartă de acces LLM open-source care unifică multiplele API-uri ale furnizorilor de inteligență artificială cu rutare, facturare și analitică

4.3 (4)

Recenzat de Daniel Nikulshyn·Actualizat iunie 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Prezentare

New API este o poartă de acces LLM open-source care oferă o interfață unificată pentru conectarea la mai mulți furnizori de modele de inteligență artificială, inclusiv OpenAI, Anthropic Claude și Google Gemini-style API-uri. Acesta acționează ca un strat de gestionare centrală care permite echipelor să direcționeze cererile către diferiți furnizori, să controleze accesul și să urmărească utilizarea dintr-un singur loc. Proiectul este destinat dezvoltatorilor, echipelor de platforme și organizațiilor care consumă API-uri de inteligență artificială la scară largă și doresc o singură poartă de acces în loc de integrarea fiecărui furnizor separat. Prin expunerea unor endpoint-uri compatibile cu OpenAI, permite aplicațiilor existente și SDK-urilor să funcționeze cu mai multe back-end-uri fără a rescrierea codului clientului. Pe lângă proxy-ul de bază, New API se concentrează pe problemele operaționale, cum ar fi cotele bazate pe token-uri, gestionarea facturării și a creditelor, auditarea cererilor și analitica utilizării. Aceste caracteristici îl fac potrivit pentru construirea de platforme interne de inteligență artificială sau pentru revânzarea/metrificarea accesului pentru mai mulți utilizatori sau echipe. Ca instrument open-source, auto-găzduit, oferă operatorilor control asupra implementării și fluxului de date, care poate fi important pentru gestionarea costurilor și conformitatea. Se poziționează în același spațiu ca și alte gateway-uri și agregatori API, cum ar fi LiteLLM și One API, de la care derivă. Ca și în cazul majorității gateway-urilor auto-găzduite, adoptarea New API necesită configurarea infrastructurii și întreținerea continuă, iar amploarea suportului furnizorilor și stabilitatea depind de contribuțiile comunității.

Funcții cheie

Poartă de acces API unificată pentru mai mulți furnizori
Endpoint-uri compatibile cu OpenAI
Rutare a cererilor către furnizorii de modele
Gestionarea cotelor și a facturării token-urilor
Analitică a utilizării și auditare

Prețuri

Model: Freemium
Categorie: Platforme de servire a modelelor AI
Evaluare: 4.3 / 5 (4)

Cazuri de utilizare

Unificarea accesului la LLM-uri de la mai mulți furnizori

Direcționați cererile către OpenAI, Claude și Gemini printr-o singură API, simplificând integrarea și reducând blocajul furnizorilor pentru echipele de inginerie.

Aplicarea cotelor și facturarea echipelor

Aplică cote per utilizator sau per echipă și urmărește utilizarea pentru decontările interne, activând consumul controlat de LLM-uri în cadrul unei organizații.

Auditarea și analiza utilizării LLM-urilor

Capturați jurnale detaliate și analitică a cererilor LLM pentru a sprijini auditurile de conformitate, optimizarea costurilor și monitorizarea performanței.

Infraestructură de inteligență artificială auto-găzduită

Implementați o poartă de acces open-source în cadrul organizației pentru a menține controlul datelor în timp ce standardizați accesul la mai mulți furnizori de LLM-uri.

Pro și contra

Pro

Open-source și auto-găzduit pentru control complet
Unifică mulți furnizori de inteligență artificială în spatele unei singure API-uri compatibile
Cote, facturare și analitică a utilizării integrate
Auditare și gestionare a accesului pentru configurații multi-utilizator

Contra

Necesită auto-găzduire și întreținere continuă
Adâncimea funcțiilor depinde de contribuțiile comunității
Documentația poate fi rară pentru noii veniți

Record de bătălii

În 6 bătălii din Panteon.

locul 1

locul 2

locul 3

Last 5 battles

Recenzii

4.3

Medie din 4 evaluări.

Conectează-te pentru a lăsa o recenzie.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Întrebări

Ce caracteristici operaționale oferă New API, care nu sunt simple interfețe proxy API?

În afară de redirecționarea cererilor către furnizori de LLM multipeli, New API include cote de utilizare construite, notificări, auditări, și analitică de utilizare, făcând-o potrivită pentru echipele care necesită să gestioneze, să monitorizeze și să controleze consumarea centralizată de consum de LLM-uri.

Asked by Margaret Whitfield · May 25, 2025

Căror furnizori de LLM și tipuri de API sprijină noua API?

Noua API furnizează o poartă comună pentru principalele API-uri de LLM incluzând endpoint-uri OpenAI-, Claude și Gemini, astfel că puteți redirecționa cererile către furnizori prin intermediul unei interfețe constante.

Asked by Camille Laurent · May 21, 2025

Este New API gratuit și poate fi auto-găzduit?

Da, New API este deschis sursă, deci puteți să îl auto-găzdiți fără taxe de licență. Singurele dvs. costuri sunt infrastructura pe care o rulați și taxele de utilizare care sunt încasate de către furnizorii LLM upstream.

Asked by Devin Walker · May 13, 2025