New APIBrama open-source LLM ujednolicająca wiele interfejsów API dostawców sztucznej inteligencji z routingiem, billingiem i analityką

4.3 (4)

Zrecenzowane przez Daniel Nikulshyn·Zaktualizowano czerwiec 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Przegląd

New API to open-source bramka LLM, która zapewnia ujednolicone interfejsy API dla łączenia się z wieloma dostawcami modeli sztucznej inteligencji, w tym OpenAI, Anthropic Claude i Google Gemini-style API. Działa jako warstwa centralnego zarządzania, która pozwala zespołom przekierowywać żądania między dostawcami, kontrolować dostęp i śledzić zużycie z jednego miejsca. Projekt jest skierowany do deweloperów, zespołów platformowych i organizacji, które zużywają API sztucznej inteligencji na dużą skalę i chcą jednej bramki zamiast integracji z każdym dostawcą osobno. Wystawiając OpenAI-kompatybilne punkty końcowe, umożliwia istniejącym aplikacjom i SDK współpracę z wieloma backendami bez przepisywania kodu klienta. Poza podstawowym przekierowaniem New API koncentruje się na zagadnieniach operacyjnych, takich jak kwoty oparte na tokenach, zarządzanie billingiem i kredytami, audyt żądań i analityka zużycia. Te funkcje sprawiają, że jest to odpowiednie do budowania wewnętrznych platform sztucznej inteligencji lub odsprzedawania/dostępności dostępu dla wielu użytkowników lub zespołów. Jako narzędzie open-source, które można samodzielnie hostować, daje operatorom kontrolę nad wdrożeniem i przepływem danych, co może być ważne dla zarządzania kosztami i zgodności. Umieszcza się w tym samym miejscu co inne bramki API i agregatory, takie jak LiteLLM i One API, od których pochodzi. Podobnie jak w przypadku większości samodzielnie hostowanych bramek, wdrożenie New API wymaga konfiguracji infrastruktury i ciągłego utrzymania, a zakres wsparcia dostawców i stabilność zależą od wkładu społeczności.

Kluczowe funkcje

Ujednolicone API gateway dla wielu dostawców
OpenAI-kompatybilne punkty końcowe
Przekierowanie żądań między dostawcami modeli
Kwoty oparte na tokenach i zarządzanie billingiem
Analityka zużycia i audyt

Cennik

Model: Freemium
Kategoria: Platformy do obsługi modeli sztucznej inteligencji
Ocena: 4.3 / 5 (4)

Zastosowania

Ujednoliczenie dostępu do LLM od wielu dostawców

Przekieruj żądania między OpenAI, Claude i Gemini przez jedno API, upraszczając integrację i redukując lock-in dostawcy dla zespołów inżynierskich.

Narzucanie limitów i billing dla zespołów

Zastosuj limity na użytkownika lub zespół i śledź zużycie dla wewnętrznych rozliczeń, umożliwiając kontrolowane zużycie LLM w całej organizacji.

Audyt i analiza zużycia LLM

Zapisuj szczegółowe dzienniki i analitykę żądań LLM w celu wspierania audytów zgodności, optymalizacji kosztów i monitorowania wydajności.

Samodzielnie hostowana infrastruktura sztucznej inteligencji

Wdróż open-source bramkę w siedzibie, aby zachować kontrolę nad danymi podczas standaryzacji dostępu do wielu dostawców LLM.

Plusy i minusy

Plusy

Open-source i możliwość samodzielnego hostowania dla pełnej kontroli
Ujednolicone wiele dostawców sztucznej inteligencji za jednym kompatybilnym API
Wbudowane kwoty, billing i analityka zużycia
Audyt i zarządzanie dostępem dla konfiguracji wieloużytkowych

Minusy

Wymaga samodzielnego hostowania i ciągłego utrzymania
Głębokość funkcji zależy od wkładu społeczności
Dokumentacja może być skąpa dla nowicjuszy

Recenzje

4.3

Średnia z 4 ocen.

Zaloguj się, aby zostawić recenzję.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Pytania i odpowiedzi

Jakie funkcje operacyjne oferuje New API poza podstawowym proxy API?

Oprócz kierowania żądań do wielu dostawców LLM, New API zawiera wbudowane limity quota, rozliczenia, audyt oraz analitykę użycia, co czyni go odpowiednim dla zespołów potrzebujących centralnie zarządzać, monitorować i kontrolować zużycie LLM.

Asked by Margaret Whitfield · May 25, 2025

Jakich dostawców LLM i formatów API obsługuje New API?

New API działa jako zunifikowany gateway dla głównych API LLM, w tym endpointów w stylu OpenAI, Claude i Gemini, umożliwiając kierowanie żądań do różnych dostawców za pomocą jednej spójnej interfejsu.

Asked by Camille Laurent · May 21, 2025

Czy New API jest darmowy i czy można go hostować samodzielnie?

Tak. New API jest open‑source, więc możesz hostować go samodzielnie bez opłat licencyjnych. Jedynymi kosztami są infrastruktura, na której go uruchomisz, oraz opłaty za użycie dostarczane przez dostawców LLM‑ów, z którymi się łączy.

Asked by Devin Walker · May 13, 2025