New APIAtviras LLM prieigos prietaisas, sujungiantis keletą AI pardavėjų API su maršrutavimu, sąskaitų apskaita ir analizėmis

4.3 (4)

Apžvelgė Daniel Nikulshyn·Atnaujinta 2026 m. birželis

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Apžvalga

Naujas API yra atviro kodo LLM perjungėjas, kuris teikia vientisą sąrangą, kuri leidžia jungtis į kelis AI modelių tiekėjus, tokius kaip OpenAI, Anthropic Claude bei Google Gemini stiliaus API. Jis veikia kaip centrinis valdymo sluoksnis, kuris leidžia komandų dirbtinio intelekto modelių prieiga, kontroliuoti prieigos, sekinti naudojimą iš vienos vietoje. Šiame projekte siekiama pagaminti tai, kad programuotojai, platformos komandos ir organizacijos, naudojančios skaliuojamus AI API, taptų galėti naudoti vientisą prikalą, o ne integruoti kiekvieną sandėlyje po kelis kodus atskirai. Atidarius OpenAI-pusiasalyje kompatiblius endpointus, leidžia esamiesiems programuotais ir SDK rinkiniais darbuotis kartu su daugiau nei viena backend sistema be serverine kode rūšinimo reikalavimo, tada tai panaudoti klientų kodu. Priešingai nei paprastai naudojamai keičiamajai technologijai, naujoji API priklauso didesniems operatyvumo dalykams, tokiam kaip tokenų pagrįstos kiekio limitai, sąnaudžių ir kredito valdymas, prašymų apžiūra, bei vartotojo elgesio analitika. Šios funkcijos padeda kurti vidaus AI platformas ar taip pat pardavinėti/mirti prieiga tam tikrams naudotojams ar komandoms. Tai kaip atviro kodo, savarankiška instaliuojama priemonė, teikiama administratoriams controlę įdiegiamajam ir duomenų srautui, kas gali būti svarbu užtvariai duomenų tvarkymui ir atitikimui. Ji užimanti tuo patį lauką kaip ir kitos API geležies vamzdžiai ir sudedamieji, pvz., Lite LLM ir One API, nuo kurio aukštuoju moksle gija. Pagal daugumą savo instaliuotų gatewayų, New API įtraukimas reikalauja įrenginių konfigūravimo bei klausytojų atsargumo, bei įsipareigojimų spektro ir kokybė priklauso nuo bendruomenės pasikeitimų.

Pagrindinės funkcijos

Sujungiamas daugelio AI providerų API prieigos prietaisas
Atviras LLM API prieigos prietaisas
Reikšminių prašymų maršrutavimas per tiekėjus
Tokenų kiekio, sąskaitų ir skolų valdymas
Vartotojų naudojimo analizės ir auditai

Kainos

Modelis: Freemium
Kategorija: AI Modelių Tiekimų Platformos
Įvertinimas: 4.3 / 5 (4)

Naudojimo atvejai

Vienybės daugelio tiekėjų LLM prieigos prietaisai

Maršrutuojant prašymus per OpenAI, Claude ir Gemini vienos API, paprasčiau integravus ir sumažinant kūrybos kompiuterių užtikrinimą dėl inžinierinių komandų.

Tikrinant tokenų kiekius ir vartotojų sąskaitas

Panaudojus per vartotojus ar komandų tikrines kiekius bei naudojimo sąskaitas, galima prižiūrėti vartotojų konsumavimą viso organizacijos.

Audių ir analizės LLM naudojimu

Aptinkite detalius prisijungimo ir analizės žurnalus, kurios turi atsiskyvinti atitikimą, naudojant vartotojų sąskaitų, sąskaitų, performacijų priežiūrai ir kokybės tiksliams tyrinėjimams.

Savininkų valdomas AI infrastruktūra

Įgyvendinant atvirojo šaltinio prietaisą savo infrastruktūroje, galima kontrolėti duomenis, standartizavus prieigos prie daugelio LLM tiekėjų.

Privalumai ir trūkumai

Privalumai

Atviras ir savininkams galintis saviprieigos prietaisas
Vienybės daugelio AI tiekėjų vienoje konsistenti API
Integravime prisijungus tokenų kiekius, sąskaitų ir vartotojų analizęs
Audių ir prieigos valdymas keitinančioms vartotojų scenarijose

Trūkumai

Reikalauja savininkų nustatymo ir nuolatų prieigos
Žodžio gylis priklauso nuo bendruomenės prisidėjimų
Gamtų dokumentavimas gali būti nedidelis naujokams

Mūšių rekordas

6 mūšiuose Panteone.

Last 5 battles

Atsiliepimai

4.3

Vidurkis iš 4 įvertinimų.

Prisijunk, kad paliktum atsiliepimą.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Klausimai

Kaip operatyvios funkcijos turi lemti dabar užsakyti New API uždavinyje užtikrinamas paprastas API priskirėjas?

Šiame New API išskyrčiai priešingoje API priskiriamos reikšmės priskiriamoje funkcijų sistema, įskaitant sąmonines kvotas, faktūrų, audito, bei vartotojo analizę, kuriuose priklauso bendruomenėms, kurieems reikia kokybiškai valdyti, monitoruoti ir kontroluoti LLM panaudojimą centriniuose priimties būdu.

Asked by Margaret Whitfield · May 25, 2025

Kokie Į LLM tiekėjų ir API formatų palaiko Naujas API?

Naujas API yra vieningas gateway visam svarbiajam LLM API, kartu remdamąsies OpenAI-, Claude-, taip pat Gemini-stiliu punktų, leisdamas siųsti prašymus per viena konsekventų interfeis.

Asked by Camille Laurent · May 21, 2025

Ar New API yra nemokamas, bei gali būti patvirtinamas savotiškuje sistemoje?

Taip. New API yra atviri, todėl šiuos patvirtinkite savotiškuje sistemoje, be licensijos išlaidų. Tikrai kainomis bus mažinimo kaip bei kaina skirta infrastrukturai.

Asked by Devin Walker · May 13, 2025