New APIÅpen kildekode LLM-gateway som forener flere AI-leverandørs API-er med rutelegging, fakturering og analyse

New API er en open-source LLM‑gateway som gir et enhetlig grensesnitt for å koble til flere AI‑modellleverandører, blant annet OpenAI, Anthropic Claude og Google Gemini‑lignende APIer. Det fungerer som et sentralt ledelsesskikt som lar team rute forespørsler mellom leverandører, kontrollere tilgang og spore bruken fra ett sted. Prosjektet er rettet mot utviklere, plattformteam og organisasjoner som bruker AI‑APIer i stor skala og ønsker en enkelt gateway i stedet for å integrere hver leverandør separat. Ved å eksponere OpenAI‑kompatible endepunkter gjør det at eksisterende applikasjoner og SDK‑er kan jobbe med mange back‑ends uten å måtte omskrive klientkode. Utover enkel proxying fokuserer New API på operative bekymringer som tokenbaserte kvoter, fakturering og kredittstyring, forespørselsgjennomgang og bruksanalyse. Disse funksjonene gjør det egnet for å bygge interne AI-plattformer eller videresalg/måling av tilgang til flere brukere eller team. Som et open-source, selvhostbart verktøy gir det operatører kontroll over utrulling og dataflyt, noe som kan være viktig for kostnadsstyring og samsvar. Det posisjonerer seg i samme rom som andre API gateways og aggregatorer som LiteLLM og One API, fra hvilke det er inspirert. Som med de fleste selvhostede gateways krever adopsjon av New API oppsett av infrastruktur og løpende vedlikehold, og bredden av leverandørstøtte og stabilitet avhenger av fellesskapets bidrag.