New APIOpen-Source-LLM-Gateway, der mehrere KI-Anbieter-APIs vereint – mit Routing, Abrechnung und Analyse

New API ist ein Open-Source-LLM-Gateway, das eine einheitliche Schnittstelle für die Verbindung zu mehreren KI-Modell-Anbietern bietet, darunter OpenAI, Anthropic Claude und Google Gemini-ähnliche APIs. Es fungiert als zentrale Verwaltungsschicht, die es Teams ermöglicht, Anfragen über verschiedene Anbieter zu routen, Zugriffe zu steuern und die Nutzung von einem Ort aus zu verfolgen. Das Projekt richtet sich an Entwickler, Plattform-Teams und Organisationen, die KI-APIs in großem Maßstab konsumieren und einen einzelnen Gateway bevorzugen, anstatt jeden Anbieter einzeln zu integrieren. Durch die Bereitstellung OpenAI-kompatibler Endpunkte lässt es bestehende Anwendungen und SDKs mit vielen Backends arbeiten, ohne Client-Code umzuschreiben. Neben dem einfachen Proxying konzentriert sich New API auf betriebliche Aspekte wie tokenbasierte Kontingente, Abrechnung und Kreditverwaltung, Anfrage‑Auditing und Nutzungsanalyse. Diese Funktionen machen es geeignet für den Aufbau interner KI-Plattformen oder das Wiederverkaufen/Messen des Zugangs für mehrere Benutzer oder Teams. Als Open-Source‑, selbsthostbares Tool gibt es Betreibern die Kontrolle über Deployment und Datenfluss, was für Kostenmanagement und Compliance wichtig sein kann. Es positioniert sich im selben Markt wie andere API‑Gateways und Aggregatoren wie LiteLLM und One API, von denen es abgeleitet ist. Wie bei den meisten selbstgehosteten Gateways erfordert die Einführung von New API eine Infrastrukturaufsetzung und kontinuierliche Wartung, und das Ausmaß der Anbieterunterstützung sowie die Stabilität hängen von den Community-Beiträgen ab.