New APIオープンな LLM ゲートウェイとしては初で、複数の AI プロバイダー API を一元管理するためのルーティング、請求、分析機能を統合する

4.3 (4)

レビュー: Daniel Nikulshyn·更新 2026年6月

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

概要

New APIはオープンソースのLLMゲートウェイであり、さまざまなAIモデルプロバイダーのAPI（OpenAI 、Anthropic Claude 、GoogleのGemini-style APIなど）に統一されたインターフェースで接続できます。また、チームは1つの場所からリクエストをルーティングし、アクセスを管理し、使用状況をトラッキングできる中間管理層として機能します。このプロジェクトは、拡大するAI APIを消費する開発者、プラットフォームチーム、および組織に焦点を当てています。これらは、各提供者を個別に統合するのではなく、統一のゲートウェイを求めています。OpenAI互換エンドポイントを公開することで、既存のアプリケーションとSDKを、クライアントコードが再作成することなく、多くのバックエンドと連携することを可能にします。基本的なプロキシよりも、 New API はトークンに基づくクォータ制御、請求、クレジット管理、リクエストの監査、使用分析などの運用上の懸念に焦点を当てています。これらの機能により、内部の AI プラットフォームを作るには適したもので、またはアクセスを複数のユーザーまたはチームにリセール/メートングするには適したものです。オープンソースおよび自主管理可能なツールであるため、それが展開およびデータのフローについての制御を、従業員に提供し、コスト管理および準拠性において非常に重要な役割を果たします。これは、LiteLLMおよびOne APIのような他の APIゲートウェイおよびAggregatorの位置付けにおいて位置を共有し、これらから知見を得ています。一般に自分が所有するゲートウェイでは、New APIを採用するにはインフラの設定と継続的なメンテナンスが必要で、提供者のサポートとスケールはコミュニティからの貢献に依存する。

主な機能

複数のプロバイダー間の統合された API ゲートウェイ
OpenAI の互換性のあるエンドポイント
モデルプロバイダー間のリクエストルーティング
トークンベースのクォータと請求管理
使用分析とリクエストの監査

料金

モデル: Freemium
カテゴリー: AI モデルサービングプラットフォーム
評価: 4.3 / 5 (4)

ユースケース

複数のプロバイダー間の LLM アクセスを統合する

OpenAI、Claude、Gemini スタイル API を介してリクエストをルーティングすることで、エンジニアリングチームにとってインテグレーションおよびベンダーロックインを減らせます。

クォータとチームの請求を強制する

内部コスト割り当てを支援するために、ユーザーやチーム毎のクォータを適用し使用状況を追跡することで、組織内での LLM の使用を制御させることができます。

LLM 使用の監査と分析

LLM のリクエスト用に詳細なログをキャプチャし、コンプライアンスアウディット、コスト最適化、パフォーマンスモニタリングを支援するため、使用状況の分析が可能になる。

内部の AI インフラ

企業は、自主管理のオープンソースゲートウェイを内蔵して、データ制御を維持しつつ、複数の LLM プロバイダーのへのアクセス標準化を行うことができる。

メリット & デメリット

メリット

オープンソースで自主管理可能なため、管理権が強化される
単一の互換性のある API により、多くのバックエンドを使用できる
組み込まれたクォータ、請求、使用分析は、内部 AI プラットフォームを構築する上で便利です。
複数のユーザーとチーム間の権限管理と監査
これらは、他の API ゲートウェイとアグレゲーターと同じスペースに位置しています。LiteLLM と One API などの

デメリット

自主管理に伴うインフラのセットアップと継続的なメンテナンスが必要
機能の深さと安定性はコミュニティの貢献度に依存する
新規ユーザーにとってドキュメントが不足している可能性がある

バトル戦績

パンテオンで6バトルに出場。

1位

2位

3位

Last 5 battles

レビュー

4.3

4件の評価の平均。

レビューを投稿するにはログインしてください。

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Q&A

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Asked by Margaret Whitfield · May 25, 2025

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Asked by Camille Laurent · May 21, 2025

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.

Asked by Devin Walker · May 13, 2025