AI Model Serving Platforms 対決 — 2025年3月5日

1

New API

オープンな LLM ゲートウェイとしては初で、複数の AI プロバイダー API を一元管理するためのルーティング、請求、分析機能を統合する

4.3 (4)

フリーミアム

詳細レビュー

New APIはオープンソースのLLMゲートウェイであり、さまざまなAIモデルプロバイダーのAPI（OpenAI 、Anthropic Claude 、GoogleのGemini-style APIなど）に統一されたインターフェースで接続できます。 また、チームは1つの場所からリクエストをルーティングし、アクセスを管理し、使用状況をトラッキングできる中間管理層として機能します。 このプロジェクトは、拡大するAI APIを消費する開発者、プラットフォームチーム、および組織に焦点を当てています。これらは、各提供者を個別に統合するのではなく、統一のゲートウェイを求めています。OpenAI互換エンドポイントを公開することで、既存のアプリケーションとSDKを、クライアントコードが再作成することなく、多くのバックエンドと連携することを可能にします。 基本的なプロキシよりも、 New API はトークンに基づくクォータ制御、請求、クレジット管理、リクエストの監査、使用分析などの運用上の懸念に焦点を当てています。これらの機能により、内部の AI プラットフォームを作るには適したもので、またはアクセスを複数のユーザーまたはチームにリセール/メートングするには適したものです。 オープンソースおよび自主管理可能なツールであるため、それが展開およびデータのフローについての制御を、従業員に提供し、コスト管理および準拠性において非常に重要な役割を果たします。これは、LiteLLMおよびOne APIのような他の APIゲートウェイおよびAggregatorの位置付けにおいて位置を共有し、これらから知見を得ています。 一般に自分が所有するゲートウェイでは、New APIを採用するにはインフラの設定と継続的なメンテナンスが必要で、提供者のサポートとスケールはコミュニティからの貢献に依存する。

• 複数のプロバイダー間の統合された API ゲートウェイ
• OpenAI の互換性のあるエンドポイント
• モデル プロバイダー間のリクエスト ルーティング
• トークンベースのクォータと請求管理
• 使用分析とリクエストの監査

2

GLM‑4.5

オープンソースのハイブリッド推論 MoE 基礎モデル、агエンティブ、コード付け、およびツール使用タスク向けに開発

4.5 (6)

無料

詳細レビュー

GLM-4.5は、Z.ai (Zhipuアージ)によりGLMモデルファミリの一部として開発されたオープンソースの大規模言語モデルです。 MoEアーキテクチャとハイブリッド推論設計を使用し、モデルは「思考する」前に回答するか直接回答することができます。 アジェンシー・ワークフロー、コード作成、ツール利用を標的としている。このモデルは128Kトークンコンテキストウィンドーとネイティブツールコールをサポートしています。 GLM-4.5モデルは、AIエージェントとコードアシスタントを構築するための開発者たちの手助けとなるモデルとして位置づけられています。モデルは、「Interleaved thinking」（並列的思考）と呼ばれる機能を導入し、毎回のレスポンスやツールコール前の思考プロセスにおいてモデルが推論を行うことを可能にしました。その後GLM-4.6とGLM-4.7を含む、GLMの後続リリースによってその機能にプレザーヴド・サッピング（Preserved Thinking）やターン・レベル・サッピング（Turn-level Thinking）といった機能が追加されました。GLM-4.5モデルは主流のエージェントフレームワークやコードツールである、クラウデー・コード、クライン、ルー・コード、キロ・コードと統合可能なアジェント的コーディングを強みに据えています。 GitHub リポジトリにはモデルリソース、推論コード、およびサンプルが、公開された重みがオープンリリースされ、セルフホスティングとZ.ai API プラットフォームを介してAPIを提供しています。 このリポジトリは、さらに広範囲の文脈にアクセスできるモデルGLM-4.6とGLM-4.7、および推論に効率的にデプロイできる軽量30B-A3B方言モデルGLM-4.7-Flashのドキュメントも提供しています。 GLM-4.5はオープンなバージョンのリリースで、意思決定とコーディングの用途を対象とする他のオープンなモデルと競合しています。彼らの強みはツールの使用、推論の制御、そしてオープンさですが、大規模モバイル エージェント モデルをローカルに実行するには、相当のハードウェアが必要であり、ベンチマークに勝って以来のGLMのバージョンが新しく作られました。

• Mixture-of-Experts (MoE) アーキテクチャ
• 推論コントロールできるハイブリッド推論モード
• ネイティブツールコール
• 回答やツール呼び出しの前の Interleaved thinking
• 128K バッファーウィンドウ
• agentic コーディング オプティマイズ

3

Jina AI

多モード検索基盤としてのエンベッディング、およびRERANKINGとRAGパイプライン向け

4.2 (5)

無料

詳細レビュー

Jina AIは、検索、還出、モーダル理解を取り巻くAPIとフレームワークを備えたコアモデルを提供しています。 主要な提供品には、テキストと画像エンкодジング、ニューラル リランカー、ゼロショット カラシファイア、検索・還出ゲノメティクス フローウォーク作成ツールの開発が可能なツールが含まれます。 開発者やチームがテキスト、イメージ、構造化データを対象にした検索エンジン、推薦システム、AI アシスタントを作るのに役立つプラットフォームです。ホストドメインAPIとオープンソースのリリースを通じてモデルにアクセスでき、多言語サポートと長文キャパビリティを備え、大量のドキュメントを効率的に処理することができます。 Jina AIは、一般的なベクトルデータベースとLLMフレームワークと統合することで、生産的なシミュレチック検索と知識回収システムの実用的構築ブロックとなる。

• テキストおよび画像エンベッディングモデルの提供
• ネュラーラーランカーAPIの利用
• ゼロショットクラッサーの提供
• 長文書コンテキストサポート
• マルチ言語取得の利用
• リテリバル拡張機能とベクターデータベースへの統合