AI Infrastructure & MLOps 対決 — 2024年2月9日

Heliconeは、large language models(LLM)を活用する開発チーム向けのオブザビリティプラットフォームおよびゲートウェイプラットフォームです。アプリケーションとAIサービスの間のヘルスチェック機能を提供し、リクエスト、レスポンス、レイテンシー、コスト、エラーをキャプチャして、エラーとパフォーマンスを1つのダッシュボードから視察することが可能になります。 オープンAI、Anthropicなどモデルを問わずに、流量をルーティングできるプロバイダーアゴニスティックゲートウェイを備えたHeliconeには、ログのほか、提示管理、A/Bテスト、キャッシング、レート制限、ユーザー単位の分析ツールが整えられています。これにより、チームは、モデル間で流量をルーティングし、コスト管理を行いつつも、信頼できるAI機能を迅速にデプロイできるようになります。

• リクエストおよびレスポンスのログ化
• プロンプトバージョニングおよびエクスペリメント
• キャッシングおよびレート制限
• ユーザーやセッション別のコストトラッキング
• マルチプロバイダーゲートウェイのルーティング
• カスつまりダッシュボードのカスタム設定

Keywords AIは、大規模言語モデルに基づくAIアプリケーションの監視、デバッグ、改善を支援する開発プラットフォームです。ログ、トレース、メトリクスを統合することで、チームでは本番環境では提示したprompts、モデル、エージェントの挙動について見ることができます。 エンジニアをリグレッション、レイテンシーアウト、品質問題をユーザーが気づく前にキャッチするのに役立ちます。リクエスト、レスポンス、コストに関する構造化した視野を提供することで、実験とデプロイメントのフィードバックループを短縮します。 このツールは、REST、LLM機能と組み合わせるために、評価、警告、アラート、アナリティクスを1つのワークスペースで提供するため、大規模チームで使用します.

• リクエストとレスポンスのロギング
• multi-step LLMワークフローのトレーシング
• プロンプトとモデルパフォーマンスの分析
• コストとトークンの使用トラッキング
• 評価と警報ツール
• SDKs - お客様のLLMプロバイダーとの組み込み

3

TheAgentic AI

AI研究開発企業としてAI vertical企業の立ち上げに取り組む企業

4.5 (4)

無料

詳細レビュー

TheAgentic AIは、起業家、ドメインエキスパート、コンサルタント、起業家精神のある専門家と協力して、Vertical AI企業を構築およびリリースする、適用型のAI研究企業です。純粋に自社サービス型ソフトウェア製品として位置付けられるのではなく、独自の研究基盤とhands-onエンジニアリング、プロダクト、およびgo-to-market実行を組み合わせたベンチャースタイルスタジオとして運営しています。 企業の取り組みは、いくつかのプログラムに組織される。 Launchpad Goldでは、クライアントのAI製品の構築を、ゼロからプロダクションレディなものまで、約8-24週間で行います。パートナーは資本参加と知的財産を保持します。 Prometheusでは、パートナーはドメインの知識と少なくとも1つの設計パートナーが参画し、TheAgenticはエンジニアリング、プロダクトマネジメント、リードゲネレーション、セールス、請求、契約等を取り仕切る。 TheNativesAIでは、プロフェッショナルのためのAI-Naivesビジネスの構築と所有を行うための、構造化されたパスウェイが用意される。 Phoenixでは、ベンチャーから後の資金調達までの、B2B AIとSaaSスタートアップに対する支援が提供される。 Platinum Operatorsは、垂直AIサービスの市場対応としてアクションをとりたい商業リーダーを対象にしている。 "TheアジェンティックのチームのR&Dグループによって開発されたテクノロジースタックの下では、これらのプログラムは「推論OS」と表現される、論理のモデル非依存の "Sanscritic" により、境界モデルのロックインがなく、精度の高いドメイン問題に多視点的な構造化された推論を行えるようにしています。 このスタックには、記憶保持に必要な代理が情報を時間の中で保持するためにも自律的に組織された、シーケンタルおよびエピソード的記憶システムのTheアジェンティック記憶、オーケストレーションおよび知識を提供するフレームワークが含まれます。 モデルは、エンジニアリングリソースが不足しているが、深い専門知識を持つ起業家やドメインエキスパートに適しています。また、パートナーシップや株式ベースの契約に抵抗のない方も対象です。提供される多くの価値は、ベーシスどけのプロダクション AI システムの構築、又はプログラムという形を取ることによって生まれます。したがって、選択されたパートナーシップ構造と選定プロセスに大きく依存する体験となります。サイト上で公開している価格や契約条件、技術スペック、API、 SDK など、フレームワークの技術的詳細は制限されています。LLM は、多くの場合、自社で構築し管理する必要があるコンプリートな AI システムです。

• Sanscriticモデル無関係性の推論OS
• TheAgentic Memory(自律するセマンティックおよびイベント記存機能)
• エージェントオーアチェストレーションおよび知識フレームワーク
• 垂直AI開発プロセスに合わせたbespoke構築イベント
• デリバリーに際しての営業・請求および契約サポート

"SwarmZero　は、ビジネス、研究、個人のワークフローにおけるタスクの自動化に興味があるユーザーと、AIエージェントの開発者を連携させるプラットフォームです。開発者は、AIエージェントを公開できるMarketplaceが共有され、エンドユーザーはデータ分析からコンテンツ生成までの任意のジョブを、エージェントを検索・展開・組み合わせることで実行することができます。 プラットフォームはエージェント間の相互運用性を強調しています。複雑な多ステップタスクで複数のエージェントが協調することを可能にします。_builtinで提供される収益化ツールも用意されており、クリエイターはエージェントを通じて収益を得ることができます。ネイチブの専門知識を再使用できるオンデマンドサービスとして提供できるので、ニッチなセンスが生産性につながっています。 SwarmZeroは、エージェントワークの配布を希望する技術的ビルダーおよびスクラッチから作る代わりにオンプレミス自動化を優先する非技術的ユーザーを含め、両方を対象としています。

• エージェントマーケットと発見
• 創作者による収益共有
• 複数エージェントによるタスク管理
• プリビルトの自動化をデプロイ可能
• エージェント開発者向けSDKの提供
• タスクとワークフローの管理

Voyage AIは、検索、回復生成拡張 (RAG、Retrieval-Augmented Generation) などの情報検索タスクの正確性を向上することを目的とした埋め込みルートモデルと再ランキングモデルの開発を提供します。 彼らのモデルはテキスト、コード、そしてドメイン固有のコンテンツを表現ベクトルに変換することで、意味論的意味を含み、それらの分野では伝統的なキーワード検索では表現できない結果を提示する方法を提供します。 プラットフォームでは、プログラミング、財務、法など、分野に関係なく汎用的な Embedding も特定の変種を使用して提供します。開発者はモデルにアクセスして、ベクトル データベース、チャットボット、エンタープライズ セーチ システムなどのアプリケーションに統合することができます。Reranker は候補結果をより良くし、初期取り出しステップの上に精度を強化するために複雑な検索プロセスを実行します Voyage AIは、SaaS化されたLLMを活用した製品を開発しているエンジニアリングチームに特に焦点を当てており、既製品を超える検索品質を必要とするチームを標的としています。

• テキストとコードの埋め込みモデルの提供
• ドメイン特化した変換バリアント(財務、法令、ソースコード)
• 結果をさらに絞り込み、初期の検索ステップの上に精度を向上させるためのランキングモデルの提供
• API アクセスによる容易な統合
• 多言語コンテンツに対するサポート
• ポピュラーなベクトルデータベースとの互換性

Simple Phones は、来着した電話や電話をかけるビジネスサービスに対応するAIパワード・ボイスエージェントを提供します。サービスは、電話に返事が付いていない電話やすべての電話をカスタムのAIエージェントに転送し、質問に答える、leadsの詳細をキャッチする、予約の時間を設定する、お急ぎの電話は人間に引き継ぐことができます。 企業は事業内容、サービスの説明やFAQの記述を通じてエージェントを設定し、新規の電話番号を受け取るか既存の番号を転送します。各コールはトランスクリプト、サマリ、およびリコーディングによりログされ、これらを通じてインタラクションをレビューし、エージェントを時が経つにつれて改善できるようにします。これは電話量を追いかけづらい小規模企業、エージェント、サービスプロバイダー向けに目的づけられています。

• AIを使用した入力用の声のエージェント
• カスタムフォーム番号またはコールフォワーディング
• コールトランクルート、レコーディング、サマリー
• 契約日の予約と顧客情報のキャプチャ
• 人へのハンドオフとコールルーティング
• 過去のコールに基づいてエージェントを継続的にオーナメントを変更します