AI Infrastructure & MLOps Pojedynek — 22 czerwca 2024

Foundry jest platformą rozwojową skoncentrowaną na agentach AI działających w sieci. Zapewnia twórcom infrastrukturę do projektowania agentów, uruchamiania ich w rzeczywistych lub symulowanych zadaniach przeglądania oraz iteracji ich zachowań przy użyciu ustrukturyzowanych ocen. Poza konstrukcją, Foundry podkreśla pętlę szkolenia i testowania. Programiści mogą benchmarkować wydajność agentów, rejestrować przypadki niepowodzeń i udoskonalać modele lub prompt, aby zwiększyć niezawodność w zadaniach takich jak nawigacja, wypełnianie formularzy, ekstrakcja danych i wieloetapowe przepływy pracy. Narzędzie skierowane jest do zespołów dostarczających produkcyjne agenty przeglądarkowe, które potrzebują powtarzalnej ewaluacji, widoczności debugowania i ciągłego doskonalenia, a nie jednorazowych skryptów.

• Środowisko rozwoju agenta
• Automatyczne testowanie zadań przeglądania
• Workflowy szkoleniowe i fine-tuning
• Benchmarkowanie wydajności i oceny
• Debugowanie i inspekcja śladów
• Narzędzia do iteracyjnego ulepszania

operators.dev to platforma zaprojektowana do uproszczenia tworzenia i wdrożenia agentów AI. Skierowana jest do deweloperów i zespołów, którzy chcą szybko przenieść się z koncepcji do działającego agenta, nie zmagań się z niższymi poziomami dystrybucji lub infrastrukturą wsteczną. Usługa koncentruje się na uproszczeniu codziennych zadań dotyczących budowania agentów, takich jak definiowanie zachowania, łączenie narzędzi i źródeł danych, oraz wnoszenie agentów do środowisk produkcyjnych. Poprzez uproszczenie wielu detalów zależnych od infrastruktury ma służyć ułatwieniu rozwoju agentów dla szerszej gamy twórców. Zarówno pozwala to na uznawanie operators.dev jako korzystnej opcji w sytuacji prototypowania, automatyzacji wewnętrznej, jak również dostarczania produkcji gotowych agentów z mniejszym obciążeniem w zakresie inżynierii.

• Interfejs kreatora agenta
• Usprawniony potok wdrożeniowy
• Wsparcie narzędzi i integracji
• Zmniejszone wymagania kodowe
• Odpowiedni do prototypowania i produkcji
• Workflow skoncentrowany na deweloperach

AgentOS to platforma rozwojowa projektowana do tworzenia Sieci specjalistycznych agentów wirtualnych, które współpracują ze sobą tak, by wykonać skomplikowane przepływy pracy składające się z kilku kroków. Zamiast polegać wyłącznie na rozwiązaniach ogólnego przeznaczenia, drużyny mogą włączać agentów dedykowanych, położonych w konkretnej roli, które koordynują swoją działalność dzięki wspólnemu środowisku wykonywania (runtime). Platforma nadrzędna umożliwia szybkie iterowanie, pozwalając deweloperom definiować zachowania agenta, łączyć dane z zewnętrznych źródeł i zarządzać przesyłem informacji między agentami. Ukierunkowana jest ona na inżynierów i zespoły produkcyjne szukających szybkiego wdrożenia funkcji opartych na agentach, bez konieczności budowania infrastruktury orkiestracji od podstaw.

• Tworzenie specjalizowanych agentów
• Współdziałający silnik orkiestracji wieloagentowej
• Komunikacja między agentami
• Integracja z zewnętrznymi narzędziami i danymi
• Projektowanie i zarządzanie przepływami pracy
• Narzędzia skoncentrowane na deweloperach

BaseAI to framework skoncentrowany na programistach, umożliwiający tworzenie serverless agentów AI, zwanych pipes, które można wyposażić w pamięć, narzędzia oraz dostęp do wielu modeli językowych. Podkreśla on podejście local‑first, pozwalając programistom budować, testować i iterować agenty bezpośrednio z repozytorium kodu przed ich wdrożeniem. Framework wspiera generowanie z wykorzystaniem RAG dzięki wbudowanym prymitywom pamięci, integruje się z popularnymi dostawcami LLM i udostępnia TypeScript SDK do włączania agentów w aplikacje webowe i backendowe. Konfiguracja jest przechowywana w kodzie, co ułatwia wersjonowanie i współpracę. BaseAI skierowany jest do zespołów, które pragną elastyczności otwarto‑źródłowej stacki bez konieczności zarządzania skomplikowaną infrastrukturą agentów, przy jednoczesnej możliwości rozszerzania funkcjonalności poprzez własne narzędzia i integracje.

• Bezserwerowe rurociągi agentów AI
• Pamięć dla przepływów RAG
• Obsługa wywołań narzędzi
• TypeScript SDK
• Wielomodelowa kompatybilność LLM
• Konfiguracja w kodzie

Phala to decentralizowany platforma chmury, która uruchamia obciążenia AI w środowiskach wykonywania zaufanego (TEEs), zapewniając programistom gwarancje poufności weryfikowalne dla kodu i danych. Pozwala zespołom wdrożyć modele, agenty oraz aplikacje w taki sposób, by wejścia, wyjścia i wag pozostawały ukryte przed infrastrukturą hosta. Platforma obsługuje prywatne wnioskowanie dla popularnych otwartych modeli, prywatne kontenery na cele niestandardowe oraz potwierdzenia blockchainowe, które udowadniają, że obliczenia zostały wykonane jak się spodziewano. To czyni ją odpowiednią do wrażliwych przypadków użycia, takich jak dane medyczne, analizy finansowe, autonomiczne agenci obsługujące klucze oraz usługi AI wymagające audytowanych zaufania.

• Poufne obliczenia GPU i CPU
• Prywatne punkty końcowe inferencji LLM
• Zdalna atestacja i generowanie dowodów
• Wdrażalne obciążenia oparte na Dockerze
• Integracja z Web3 i agentami na łańcuchu
• Zdecentralizowane hostingowanie na zasadzie płatności za użycie

Simple Phones zapewnia wbudowane w systemy główne agenta głosowego opartego na technologiach sztucznej inteligencji, który obsługuje połączenia wdrożeniowe oraz wyjściowe. Usługa przekierowuje omijane lub wszystkie połączenia do niestandardowego agenta AI, który może odpowiadać na pytania, zapisywać szczegóły potencjalnych klientów, rezerwować wizyty oraz kierować niezbędne połączenia do operatora w wybranych przypadkach. Firmy ustawiają agenta opisując swoją firmę, usługi i pytania często zadawane, następnie otrzymują nowy numer telefonu lub kierują istniejący na agenta. Każde rozmówce jest rejestrowana wraz z transkrypcją, podsumowaniem, i nagraniem, co ułatwia analizę interakcji i poprawianie agenta w miarę jego rozwoju. Została ona zaprojektowana dla małych firm, agencji i dostawców usług, które mają trudności z utrzymaniem tempa przyjmowanych dzwonków.

• Agent głosowy AI dla połączeń przychodzących
• Własny numer telefonu lub przekierowywanie połączeń
• Transkrypcje, nagrania i podsumowania połączeń
• Rezerwowanie spotkań i przechwytywanie leadów
• Przekazanie do człowieka i routowanie połączeń
• Ciągłe dopasowywanie agenta na podstawie wcześniejszych połączeń

GaiaHub AI to platforma bez kodu, zaprojektowana, aby pomóc użytkownikom tworzyć i uruchamiać aplikacje zasilane sztuczną inteligencją bez pisania jakiegokolwiek kodu. Skierowana jest do przedsiębiorców, zespołów produktowych oraz osób nietechnicznych, które chcą przekształcić pomysły w działające narzędzia AI w krótkim czasie. Platforma łączy bloki typu „przeciągnij i upuść” z gotowymi modelami AI, umożliwiając projektowanie przepływów pracy, podłączanie źródeł danych i publikowanie aplikacji bezpośrednio z interfejsu. Usprawnia to proces przejścia od koncepcji do gotowego produktu. GaiaHub AI jest szczególnie przydatna do szybkiego prototypowania, automatyzacji wewnętrznej oraz dla małych zespołów, które potrzebują wdrażać funkcje AI bez zatrudniania wyspecjalizowanych programistów.

• Wizualny kreator aplikacji bez kodu
• Wstępnie zintegrowane modele AI
• Wdrożenie jednym kliknięciem
• Narzędzia do przepływów pracy i automatyzacji
• Konektory źródeł danych
• Szablony dla typowych przypadków użycia