AI Infrastructure & MLOps Duell — 22. Juni 2024

Foundry ist eine Entwicklungsplattform, die sich auf KI‑Agenten konzentriert, die im Web operieren. Sie stellt Entwicklern die Infrastruktur bereit, um Agenten zu entwerfen, sie bei realen oder simulierten Browsing‑Aufgaben auszuführen und ihr Verhalten anhand strukturierter Evaluierungen zu iterieren. Über den reinen Aufbau hinaus legt Foundry den Fokus auf den Trainings‑ und Testzyklus. Entwickler*innen können die Agent‑Performance benchmarken, Fehlerfälle erfassen und Modelle bzw. Prompts verfeinern, um die Zuverlässigkeit bei Aufgaben wie Navigation, Formularausfüllung, Datenextraktion und mehrstufigen Workflows zu erhöhen. Das Tool richtet sich an Teams, die produktionsreife Browser‑Agents bereitstellen und dabei wiederholbare Evaluierung, Debugging‑Transparenz und kontinuierliche Verbesserung benötigen, anstatt Einzelskripte zu verwenden.

• Umgebung für Agentenentwicklung
• Automatisierte Tests für Browsing-Aufgaben
• Trainings- und Fine-Tunings-Workflows
• Leistungsbewertung und -bewertungen
• Fehlersuche und Tracemanagement
• Werkzeug-Unterstützung für die Iterationsverbesserung

operators.dev ist eine Plattform, die darauf ausgelegt ist, die Erstellung und Bereitstellung von KI-Agenten zu vereinfachen. Sie richtet sich an Entwickler und Teams, die schnell von der Idee zu einem funktionierenden Agenten gelangen möchten, ohne sich mit Low-Level-Orchestrierung oder Boilerplate-Infrastrukturcode herumzuschlagen. Der Dienst konzentriert sich auf die Vereinfachung gängiger Aufgaben beim Aufbau von Agenten, wie z.B. der Definition von Verhalten, der Verbindung von Tools und Datenquellen und der Bereitstellung von Agenten in Produktionsumgebungen. Durch die Abstraktion der zugrunde liegenden Komplexität soll die Entwicklung von Agenten für eine breitere Palette von Entwicklern zugänglicher gemacht werden. Damit ist operators.dev eine nützliche Option für das Prototyping, die interne Automatisierung und den Einsatz produktionsfertiger Agenten mit weniger Engineering-Aufwand.

• Agenten-Builder-Schnittstelle
• Optimierter Bereitstellungspipeline
• Tool- und Integrationsunterstützung
• Reduzierte Programmieranforderungen
• Geeignet für Prototyping und Produktion
• Entwicklerorientierter Workflow

AgentOS ist eine Entwicklungsplattform, die es ermöglicht, Netzwerke spezialisierter KI-Agenten zu erstellen, die zusammenarbeiten, um mehrstufige Workflows abzuschließen. Anstatt sich auf ein einzelnes Allzweckmodell zu verlassen, können Teams fokussierte Agenten starten, die jeweils eine definierte Rolle übernehmen und über eine gemeinsame Laufzeitumgebung koordinieren. Die Plattform legt großen Wert auf schnelle Iterationsgeschwindigkeit und bietet Entwicklern Werkzeuge, um das Verhalten der Agenten zu definieren, externe Datenquellen zu verbinden und zu steuern, wie Agenten Informationen austauschen. Sie richtet sich an Ingenieure und Produktteams, die agentenbasierte Features bereitstellen möchten, ohne eigene Orchestrierungsinfrastruktur von Grund auf aufzubauen.

• Erstellung spezialisierter Agenten
• Multi-Agenten-Orchestrierungslaufzeit
• Kommunikation zwischen Agenten
• Integration mit externen Tools und Daten
• Workflow-Design und -Verwaltung
• Entwicklerorientierte Werkzeuge

BaseAI ist ein entwicklerorientiertes Framework zur Erstellung serverloser KI‑Agenten, so genannte Pipes, die mit Speicher, Werkzeugen und Zugriff auf mehrere Sprachmodelle ausgestattet werden können. Es legt Wert auf einen Local‑First‑Workflow, der Entwicklern ermöglicht, Agenten direkt aus ihrem Code‑Repository zu bauen, zu testen und iterativ zu verbessern, bevor sie bereitgestellt werden. Das Framework unterstützt retrieval-augmented Generation über eingebaute Memory‑Primitiven, integriert sich in gängige LLM‑Anbieter und stellt ein TypeScript‑SDK bereit, um Agenten in Web‑ und Backend‑Anwendungen einzubetten. Die Konfiguration befindet sich im Code, was Versionierung und Zusammenarbeit unkompliziert macht. BaseAI richtet sich an Teams, die die Flexibilität eines Open-Source-Stacks wünschen, ohne komplexe Agenten-Infrastruktur verwalten zu müssen, und dabei die Möglichkeit haben, die Funktionalität durch benutzerdefinierte Tools und Integrationen zu erweitern.

• Serverlose KI-Agent-Pipelines
• Speicher für RAG-Workflows
• Unterstützung für Tool-Aufrufe
• TypeScript SDK
• Kompatibilität mit Multi-Model-LLM
• Config-as-Code-Setup

Phala ist eine dezentrale Cloud-Plattform, die KI-Workloads in Trusted Execution Environments (TEEs) ausführt und Entwicklern verifizierbare Datenschutzgarantien für Code und Daten bietet. Sie ermöglicht Teams, Modelle, Agenten und Anwendungen bereitzustellen, bei denen Eingaben, Ausgaben und Gewichte vor der Host-Infrastruktur geschützt bleiben. Die Plattform unterstützt private Inferenz für beliebte Open-Modelle, vertrauliche Container für maßgeschneiderte Workloads und On-Chain-Attestationen, die nachweisen, dass Berechnungen wie erwartet ausgeführt wurden. Damit eignet sie sich für sensible Anwendungsfälle wie Gesundheitsdaten, Finanzanalysen, autonome Agenten, die Schlüssel verwalten, und KI-Dienste, die nachprüfbares Vertrauen erfordern.

• Vertrauliche GPU- und CPU-Computing
• Private LLM-Inferenz-Endpunkte
• Remote-Attestierung und Beweisgenerierung
• Einsetzbare Docker-basierte Workloads
• Integration mit Web3 und On-Chain-Agenten
• Pay-as-you-go dezentrale Hosting

Simple Phones bietet KI-gestützte Sprachagenten, die eingehende und ausgehende Geschäftsanrufe bearbeiten. Der Dienst leitet verpasste oder alle Anrufe an einen individuellen KI-Agenten weiter, der Fragen beantworten, Kontaktdaten von Interessenten aufnehmen, Termine vereinbaren und dringende Anrufe bei Bedarf an einen Menschen weiterleiten kann. Unternehmen richten einen Agenten ein, indem sie ihr Unternehmen, ihre Dienstleistungen und häufig gestellte Fragen beschreiben, und erhalten dann eine neue Telefonnummer oder leiten eine bestehende weiter. Jeder Anruf wird mit einem Transkript, einer Zusammenfassung und einer Aufzeichnung protokolliert, was es erleichtert, Interaktionen zu überprüfen und den Agenten im Laufe der Zeit zu verfeinern. Es richtet sich an kleine Unternehmen, Agenturen und Dienstleister, die Schwierigkeiten haben, mit dem Telefonaufkommen Schritt zu halten.

• KI-basierter Sprachagent für eingehende Anrufe
• Benutzerdefinierte Telefonnummer oder Anrufweiterleitung
• Anruftranskripte, -aufnahmen und -zusammenfassungen
• Terminvereinbarung und Lead-Erfassung
• Menschliche Übergabe und Anrufrouting
• Kontinuierliche Anpassung des Agents basierend auf vergangenen Anrufen

GaiaHub AI ist eine No‑Code‑Plattform, die entwickelt wurde, um Nutzern zu ermöglichen, KI‑gestützte Anwendungen zu erstellen und zu starten, ohne eine einzige Zeile Code zu schreiben. Sie richtet sich an Unternehmer, Produktteams und nicht‑technische Entwickler, die ihre Ideen in kurzer Zeit in funktionierende KI‑Tools verwandeln wollen. Die Plattform kombiniert Drag-and-Drop-Bausteine mit vorkonfigurierten KI-Modellen, sodass Nutzer Workflows entwerfen, Datenquellen anbinden und Apps direkt über die Benutzeroberfläche veröffentlichen können. Das beschleunigt den Übergang von der Idee zu einem einsetzbaren Produkt. GaiaHub AI ist besonders nützlich für schnelles Prototyping, interne Automatisierung und kleine Teams, die KI‑Funktionen bereitstellen müssen, ohne spezialisierte Entwickler einzustellen.

• Visuelles No-Code-App-Builder-Tool
• Vorgefertigte, integrierte KI-Modelle
• Ein-Klick-Bereitstellung
• Workflow- und Automatisierungstools
• Datenquellen-Connectoren
• Vorlagen für gängige Anwendungsfälle