TaskingAIEine Cloud-Plattform für das Erstellen, Bereitstellen und Verwalten von LLM-Agenten.

TaskingAI ist eine cloud-native Plattform, die Entwicklern dabei hilft, KI-Agenten, die von großen Sprachmodellen (LLMs) angetrieben werden, zu erstellen, bereitzustellen und zu verwalten. Ziel ist es, die zugrunde liegende Komplexität zu abstrahieren, die mit der Überführung von KI-basierten Anwendungen von der Entwicklungs- in die Produktionsumgebung verbunden ist. Die Plattform bietet eine Reihe von Tools zur Orchestrierung des Agentenverhaltens, dazu gehören die Definition von Agentenrollen, die Verwaltung des konversationellen Speichers und die Möglichkeit für Agenten, externe Tools zu verwenden. Entwickler können benutzerdefinierte Funktionen oder APIs als Tools integrieren, wodurch Agenten Aktionen über die grundlegende Textgenerierung hinaus ausführen können, wie z.B. das Abfragen von Datenbanken, das Senden von E-Mails oder die Interaktion mit anderen Diensten. Zu den wichtigsten Funktionen gehören das Prompt-Management mit Features für das Vorlagen-Modellierung, Versionierung und A/B-Testing von Prompts, um die Interaktionen mit LLMs zu optimieren. TaskingAI unterstützt auch die Integration von Wissensbasen und ermöglicht dadurch die durch Retrieval erweiterte Generierung (RAG), indem Agenten auf proprietäre Datenquellen zugreifen und Informationen aus diesen synthetisieren. Dies hilft dabei, LLM-Antworten auf faktuelle, domänenspezifische Informationen zu stützen und Halluzinationen zu reduzieren. Die Plattform ist modellunabhängig konzipiert und unterstützt verschiedene kommerzielle und quelloffene LLMs, was Entwicklern die Flexibilität bietet, Modelle basierend auf ihren spezifischen Anforderungen und Kostenüberlegungen auszuwählen. Sie umfasst Funktionen zur Überwachung der Agentenleistung, Nutzung und Kosten, die für die Wartung und Skalierung von KI-Anwendungen in der Produktion von entscheidender Bedeutung sind. TaskingAI positioniert sich als verwaltetes Backend für die Agentenentwicklung, was sich von eigenständigen quelloffenen Bibliotheken unterscheidet, indem es eine integrierte Umgebung für den gesamten Agentenlebenszyklus von der Konzeption bis zur Bereitstellung und Beobachtung bietet.