AI Infrastructure & MLOps Duel — 22 juni 2024

Foundry is een ontwikkelingsplatform gericht op AI-agenten die over het web opereren. Het biedt ontwikkelaars de infrastructuur om agenten te ontwerpen, uit te voeren op echte of gesimuleerde browse-opdrachten en hun gedrag te itereren met gestructureerde evaluaties. Naast constructie benadrukt Foundry de loop van training en testen. Ontwikkelaars kunnen de prestaties van agenten benchmarken, foutgevallen vastleggen en modellen of prompts verfijnen om de betrouwbaarheid te vergroten bij taken zoals navigatie, het invullen van formulieren, het extraheren van gegevens en meerstapsworkflows. Het instrument is gericht op teams die productie‑waardige browseragenten uitrollen en behoefte hebben aan herhaalbare evaluatie, debug‑zichtbaarheid en continue verbetering in plaats van éénmalige scripts.

• Agent-ontwikkelomgeving
• Geautomatiseerd testen op browse-opdrachten
• Training en finetuning workflows
• Prestatiebenchmarks en evaluaties
• Debuggen en trace‑inspectie
• Instrumenten voor iteratieve verbetering

operators.dev is een platform dat is ontworpen om de creatie en implementatie van AI-agents te vereenvoudigen. Het richt zich op ontwikkelaars en teams die snel van concept naar een werkend agent willen gaan zonder te hoeven worstelen met low-level orchestratie of boilerplate infrastructuurcode. De service richt zich op het stroomlijnen van algemene taken bij het bouwen van agenten, zoals het definiëren van gedrag, het verbinden van tools en gegevensbronnen, en het pushen van agenten naar productie-omgevingen. Door veel van de onderliggende complexiteit weg te abstraheren, streeft het ernaar om de ontwikkeling van agenten toegankelijk te maken voor een bredere groep bouwers. Dit maakt operators.dev een nuttige optie voor prototyping, interne automatisering en het leveren van productie-ready agents met minder engineering overhead.

• Interface voor agentbouwer
• Gestroomlijnde implementatiepijplijn
• Ondersteuning voor tools en integraties
• Verlaagde coderingsvereisten
• Geschikt voor prototyping en productie
• Werkstroom gericht op ontwikkelaars

AgentOS is een ontwikkelplatform dat is ontworpen voor het maken van netwerken van gespecialiseerde AI-agenten die samenwerken om meerstappige workflows uit te voeren. In plaats van het vertrouwen op één algemeen doelmodel, kunnen teams gericht agents opstarten die elk een gedefinieerde rol behandelen en coördineren via een gedeelde runtime. Het platform legt de nadruk op de snelheid van iteratie en geeft ontwikkelaars tools om agentgedrag te definiëren, externe gegevensbronnen te verbinden en te beheren hoe agents informatie met elkaar uitwisselen. Het is gericht op ingenieurs en productteams die agent-gebaseerde functies willen leveren zonder orkestratie-infrastructuur helemaal opnieuw te hoeven bouwen.

• Creëren van gespecialiseerde agents
• Multi-agent orkestratie runtime
• Inter-agent communicatie
• Integratie met externe tools en data
• Workflow ontwerp en beheer
• Ontwikkelaargerichte tooling

BaseAI is een ontwikkelaargericht framework voor het maken van serverloze AI-agents, zogenaamde pipes, die kunnen worden uitgerust met geheugen, tools en toegang tot meerdere taalmodellen. Het legt de nadruk op een lokale workflow, waardoor ontwikkelaars agents rechtstreeks vanuit hun codebasis kunnen bouwen, testen en itereren voordat ze deze implementeren. Het framework ondersteunt retrieval-augmented generation via ingebouwde geheugenprimitieven, integreert met populaire LLM-leveranciers en biedt een TypeScript SDK voor het insluiten van agents in web- en backendtoepassingen. Configuratie vindt plaats in code, waardoor versiebeheer en samenwerking eenvoudig zijn. BaseAI richt zich op teams die de flexibiliteit van een open-source stack willen zonder complexe agent-infrastructuur te hoeven beheren, terwijl ze nog steeds functionaliteit kunnen uitbreiden via aangepaste tools en integraties.

• Serverless AI-agent pipes
• Geheugen voor RAG-workflows
• Ondersteuning voor toolaanroepen
• TypeScript SDK
• Multi-model LLM-compatibiliteit
• Config-as-code opzet

Phala is een gedecentraliseerd cloudplatform dat AI-workloads uitvoert binnen vertrouwde uitvoeringsomgevingen (TEEs), waardoor ontwikkelaars verifieerbare privacygaranties krijgen voor zowel code als data. Het stelt teams in staat om modellen, agents en toepassingen in te zetten waarbij invoer, uitvoer en gewichten afgeschermd blijven van de hostinfrastructuur. Het platform ondersteunt privé-inference voor populaire open modellen, vertrouwelijke containers voor aangepaste workloads en on-chain-attestaties die bewijzen dat berekeningen zoals verwacht zijn uitgevoerd. Dit maakt het geschikt voor gevoelige use cases zoals gezondheidsgegevens, financiële analyse, autonome agents die sleutels beheren en AI-services die aantoonbaar vertrouwen vereisen.

• Vertrouwelijke GPU-en CPU-rekenkracht
• Privé-LLM-inferentie-eindpunten
• Remotewerkwijzenverklaring en bewijsgeneratie
• Deploybare Docker gebaseerde workloads
• Integratie met Web3 en on-chain agents
• Zo betaal je voor wat je gebruikt, Decentraal Hosting

Simple Phones biedt AI-aangedreven spraakagenten die inkomende en uitgaande zakelijke oproepen afhandelen. De service stuurt gemiste of alle oproepen door naar een aangepaste AI-agent die vragen kan beantwoorden, leadgegevens kan vastleggen, afspraken kan boeken en dringende oproepen indien nodig doorverbindt naar een mens. Bedrijven richten een agent in door hun bedrijf, diensten en FAQ's te beschrijven, en ontvangen vervolgens een nieuw telefoonnummer of kunnen een bestaand nummer doorsturen. Elk gesprek wordt geregistreerd met een transcript, samenvatting en opname, waardoor het gemakkelijk is om interacties te beoordelen en de agent in de loop der tijd te verfijnen. Het is gericht op kleine bedrijven, bureaus en serviceproviders die moeite hebben om bij te blijven met het telefoonvolume.

• AI-spraakagent voor inkomende oproepen
• Aangepast telefoonnummer of oproepdoorsturing
• Oproeptranscripties, -opnamen en -samenvattingen
• Afspraakboeking en leadvastlegging
• Menselijke overdracht en oproepdoorsturing
• Continue agentafstemming op basis van eerdere oproepen

GaiaHub AI is een no-code platform ontworpen om gebruikers te helpen AI-aangedreven applicaties te creëren en te lanceren zonder enige code te schrijven. Het richt zich op ondernemers, productteams en niet-technische bouwers die ideeën willen omzetten in werkende AI-tools in korte tijd. Het platform combineert drag-and-drop bouwblokken met vooraf geconfigureerde AI-modellen, waardoor gebruikers workflows kunnen ontwerpen, datasources kunnen verbinden en apps rechtstreeks vanuit de interface kunnen publiceren. Dit stroomlijnt het proces van het overgaan van concept naar een inzetbaar product. GaiaHub AI is bijzonder nuttig voor snelle prototyping, interne automatisering en kleine teams die AI-functionaliteiten willen uitrollen zonder gespecialiseerde ontwikkelaars in te huren.

• Visuele no-code appbouwer
• Vooraf geïntegreerde AI-modellen
• Eén-klik implementatie
• Workflow- en automatiseringshulpmiddelen
• Connectors voor datasources
• Sjablonen voor veelvoorkomende use cases