AI Infrastructure & MLOps Leszámolás — 2024. június 22.

Foundry egy fejlesztői platform, amely AI ügynökökre fókuszál, és a weben működnek. Lehetővé teszi a fejlesztők számára az infrastruktúra biztosítását az ügynökök megtervezéséhez, valós vagy szimulált böngészési feladatok ellen futtatásához, és a viselkedésük iterálását strukturált értékelésekkel. A konstrukción kívül a Foundry hangsúlyozza a képzési és tesztelési ciklust. A fejlesztők képesek benchmarkolni az ügynök teljesítményét, rögzíteni a hibás eseteket, és finomhangolni a modelleket vagy promptokat a megbízhatóság javítása érdekében a navigáció, űrlapkitöltés, adatkinyerés és többlépcsős munkafolyamatok esetén. Az eszköz olyan csapatok számára készült, akik termékminőségű böngésző‑ügynököket szállítanak, és ismételhető értékelésre, hibakeresési láthatóságra és folyamatos fejlesztésre van szükségük, nem pedig egyszeri szkriptekre.

• Ügynökfejlesztő környezet
• Automatizált tesztelés böngészési feladatokon
• Képzési és finetűrálási folyamatok
• Performanciabecslés és értékelés
• Hibakeresés és nyomon követés
• Későbbi javítási eszközök

Az operators.dev egy olyan platform, amely az AI ügynökök létrehozásának és bevezetésének egyszerűbbé tevését tűzte ki célul. A célcsoport a fejlesztők és a csapatok, akik gyorsan szeretnének eljutni a koncepciótól az olyan ügynökig, amely működik, úgy nélkülözve a magas szinten irányított felügyeletet vagy az infrastruktúra létrehozásával kapcsolatos sablontanulmányos kód kivitelezése körülmények között. A szolgáltatás a közös ügynök-építési feladatok összefogására fókuszál, például a viselkedést meghatározásra, a szoftverek és az adatforrások összekötésére, valamint az ügynökök gyártmányozására a termelési környezetekbe. A nagy mennyiségű alálló bonyolultság fokozatos eltérítésével célja annak elérése, hogy az ügynökfejlesztés később hozzáférhetőbb legyen egy nagyobb körben működő számára. Ez teszi a operators.dev-öt hasznos választásnak a prototípusok kifejlesztésére, belső automatizálásra, illetve a kisebb mérnöki túlterhelés mellett elkészíthető, gyári szintre fejlesztett ügynökök leadására.

• Ügynöképítő felület
• Szüntett deployment folyamat
• Többszörös eszköz és integráció támogatás
• Csökkentett kódotúlisz. Megkövetelmény
• Prototípus és termelési támogatás
• Developertalálatos workflow

Az AgentOS egy fejlesztői platform, amely specializált MI-ügynökök hálózatának létrehozására szolgál, amelyek együttműködnek többlépes munkafolyamatok elvégzéséhez. Ahelyett, hogy egyetlen általános célú modellre támaszkodnának, a csapatok létrehozhatnak fókuszált ügynököket, amelyek mindegyike meghatározott szerepet lát el, és egy megosztott futási környezeten keresztül koordinálnak. A platform a verziók gyorsaságát hangsúlyozza, olyan eszközöket biztosítva a fejlesztőknek, amelyekkel meghatározhatják az ügynökök viselkedését, csatlakoztathatják a külső adatforrásokat, és kezelhetik, hogyan adják át az információkat az ügynökök egymás között. Célja, hogy segítse a mérnököket és termékfejlesztő csapatokat abban, hogy ügynök-alapú funkciókat valósítsanak meg anélkül, hogy nulláról kellene felépíteniük az orchestrációs infrastruktúrát.

• Specifikus ügynök létrehozása
• Multi-ügynök koordinálási futási idő
• Ügynökök közötti kommunikáció
• Idegen rendszer integráció és adattár
• Munkafolyamat tervezés és kezelés
• Fejlesztők számára készült eszközök

BaseAI egy fejlesztőközpontú keretrendszer szerver nélküli AI ügynökök, úgynevezett pipes, létrehozásához, amelyek memóriával, eszközökkel és több nyelvi modellhez való hozzáféréssel felszerelhetők. Hangsúlyozza a local‑first munkafolyamatot, lehetővé téve a fejlesztők számára, hogy az ügynököket közvetlenül a kódbázisukból építsék, teszteljék és iterálják a telepítés előtt. A keretrendszer támogatja a retrieval-augmented generation-t beépített memória primitívek segítségével, integrálódik a népszerű LLM szolgáltatókkal, és egy TypeScript SDK-t biztosít az ügynökök web‑ és backend‑alkalmazásokba való beágyazásához. A konfiguráció kódban él, ami egyszerűvé teszi a verziókezelést és az együttműködést. A BaseAI azoknak a csapatoknak szól, akik nyílt forráskódú stack rugalmasságát szeretnék anélkül, hogy komplex ügynök‑infrastruktúrát kellene kezelniük, miközben egyedi eszközökkel és integrációkkal bővíthetik a funkcionalitást.

• Szerver nélküli AI ügynök‑pipes
• Memória RAG munkafolyamatokhoz
• Eszközhívás támogatása
• TypeScript SDK
• Többmodellű LLM kompatibilitás
• Konfiguráció kódként beállítás

A Phala egy decentralizált felhőplatform, amely az AI terheléseket bizalomkörnyezetbe (TEEs) futtatja, biztosítva a fejlesztők számára kódjuk és adataik védelmét. Lehetővé teszi a csapatok számára, hogy modelleket, ügynököket és alkalmazásokat állítsanak üzembe, ahol az érkező és kilépő adataik és a súlyok a host infrastruktúrától el vannak zárva. A platforma támogatja a magános inferenciát a népszerű nyílt modellekre, titkos konténereket az egyedi terhelésekhez, és a lánc menti megerősítéseket, amelyek bizonyítják a számítások elvégzését és a vártnak megfelelően történtek. Ennek megfelel a magas szintű bizalmi követelményei miatt érzékeny felhasználási esetekre, például a egészségügyi adatokra, a pénzügyi elemzésekre, az autonom szoftver alkalmazásokra melyek ágyszámadásokat kezelnek, és az AI szolgáltatásokra amelyeket ellenőrizhető bizalomra szükségesek.

• Jelentőségi be- és kijelentéseket biztosító GPU- és CPU-számítás
• Magánhalmaztatott LLM-mintavételi csomópontok
• Távolsági attestation és bizonyítékgenerálás
• Docker-alapú munkaterhelések telepíthetők
• Integráció Web3-mal és on-chain ügynökökkel
• Pénztártszintű decentralizált hosztolás

A Simple Phones szolgáltatás olyan mesterséges intelligenciával bíró hangosztályokat biztosít, melyek kezelik a beszélni hívásokat, és a kimaradt vagy az összes hívást eljuttatnak egy olyan, a kuncsaként beállítható mesterséges intelligencia-ösztöndiákhoz, mely képes válaszolni a kérdésekre, leadadatokat gyűjteni, foglalni időpontokat, és olyankor, amikor szükséges, sürgős hívásokat egy emberhez irányítani. A vállalkozások meghatározzák az ügynököt arra nézvést, hogy leírják cégüket, szolgáltatásukat, és gyakran feltett kérdéseiket, majd lefogalmazzák, ha új telefonszámot szeretnének, vagy átcímezve lévőt fognak használni. Az egyes hívásokat naplózva, a beszélgetés transzszkriptusa, rövid összefoglalása és felvétele jelenik meg, aminek köszönhetően könnyű megvizsgálni az interakciókat és javítani az ügynöket időről időre. Kisebb vállalkozásokban, ügynökségekben és szolgáltatókban van alkalmazva, amelyek küzdenek a telefontársaság kapacitásának közelében.

• AI hangügynök az érkező hívásokhoz
• Konzolos telefonszáma vagy híváselőre továbbítás
• Hívásjegyzőkönyv, adattárolás, és összefoglaló
• Megjelentési időpontok és ügyfél-adatgyűjtés
• Emberek kézbevételével és hívásirányítás
• Az ügynök folyamatos finomítása korábbi hívások alapján

GaiaHub AI egy no-code platform, amely segíti a felhasználókat AI-alapú alkalmazások létrehozásában és indításában kód írása nélkül. Olyan vállalkozók, termékcsapatok és nem technikai fejlesztők számára készült, akik rövid idő alatt szeretnék ötleteiket működő AI eszközökké alakítani. A platform drag-and-drop építőelemeket kombinál előre konfigurált AI modellekkel, lehetővé téve a felhasználók számára, hogy munkafolyamatokat tervezzenek, adatforrásokat csatlakoztassanak, és alkalmazásokat közvetlenül a felületről publikáljanak. Ez egyszerűsíti a koncepciótól a kiadható termékig tartó folyamatot. A GaiaHub AI különösen hasznos a gyors prototípusfejlesztéshez, belső automatizáláshoz, és kis csapatok számára, akiknek AI funkciókat kell szállítaniuk anélkül, hogy speciális fejlesztőket kellene felvenniük.

• Kézikönyv nélküli alkalmazásépítő
• Előre konfigurált AI modelljeink
• Rákliki deployment
• Munkafolyamat- és automatisálási eszközök
• Adatforrás-hozzáférési kapcsolók
• Előre definiált sablonok gyakori felhasználási esetekhez