AI Infrastructure & MLOps Vastasseis — 22. juuni 2024

Foundry on arendusplatvorm, mis keskendub veebis tegutsevatele AI-agentidele. See pakub arendajatele infrastruktuuri agentide kujundamiseks, nende käivitamiseks tegelikel või simuleeritud sirvimisülesannetel ning käitumise iteratiivseks täiustamiseks struktureeritud hindamistega. Konstruktsioonist lisaks rõhutab Foundry koolitus- ja testimistsüklit. Arendajad saavad mõõta agentide jõudlust, salvestada tõrkejuhtumeid ja täpsustada mudeleid või päringuid, et parandada usaldusväärsust ülesannetes nagu navigeerimine, vormide täitmine, andmete ekstraheerimine ja mitmeastmelised töövood. Tööriist on suunatud meeskondadele, kes tarnivad tootmiskõlblikke brauseri agente ning vajavad korduvat hindamist, silumisnähtavust ja pidevat parendamist, mitte ühekordseid skripte.

• Agendi arenduskeskkond
• Automatiseeritud testimine sirvimisülesannetel
• Koolitus- ja peenhäälestustöövood
• Jõudluse võrdlus- ja hindamised
• Silumine ja jälgede ülevaatus
• Iteratiivse täiustamise tööriistad

operators.dev on platvorm, mis on loodud tehisintellekti agentide loomise ja juurutamise lihtsustamiseks. See on suunatud arendajatele ja meeskondadele, kes soovivad kiiresti liikuda kontseptsioonist toimiva agendini, ilma madala taseme orkestratsiooni või infrastruktuuri koodi probleemideta. Teenus keskendub tavaliste agendi loomise ülesannete sujuvamaks muutmiseks, nagu käitumise määratlemine, tööriistade ja andmeallikate ühendamine ning agentide tootmiskeskkonda viimine. Põhilise keerukuse eemaldamisega püüab see muuta agendi arenduse kättesaadavaks laiemale ehitajate ringile. See muudab operators.dev kasulikuks valikuks prototüüpimiseks, sisemiseks automatiseerimiseks ja tootmisvalmis agentide tarnimiseks väiksema inseneritöö mahuga.

• agentega kogumin saatkond
• streamlineat sellised lahendused kogu hoiaksoon
• tiimide ning entuste koostamine ja kogumine prootom
• konfiguratsiooni ja pealinn kasutamine
• virtuale luua ja jättada luua agente
• arutamist ja kiina kohapeast ajut seadke

AgentOS on arendusplatvorm, mis on mõeldud spetsialiseeritud AI agentide võrkude loomiseks, mis töötavad koos mitmeastmeliste töövoogude lõpuleviimiseks. Ühe universaalse mudeli asemel saavad meeskonnad käivitada fokuseeritud agente, mis käsitlevad igaüks määratud rolli ja koordineerivad jagatud käitusaja kaudu. Platvorm rõhutab iteratsiooni kiirust, andes arendajatele tööriistu agendi käitumise määratlemiseks, väliste andmeallikate ühendamiseks ja agentide vahelise teabe edastamise haldamiseks. See on suunatud inseneridele ja toote meeskondadele, kes soovivad tarnida agenti-põhiseid funktsioone ilma nullist orkestratsiooni infrastruktuuri ehitamata.

• Spetsialiseeritud agentide loomine
• Mitme agendi orkestratsiooni käitusaja
• Agentide vaheline suhtlus
• Integreerimine väliste tööriistade ja andmetega
• Töövoo disain ja haldus
• Arendajasõbralikud tööriistad

BaseAI on arendajatele suunatud raamistik serverless AI-agentide, mida nimetatakse "pipes" (torid), loomiseks, mis võivad olla varustatud mäluga, tööriistadega ja ligipääsuga mitmele keelemudelitele. Raamistik rõhutab lokaalset esmase töövoo lähenemist, võimaldades arendajatel agentide loomist, testimist ja iteratsioonit nende koodibaasi otse enne nende kasutuselevõttu. Raamistik toetab andmehaarde generatsiooni sisseehitatud mäluprimitiivide kaudu, integreerub populaarsete LLM-i pakkujatega ja pakub TypeScript SDK-d agentide integreerimiseks veeb- ja backendirakendustesse. Seadistused asuvad koodis, võimaldades lihtsat versioonihaldust ja koostööd. BaseAI on mõeldud meeskondadele, kes soovivad avatud lähtekoodi paindlikkust ilma keeruka agentite infrastruktuuri haldamise vajaduseta, samas võimaldades funktsionaalsuse laiendamist kohandatud tööriistade ja integratsioonidega.

• Serverless AI-agentide torud
• Mälu RAG töövoogude jaoks
• Tööriistade kutsumise tugi
• TypeScript SDK
• Mitme mudeli LLM ühilduvus
• Config-as-code seadistus

Phala on detsentraliseeritud pilveplatvorm, mis käitab AI töökoormusi usaldatud täitmis keskkondades (TEEs), andes arendajatele kontrollitavad privaatsusgarantiid nii koodile kui ka andmetele. See võimaldab meeskondadel juurutada mudeleid, agente ja rakendusi, kus sisendid, väljundid ja kaalud jäävad hostinfrastruktuuri eest kaitstuks. Platvorm toetab privaatset järeldust populaarsete avatud mudelite jaoks, konfidentsiaalseid konteinerid kohandatud töökoormuste jaoks ja ahelas olevat tõendamist, mis tõestab, et arvutused töötasid ootuspäraselt. See muudab selle sobivaks tundlike kasutusjuhtude jaoks, nagu tervishoiuandmed, finantsanalüüs, iseseisvad agendid, kes käsitsevad võtmeid, ja AI-teenused, mis nõuavad auditeeritavat usaldust.

• Private AI compute
• Confidential inference on custom workloads via TEEs
• Pay-as-you-go infrastructure
• Tailored for AI and edge DevOps
• Private LLM inference
• Decentralized and censorship-resistant AI services

Simple Phones pakub tehisintellektil põhinevaid häälsid agente, kes käitlevad sisse- ja väljahäälsid ettevõtte kõnedele. Teenus suunab vastamata või kõik kõned kohandatud AI-agentidele, kes oskavad vastata küsimustele, salvestada juhtide andmeid, broneerida kohtumisi ja suunata kiireloomulised kõned vajadusel inimesele. Ettevõtted seadistavad agendi, kirjeldades oma ettevõtet, teenuseid ja KKK-sid, seejärel saavad nad uue telefoninumbri või suunavad olemasoleva numbri ümber. Iga kõne logitatakse koos transkriptsiooni, kokkuvõtte ja salvestusega, mis muudab interaktsioonide ülevaatamise ja agendi aja jooksul täiustamise lihtsaks. See on suunatud väikeettevõtetele, agentuuridele ja teenusepakkujatele, kes võitlevad telefonikõnede mahuga sammu pidamisega.

• AI-häälagent sissetulevate kõnede jaoks
• Kohandatud telefoninumber või kõne edastamine
• Kõneprotokollid, salvestised ja kokkuvõtted
• Kohtumiste broneerimine ja juhtumiandmete jäädvustamine
• Inimese üleandmine ja kõne suunamine
• Pidev agendi kohandamine varasemate kõnede põhjal

GaiaHub AI on koodita platvorm, mis on loodud selleks, et aidata kasutajatel luua ja käivitada tehisintellektil põhinevaid rakendusi ilma koodi kirjutamata. See on suunatud ettevõtjatele, tootemeeskondadele ja mittetehnilistele ehitajatele, kes soovivad oma ideid lühikese aja jooksul toimivateks tehisintellekti tööriistadeks muuta. Platform ühendab lohistamisega ehitatavad plokid eelvõtmega AI mudelitega, võimaldades kasutajatel kujundada töövooge, ühendada andmeallikaid ning avaldada rakendusi otse liidesest. See sujuvamaks protsessi kontseptsioonist juurutatava toote loomisele. GaiaHub AI on eriti kasulik kiireks prototüüpimiseks, sisemiseks automatiseerimiseks ja väikestele meeskondadele, kes vajavad AI-funktsioonide juurutamist ilma spetsialiseeritud arendajaid palkamata.

• Visuaalne no‑code rakenduse ehitaja
• Eelintegreeritud AI mudelid
• Ühe klõpsuga juurutamine
• Töövoo- ja automatiseerimistööriistad
• Andmeallika ühendused
• Mallid levinud kasutusjuhtude jaoks