AI Infrastructure & MLOps Obračun — 22. lipnja 2024.

Foundry je razvojni platformni okvir usmjeren na umjetne inteligencije agente koji djeluju preko weba. Pruža izgraditeljima infrastrukturu za dizajniranje agenata, njihov rad na stvarnim ili simuliranim web preglednim zadacima te iteriranje njihovog ponašanja uz strukturnu procjenu. Izvan konstrukcije, Foundry naglašava petlju obuke i testiranja. Razvijatelji mogu benchmarkati performanse agenata, snimiti slučajeve neuspjeha i usavršiti modele ili upite za poboljšanje pouzdarnosti kod zadataka kao što su navigacija, popunjavanje obrazaca, izvlačenje podataka i multi-koraci tokova rada. Alat je namijenjen timovima koji izrađuju proizvodne preglednike za preglednik koji zahtijevaju ponovljivu ocjenu, vidljivost otkrivanja pogrešaka i kontinuirano poboljšanje, umjesto jednorasnog skriptiranja.

• Okružje za razvoj agenata
• Automatizirano testiranje preglednika
• Tokovi obuke i fino podešavanja
• Benchmarked performansi i ocjene
• Odgovor i pregled traga
• Alati za iterativnu poboljšanju

operators.dev je platforma dizajnirana kako bi se pojednostavila stvaranje i implementacija agenata AI-a. Svoju pozornost usmjeruje razvojačima i timovima koji žele brzo prijeći od ideje do radnog agenata bez borbe s niskotijesnim orkestracijama ili kodom za infrastrukturu koji se mora prilikom početka stvoriti. Servis se osvrta na jednostavljenje često aktualnih zadataka u izgradnji agenata, kao što je određivanje odnosa prema okolišu, spajanje mjesta sa izvorima podataka i pokretanje agenata u produkciji. Odvlačeći se u neke mjeru od podružne složenosti, taj namjerava učiniti razvijanje aganata dostupnijim za širi raspon građevaca. Ovo čini operators.dev korisnim opcijom za prototipiranje, unutarnju automatizaciju i upakovanje spremnih za produkcijsku uporabu agenata s manjom tehničkom nadgradnjom.

• Interfejs za gradnju agenata
• Pojasnjena ruta za rasporedu
• Podrška napravianju alata i integraciji
• Smanjeni zahtjevi za koda
• Pogodan za prototipiranje i proizvodnju
• Pojava razvojnoj procesuirajuci tok

AgentOS je platforma za razvoj dizajnirana za stvaranje mreža specijaliziranih agenata umjetne inteligencije koji zajedno rade na dovršavanju radnih protoka s više koraka. Umjesto što se oslanjaju na jedan općenamjenski model, timovi mogu pokrenuti usmjerene agente koji svaki obrađuju određenu ulogu i koordiniraju putem dijeljenog vremena izvođenja. Platforma naglašava brzinu iteracije, omogućavajući developerima alate za definiranje ponašanja agenata, spajanje vanjskih izvora podataka i upravljanje načinom na koji agenti razmjenjuju informacije međusobno. Namijenjena je inženjerima i timovima za proizvodnju koji žele izvršiti agent-bazirane funkcionalnosti bez gradnje infrastrukture za orkestraciju od nule.

• Stvaranje specijaliziranih agenata
• Vreme za orkestraciju više agenata
• Međuagencijska komunikacija
• Integracija s vanjskim alatima i podacima
• Dizajn i upravljanje radnom protokom
• Alati orijentirani ka razvijateljima

BaseAI predstavlja okvir za razvojitelje koji se osjećaju bliskom za stvaranje besplatnih agenata AI-a, pozvani cijevi (pipes), koje mogu biti opremljene sa memorijom, alatnim programima i pristupom više modela jezika. Prikazuje lokalni postupak, dopuštaći razvojiteljima da izrade, testiraju i mijenjaju agente neposredno iz svoje baze koda prije deployment-a njih. Framewerk podržava generaciju nadopunjenu izvučem prilikom uporabe sadržajnih primitiva integriranih u samu osnovu, integrira se s popularnim pruškama LLM-a i exposed je TypeScript SDK za ugradnjom agenata u web i aplikacije backend. Podrška za konfiguraciju nalazi se u kodu, čime se jednostavnost verzioniranja i suradnje omogućava. BaseAI ciljani ekipe koje žele fleksibilnost otvorenog source-koda bez upravljanja kompleksnom infrastrukturom agenta, kao i moć proširenja funkcionalnosti kroz prilagođene alate i integracije.

• Serverless AI agentovi
• Pamćenje za RAG tokove rada
• Podrška pozivanju alata
• SDK za TypeScript
• Kompatibilnost višestranih LLM modela
• Konfiguracija kao kod

Phala je decentralizirani oblak platforma koja izvodi AI pokazatelje unutar zaštićenih izvršnih okruženja (TEEs), pružajući razvijačima verificirane osiguranje privatnosti za kodu i podatke. Omogućava timovima da zapremesti modele, agente i aplikacije gdje ulazni, izlazni i težine ostaju zaštićene od host infrastructure. Platforma podržava privatnu provjeru za popularne otvorene modele, zamke za konfidenčne sustave za prilagodljive terete, i pojamna potvrda o tome da su računanja izvršena kako je očekivano. Ovo je zato pogodno za osjetljive slučajeve uporabe kao što su zdravstveni podaci, financijski analiza, autonomni agenci koji rade s ključem, te servise za inteligentne sustave koje zahtijevaju auditorsko povjerenje.

• Konfidentsko računanje GPU i CPU
• Privatne konca za inferenciju LLM
• Daljinski dokaz i generacija dokaza
• Dostupne količinski Docker - zasnovanih tereta
• Integracija s Web3 i on-chain agenata
• Plaćanje po upotrijebi decentralizirane hostediranja

Simple Phones nude AI-pojavljene glasovne agenta koji rukovode ulaznim i izlaznim pozivima za poslovanje. Servis prebacuje propušten ili sve pozive na osobni AI agent koji može odgovoriti na pitanja, prikupiti podatke o potencijalnim klijentima, zakazati sastanke i preusmjeriti važne pozive na ljudskog obrađivača kada je to potrebno. Poduzećima se omogućava postavljanje agenta prijavljivanjem svoje tvrtke, usluga i često postavljanih pitanja. Nakon toga, dobivaju novi broj telefona ili pretplatiti postojeći. Svaki poziv evidenciruje se sa prijepisom, sažetkom i snimkom, čime postaje jednostavno praćenje interakcija i nastavak napredovanja agenata kroz vrijeme. Ovaj namijenjen je malim poduzećima, agencijama i službama koji su potužili da drže koračinu sa brojem poziva.

• AI glasovni agent za dolazne pozive
• Počasn broj ili usmjerenje poziva
• Pisani prikazi i zapisnice poziva, kao i sažeci
• Rezerviranje sastanaka i sakupljanje prijelaznih vodilica
• Čovjeka koji preuzima poziv i usmjerenje poziva
• Tuniranje kontinuirano temeljem dosadašnjih poziva

GaiaHub AI je platforma bez koda koja je dizajnirana s ciljem pomagati korisnicima stvoriti i pokrenuti aplikacije temeljene na AI-u bez pisca koda. Osnovu njene korisništva čine preduvajatelji, timovi odgovorni za proizvod, kao i nemajući veze s tehnikom stvaraoci koji žele obrnuti svoje ideje u funkcionirajuće alate temeljene na AI-u za kraći vremenski razdoblje. Plataforma kombinira zgradi i otpremljene AI modeli pomoću kojih korisnici mogu dizajnirati protokole rada, povezati izvore podataka i objaviti aplikacije direktno iz interakcije. Ovo uspostavlja liniju za kretanje od koncepta do razvoja učitive proizvod. GaiaHub AI je osobito koristan za brzo prototipiranje, unutarnju automatisaciju i malim timovima koji moraju ubrzati izradu AI značajki bez prihvaćanja posebnih developerovih usluga.

• Neka-kod platform za stvaranje i implementaciju AI aplikacija.
• Pred-integrirani AI modeli
• Dvodijelna implementacija
• Alati za radni tok i automatisanje
• Konektori za izvor podataka
• Šabloni za zajedničke slučajeve uporabe