AI Infrastructure & MLOps Sadursme — 2024. gada 22. jūnijs

Foundry ir izstrādes platforma, kas ir pazīmēta ar AI agentiem, kas darbojas tieši tīmeklī. Tā ļauj būvētājiem būvēt infrastruktūru, dizainēt agentus, izbaudīt tikai simboliska vai sagatavotā tīmekļa braukšanas uzdevumu, un paplašināt agentu komponentu struktūrā pēc noteiktām vērtējumu noteikumiem. Ģenerāli novietojoties pārkonstrukciju, šķēmijas ģenerators pārstāv to saistīto apmācības un pārbaudes ritu. Veidojumi var izmēģināt zināmu ierīces funkcionalitāti, izsniedzēt konkrētu priekšvārdu gadījumus un izmēģināt modeli vai pieprasījumus, lai uzlabotu spēju veikt uzdevumus, kā navigāciju, priekšloslēgumu, datus ekstrahēšanu un multizīmju procesus. Laidu sadaļai "Foundry" mērķis ir komandas, kas piešķir ražotāju kvalitātes izziņojuma pārraudzību pārlādītājiem, kas vēlas atkārtotu novērtēšanu, debugēšanas redzamību un nepārtrauktu uzlabošanos vietu pietikīgi nekuršais skripti.

• Agenta izstrādes vide
• Automatizēta testēšana pārlūkošanas uzdevumos
• Apmācības un precīzā pielāgošanas darba plūsmas
• Veiktspējas salīdzināšana un novērtēšana
• Kļūdu novēršana un izsekošanas pārbaude
• Iteratīvās uzlabošanas rīki

operators.dev ir platforma, kas paredzēta, lai vienkāršotu AI agentu izveidi un izvietošanu. Tā ir paredzēta izstrādātājiem un komandām, kas vēlas ātri pāriet no koncepcijas uz funkcionālu agentu, nepiedaloties zemo līmeņa orchestrācijas vai boilerplate infrastruktūras kodēšanā. Pakalpojums koncentrējas uz izpriecināšanas izveides uzdevumu vienkāršošanu, piemēram, uzvedības definēšanu, rīku un datu avotu pieslēgšanu un agentu izvietošanu ražošanas vidē. Izdalot daudzus zemējējo komplektācijas aspektus, tas cenšas padarīt agentu izstrādi pieejamu plašākam izstrādātāju klāstam. Tas padara operators.dev noderīgu prototipu izstrādē, iekšējā automatizācijā un ražošanas gatavu agentu piegādē ar mazāku inženieru darba slogu.

• Agentu izveides saskarne
• Efektīvs izvietojuma pipeline
• Rīku un integrācijas atbalsts
• Samazināta kodēšanas prasība
• Piemērots prototipu izstrādē un ražošanā
• Izstrādātājiem orientēts darba plūsmas

AgentOS ir izstrādes platforma, kas paredzēta specializētu AI agentu tīklu izveidei, kas sadarbojas, lai izpildītu vairākpakāpju darba plūsmas. Tā vietā, lai paļautos uz vienu vispārīgu modeli, komandām ir iespēja izveidot fokusēti agentus, kuri katrs apkalpo noteiktu lomu un koordinējas, izmantojot kopīgu izpildes vidi. Platforma uzsver iterācijas ātrumu, nodrošinot izstrādātājiem rīkus, lai definētu agentu uzvedību, pievienotu ārējos datu avotus un pārvaldītu informācijas pārsūtīšanu starp agentiem. Tā ir paredzēta inženieriem un produktu komandām, kas vēlas izdot agentu balstītas funkcionalitātes, neizveidojot savus koordinācijas infrastruktūras no nulles.

• Specializētu agenta izveide
• Daudzagentu koordinācijas izpildes vidē
• Agentu starpā komunikācija
• Integrācija ar ārējiem rīkiem un datiem
• Darba plūsmas izveide un pārvaldība
• Izstrādātājiem orientēti rīki

BaseAI ir developers orientēts ierīcee, kurš palīdz izveidot serverlēsu AI agrentus, pazīstamās kā caurules, kas var tapt aprīkota ar atmiņu, rīkiem un piekļuvi dažādām valodu modelēm. Tajā ir uzsvērti lokāli orientēts darbplūsma, atļaujot programmatūras izstrādātājiem izveidot, testēt un atkārtoti pārbaudīt agrentus tieši no savās izstrādes bāzes, pirms izvietojumiņkiem to izpētnēt arī. Bāze ir paredzēta retrievement-augmentētās izvēles nodrošinājumam ar sastopamajām memories pamatikām, integrējas ar populāriem LLM pārdevējiem, un izveido TypeScript SDK, lai iebūvētu agentus web un backend programmās. Iestatījumi ir izvietoti koda kodā, tādējādi nodrošinot vienkāršu verziju un sabiedrības pārvaldīšanu. BaseAI ir piegādāta komandām, kuras grib mazināt saistību ar atvērtos kodi, neizmantojot sarežģītu agentu infrastruktūru, savukārt saglabotot iespēju papildināt funkcionalitāti ar sīkizīmju līdzekli un integrācijām.

• Servera AI agentu caurus
• Atmiņa RAG darbības
• Rīku atsauksme
• Tipa skriptu SDK
• Dažādu LLM sniegtajām iespēbām
• Konfigurācija kā kodu

Phala ir decentralizēts noudzīšanas platforma, kas izbrauk atvērtās robežu apvidus (TEEs) un ļauj attīstītājiem gūt verificējamu privātības garantiju kodu un datu apstrādei. Tas ir nodarbināts komandas izvietot modelus, agēntus un lietotni, kur ievades, izvades un svars paliek aizsagatavoti no infrastruktūras, kurā to izvieto. Platforma atbalsta privātu nomainīšanu populāriem atvērtu modeliem, konfidencēnu konteinerus vietnīkātiem pielaidošām apkalpojumiem un virsšķirējo paziņojumu, kādēļ daudz darbības kārtojas kā par gaidīti. Tas to padara piemērotāku sūtīgajiem lietojumiem precīziājiem datiem, finanšu analītiku, autonomo līdzekļiem izņemot īpašumus ķēdes un AI pakalpojumiem saskaņotas uzticības kontroles arī.

• Konfidenciala GPU un CPU aprēķināšana
• Privāts LLM inferences galdiņi
• Attēlu attestācija un pierādījumu ģenerēšana
• Ievietojamas Docker balstītas darba slodes
• Integrācija ar Web3 un uz ķēdes agentiem
• Pay-as-you-go decentralizēta hostinga pakalpojums

Simple Phones nodrošina mākslīgā intelekta balss aģentus, kas apstrādā ienākošos un izejošos biznesa zvanus. Pakalpojums pārsūta nokavētos vai visus zvanus uz pielāgotu mākslīgā intelekta aģentu, kas var atbildēt uz jautājumiem, sagūstīt klienta informāciju, rezervēt tikšanās un pārsūtīt steidzamus zvanus cilvēkam, ja nepieciešams. Biznesa uzņēmumi izveido aģentu, aprakstot savu uzņēmumu, pakalpojumus un biežāk uzdotos jautājumus, pēc tam saņem jaunu tālruņa numuru vai pārsūta esošo. Katrs zvans tiek reģistrēts ar atskriptu, kopsavilkumu un ierakstu, kas atvieglo mijiedarbības pārskatīšanu un aģenta pilnveidošanu laika gaitā. Tas ir paredzēts maziem biznesa uzņēmumiem, aģentūrām un pakalpojumu sniedzējiem, kuri cīnās ar tālruņu sarunu apjomu.

• Mākslīgā intelekta balss aģents ienākošajiem zvaniem
• Pielāgots tālruņa numurs vai zvana pārsūtīšana
• Zvanu atskripti, ieraksti un kopsavilkumi
• Tikšanos rezervēšana un klienta informācijas sagūstīšana
• Cilvēka pārsūtīšana un zvana maršrutēšana
• Nepārtraukta aģenta pilnveidošana, pamatojoties uz iepriekšējiem zvaniem

GaiaHub AI ir noliešīga platforma, dizainētu, lai palīdzību saskarotājiem radīt un palaist AI aprīkojumu bez koda rakstīšanas. Tajā pašā laikā tā paša ir paredzēta uzņēmējiem, produkta komandām un nezināmajām būvētājiem, kas domā arī pārkonvertēt savas idejas par darbīgu AI ierīču kļūdienām. Ar platforma kombinētām grīdas un noklusētais ātrdarba modeļu elementu palīdzību tiek uzlabota izstrādes procesa efektivitāte. Lietaņu izvēles metožu izmantotais interfeiss ļauj lietotājiem projekta idejām izveidot darbviesturus, savienot datu avotus un publicēt programmai tieši no darbviestura. Šīs darbviestura izmantošana ļauj šķērsu likā arī no projektu idejām sākt izmantot izstrādātos produktus. GaiaHub AI ir īpašvērtīgs tikai prototipu izstrādāšanai, iekštīkles automācijai un nelieliem komandām, kuras nepiecieš visai spēcīgas programmatūras kādreizējām speciālistiem.

• Vizuals bezkoda lietojumprogrammas veidotājs
• Integrēti AI modeļi
• Vienklikas izvietošana
• Darba plūsmas un automatizācijas rīki
• Datu avotu pieslēgšanas līdzekļi
• Veidnes par vispārīgiem lietojuma gadījumiem