AI Infrastructure & MLOps Yhteenotto — 22. kesäkuuta 2024

Foundry on kehitysympäristö, joka keskittyy webin kautta toimiviin tekoälyagentteihin. Se tarjoaa rakentajille rakennettavaksi infrastruktuuria agenttien suunnitteluun, niiden suorittamiseen oikean tai simuloitun reaaliaikaisiin selaamistöihin ja toiminnan jatkokelpoisten arviointien avulla. Foundryn jälkeenpäin korostaa treenauksen ja testausten vuoropuhelu. Kehittäjät voivat benchmarkata agentin suorituskykyä, tallentaa virhepohdintoja ja jälleenkäynnistää malli tai prompteja parantaakseen uskollisuutta tehtäviin kuten navigointiin, muodostamaan lomakkeita, asioiden purkamiseen sekä monivaiheetöisiin työvaiheisiin. Työkalu on suunniteltu joukkueille, jotka lähettävät tuotantotasaista selainagenttia, ja niille tarvitaan toistuvaa arviointia, ohjelmointivaikeuksien näkyvyyttä ja jatkuvaa parannusta eikä vain yksittäisiä skriptejä.

• Agenttien kehittämistyökalu
• Tietokonerobotteja koskeva automaattinen testaus
• Polutetun kehittäminen ja -käyttäminen toimenpiteet
• Suorituskyvyn mittaukset ja arvioinnit
• Erikoistumisen ja seuraaohjeiden tutkiminen
• Toistuvien parannusten työkalut

operators.dev on alusta, jonka tarkoituksena on yksinkertaistaa AI-agenttien luomista ja käyttöönottoa. Se on suunnattu kehittäjille ja tiimeille, jotka haluavat siirtyä nopeasti konseptista toimivaksi agentiksi ilman, että heidän täytyy kamppailla matalan tason orkestroinnin tai boilerplate‑infrastruktuurikoodin kanssa. Palvelu keskittyy virtaviivaistamaan yleisiä agenttien rakentamiseen liittyviä tehtäviä, kuten käyttäytymisen määrittämistä, työkalujen ja tietolähteiden yhdistämistä sekä agenttien siirtämistä tuotantoympäristöihin. Poistamalla suurin osa taustalla olevasta monimutkaisuudesta tavoitteena on tehdä agenttien kehittämisestä saavutettavampaa laajemmalle kehittäjäkunnalle. Tämä tekee operators.devistä hyödyllisen vaihtoehdon prototyyppien rakentamiseen, sisäiseen automaatioon ja tuotantovalmiiden agenttien toimittamiseen vähemmän insinöörityötä vaativalla tavalla.

• Agenttien rakennusrajapinta
• Sujuva käyttöönottoputki
• Työkalujen ja integraatioiden tuki
• Vähennetyt koodausvaatimukset
• Sopii prototyyppien ja tuotannon tarpeisiin
• Kehittäjälähtöinen työnkulku

AgentOS on kehitysalue, joka on suunniteltu erikoistuneiden AI-agenttien verkostoitumiseen tekijöiden kuten agentti, joka toimii määrätyn tehtävän tarkoituksessa, ja joka yhdellä jakamalla ajorutina koordinoi ja työstää monivaiheisia työvirtoja. Sen sijaan, josta voidaan luoda yleiskäyttöinen malli, ryhmät saa käynnistää kohdistuneita agentteja, jotka kullekin vakiintuneelle roolille. Ne koordinoivat jakamaan kiellettyä suoraa ajoa. Alusta korostaa kehitysvauhtia, tarjoamalla kehille työkaluja agentin käyttäytymisen määrittelemiseen, ulkoisten tietolähteiden yhdistämiseen ja siihen, miten agentit kommunikoivat toisiinsa. Siitä tietävät ohjelmoijat ja tuotepiirit, jotka haluavat lähettää agentteja sisältävät ominaisuudet markkinoille ilman infrastruktuurin rakentamista alusta alkaen.

• Erityisten koneiden luominen
• Monikoneen järjestelmän koordinaatioaika
• Koneiden välisen viestintä
• Ulkoisten työkalujen ja datan integraatio
• Työnkulkujen suunnittelu ja hallinta
• Keikkailijayhteislähtöinen työkalustot

BaseAI on ohjelmistokehittäjille suunnattu rahastointirakenne, joka tarkoitettu kehittämään palvelinkäyttöistä AI-haavoittuvuutta, kutsutaan putkiksi. Koneet varustetaan muistilla, työkalulla sekä erilaiden kielimallien käytettävyydellä. Sen keskeinen paino olkoon paikallinen-ensimmäinen toimintamalli, jonka avulla ohjelmistokehittäjiä voidaan rakentaa, kokeilla ja iteroita agentteja suoraan ohjelmakoodiensa alueelta ennen niiden lähettämistä. Frameworke tukee rekisteröityä luominen läpi sisäänrakennettuja muistijonoja, integroi suosituimpiin LLM-tarjoajiin ja paljastaa TypeScript SDK-lisäohjelmien käyttöön agenttien liittämiseksi verkkosivuille ja tietokonesovelluksiin. Käytännön asetukset asetetaan koodiin, mikä tekee versioinnin ja yhteistyön suoraviivaisesta. Tavoitteenaasi on joukot, jotka haluavat yksilöllistää avoimen lähdekoodin stackin ilman yksityiskohtaisia agenttijärjestelmiä, saman aikaisesti pääsekäyttäjien myös saada kykyä laajentaa toiminnallisuutta omillensa kehitettyjen työkalujen kautta.

• Palvelimenomaiset AI-agenttien putkit
• Muistin tukeminen RAG-toimintojen kanssa
• Työkalujen kutsuminen tuettu
• TypeScript SDK
• Monimalli LLM-yhteensopivuus
• Konfiguraatiot koodiin säilytettyjen

Phala on hajautettu pilvialusta, joka suorittaa tekoälykuormia luotetuissa suoritusympäristöissä (TEEs), tarjoten kehittäjille todennettavissa olevia yksityisyyslupauksia sekä koodille että datalle. Se antaa tiimeille mahdollisuuden ottaa käyttöön malleja, agenteja ja sovelluksia, joissa syötteet, tulosteet ja painot pysyvät suojattuina isäntäinfrastruktuurilta. Alusta tukee private inference -ominaisuutta suosituissa avoimissa malleissa, confidential containers -ratkaisuja räätälöidyille työkuormille sekä on-chain attestations -todistuksia, jotka osoittavat, että laskelmat suoritettiin odotetusti. Tämä tekee siitä sopivan herkille käyttötapauksille, kuten terveydenhuollon dataan, taloudelliseen analyysiin, avaimia käsitteleviin autonomisiin agenteihin ja tekoälypalveluihin, jotka vaativat auditoitavaa luottamusta.

• Luottamuksellinen GPU- ja CPU-laskenta
• Yksityiset LLM-inferenssi-päätepisteet
• Etätodistaminen ja todistusten luominen
• Käyttöönotettavat Docker-pohjaiset työkuormat
• Integraatio Web3:n ja ketjussa olevien agenttien kanssa
• Maksu käytön mukaan -decentralisoitu hosting

Simple Phones tarjoaa älyllisten ääniagenttien, jotka hoitavat sisään- ja uloskäyntiyhteyskutsut yrittäjien toiminnassa. Palvelu lähettää epäonnistuneista tai kaikista puheluista asiakkaalleen oma älyllinen agentti, joka voi vastata kysymyksiin, tallentaa tiedot uusista mahdollisista asiakkailta sekä ilmoittaa nopeasti odottavista yhteydenotosta yksityiskohtia myöhemmin. Yritykset asettavat käyttäjän kuvaillessaan yrityksensä, palveluiensa ja FAQ-lisäyksia, jolloin saavat uuden puhelinnumeron tai eteenpäin suuntaavat jo olevan. Kunkin kutsun tallennetaan artiklofoni, yhteenveto ja äänitallenne, mikä helpottaa vuorovaikutuksen arviointia ja kehittämistä ajan myötä. Se on suunniteltu pienten yritysten, toimistoille ja palveluntarjoajille, jotka painiovat pyrkiä vastaamaan puhelinvoimasta.

• AI-lähdettävä ääninäyttäjä vastaamaan tulovirtaa
• Muokattava puhelinnumero tai kutsuvahvistin
• Puhelinmuistiinpanot, äänitallenteet ja yhteenveto
• Asiakaspalaute ja asiakasmerkinnät
• Inhimillinen käsittely ja puhelinluvuuden ohjaus
• Perussuuntaukset perustuen aikaisempien puheluiden yhteenvetoihin ]

GaiaHub AI on koodattomien sovellusten luomiseen ja käyttöön ottoon suunniteltu ilmainen alusta, joka auttaa käyttäjiä luomaan ja käyttöön otettavaksi nostamaan AI-vaikutteisia sovelluksia ilman mitään koodausta. Tämä lihtenii soveltuu opettajiin, tuoteryhmille ja teknisen tiedon puutteisille kehittäjille, jotka haluavat tehdä toiveistaan valmis AI-sovelluksita lyhyen aikataulun sisällä. Alusta yhdistää sivussäädettäviä rakennusblokkejta prekonfiguroitujiin AI-malleihin, mahdollistaen käyttäjien suunnitella työvaiheita, yhdistää tietolähteitä sekä julkaisi ohjelmia suoraan käyttöliittymästään. Tämä helpottaa prosessia siirtymisestä konsepteistä kehittämiseen ja jakeluun valmisksi tuotteeksi. GaiaHub AI on erityisen hyödyllinen suuripaineiselle prototypingille, sisäiselle automatisoimiselle ja pienille tiimeille, jotka tarvitsevat saada AI-ominaisuudet toimimaan ilman erikoistunutta kehittelijäpohjaa.

• Visuaalinen kooditon sovellusrakentaja
• Ennestään integroituja AI-malleja
• Yhden painalluksen deployment
• Työnkulun ja automaation työkalut
• Tiedonlähdeyhteydet
• Yleisiin käyttötapoihin liittyvät mallit