Agent Development Yhteenotto — 22. joulukuuta 2024

1

Vocode

Tekoäly-yhteensopainen aika-aineen ääniagenttien rakentamismallipohja puheenkäännetystekniikasta, kehittyneistä merkistä ja tekstiä ääniksi muuntaavasta komponentista

4.8 (4)

Freemium

Koko arvostelu

Vocode on avoimen lähdekoodin kirjasto, jonka avulla kehitetään ääni-ohjelmaoppia käyttäviä keskustelunäkökohtia. Se tarjoaa tarpeellisen infrastruktuurin, jotta äänikäsittelyä, suuria kielioppeja (LLM) sekä äänen synnyttämistä voidaan liittää yhtenä kriittisessä real-time-tietokoneohjelmassa, joten tekijöiden on helppo luoda agentteja, jotka voivat kuunnella, olettella ja puhua verkonsovelluksissa, verkkosovituksissa tai paikallisissa ääniohjainkohteissa. Ohjelmistokehys on pääosin käytössä Python SDK: n muodossa, jolla painotetaan ääniin liittyvää kulkua siten, että dialogit tuntuvat reagoivilta eikä muuten siis pitkistä viiveistä. Siellä hoidetaan kehyksistä riippuvat suunnitteluvastuut, joilla on haastava olla äänikorttelijoiden rakentamisessa perusvoimmillaan, kuten puuttumishoitojen ja häiriöjen hallinta, ääninäytteen buffering ja lähetys, sekä transkriptorin, agenttien logiikan ja synteettisääteisen välinen viestintäsuunnittelu. Vocode on suunniteltu modulaariseksi ja toimittaja-agnostiseksi. Se integroidaan useiden kolmannen osapuolen palveluiden kanssa kunkin vaiheen prosessimmeen – esimerkiksi koodin tulkitseminen-palveluntarjoajista kuten Deepgram ja AssemblyAI, ohjausjärjestelmistä kuten OpenAI:n tarjoamat, ja tekstistä ääneksi kääntävät moottorit mukaan lukien ElevenLabs, Azure ja muut. Kehittäjät voivat vaihtaa osia sisään ja ulos riippuen kustannuksista, reaktioajoista ja ääniputkien laadusta. Yleinen sovelluskäyttäytymisen esimerkki on puhelinverkko: Vocode tukee puhelinsoittojen lähettämistä ja vastaanottamista muiden yritysten kuten TwilION kautta, mikä tekee siitä sovellettavan automatisoidun lähtö- ja saapumapoikkeamien sivustoille, ääniosaston, äänipuhelinvastasyntetisaattoreille ja asiakaspalveluun. Lisäksi se tukee selainperusteisia ja paikallismikrofoniin pohjautuvia yksittäisten yleisöiden äänipedotilaisuuksia. Vocode on avaaja- ja itsepalveluosainen, joten se vetää joukkoon, jotka haluavat kontrollin koko kasaansa ja kykenevät mukauttamaan agentti käyttäytymistä itsenäisesti eikä usko heikkenevän, täysin hallitun lakkautetun ratkaisun. Siitä seuraa se, että tuottamaan tuotannollisia äänikonttareita tarvitaan edelleen varustaa yhdenmukaisilla ja maksaa ulkoisiin suunnitteluihin, LLM- ja TTS-palveluihin sekä sovittamaan liukkauden ja käsittelykäyttäytymisen. Se toimii kasvavan äänirajoitteen kehyskeinojen yhteyttä ohjattuihin alustoihin ja muihin kehysjärjestelmiin; keskeinen erottava piirre on avoimen lähdekoodin kehys, joka antaa ohjelmistokehittäjille suoran pääsyn prosessointijakson sisäisiin tietoihin.

• Reaaliaikainen ääniputki-agenttivirtausreitti
• Monipuoliset integraatiot STT-, LLM- ja TTS-palveluiden kanssa
• Puhelinpuhelujen tukeminen Twilio- ja vastaavien tietoliikennepalveluiden kautta
• Välitys(torjuminen)-käsittely (bargain)
• Python SDK agenttien erityisasemien rakentamista varten
• Tuki verkostovalikoimissa ja paikallismikrofoni-keskusteluissa

2

MemGPT

Kehys, joka antaa LLMeille pitkäaikaisen muistin ja itsenäisesti hallinnoidun kontekstin, joka ylittää kiinteät token-rajoitukset

4.5 (4)

Freemium

Koko arvostelu

MemGPT on avoimen lähdekoodin kehys, joka on suunniteltu vastaamaan yhtä suurten kielimallien perusrajoituksista: niiden kiinteää kontekstialuetta. UC Berkeleystä lähtöisin olevan tutkimuksen pohjalta projekti esitti idean käsitellä suuren kielimallin (LLM) rajoitettua kontekstia kuin käyttöjärjestelmä käsittelisi rajottua fyysistä muistia, käyttämällä sivutusta ja hierarkisia muistitilanteita antaakseen malleille illuusion paljon suuremmasta, pysyvästä muistista. Lähestymistapa on saanut suoran inspiraation käyttöjärjestelmien suunnittelusta. MemGPT erottaa kontekstimuistin (tällä hetkellä mallin kehotteessa olevat tokenit) ja kontekstin ulkopuolelle tallennetun ulkoisen muistin. Itse LLM:lle on annettu funktiokutsutyökaluja, joiden avulla se voi päättää, milloin siirtää tietoa näiden tasojen välillä — esimerkiksi tallentaa tärkeitä faktoja pitkäaikaistallennukseen, hakea relevanttia aiempaa tietoa tai muokata omaa ydinmuistiaan. Tämä itse muokkaava käyttäytyminen mahdollistaa agenttien ylläpitää koherentin, kehittyvän tilan pitkien keskustelujen tai asiakirjojen aikana, jotka ylittävät huomattavasti yhden kontekstikkunan. Kehyksen tavoitteena ovat kehittäjät, jotka rakentavat keskustelurobotteja, jotka tarvitsevat pysyvän muistin käyttäjistä ja aiemmista vuorovaikutuksista, sekä niitä, jotka työskentelevät asiakirjojen analyysin parissa suurten tekstimassojen kanssa, jotka eivät mahdu kontekstiin. Hallitsemalla palautusmuistia, arkistotallennusta ja työkonteksteja, MemGPT mahdollistaa agentit, jotka voivat viitata yksityiskohtiin paljon aiemmin vuorovaikutuksessa ilman, että kehittäjä joutuu manuaalisesti rakentamaan hakuputkia jokaiselle tapaukselle. MemGPT toimii sekä proprietaaristen mallien, kuten OpenAI:n tarjoamat, että paikallisesti hostettujen avoimien mallien kanssa, ja se integroituu vektori-tietokantoihin ja muihin tallennustukeihin istuntojen välisen muistin säilyttämiseksi. Projekti kehittyi myöhemmin ja liittyy läheisesti Letta-nimiseen yritykseen ja alustaan, joka jatkaa taustalla olevien tilallisten agenttien konseptien kehittämistä, tarjoten palvelimen ja työkaluja alkuperäisten ideoiden ympärille. Sen päävahvuuksia ovat käsitteellinen selkeys ja konkreettinen, uudelleenkäytettävä kuvio pitkän aikavälin muistille, joka ylittää naiivin hakuaugmented-generaation. Kaupankäynnin tavalliset kompromissit ovat tyypillisiä agentti-kehysille: itseeditoiva muistokehä luottaa voimakkaasti mallin toimintopuhelun luotettavuuteen, joka voi vaihdella pienemmillä tai paikallisilla malleilla, ja lisämuistinhallinnan vaiheet lisäävät latenssia ja merkkien ylitystä. Kehittyvänä avoimen lähdekoodin projektina sen nimeäminen, API:t ja ympäröivä ekosysteemi ovat muuttuneet ajan saatossa, mikä voi tehdä dokumentaatiosta ja versioinnista liikkuvan kohteen.

• Hierarkkinen konteksti- ja ulkoinen muistinhallinta
• Itse muokkaava ydinmuisti funktion kutsujen kautta
• Arkisto- ja paluumuistivaihtoehto
• Vektoritietokannan integrointi hakua varten
• Tuki useille LLM-taustajärjestelmille
• Tilannekohtaiset keskusteluaagentit

3

Letta AI

Avoin koodi -yhteisöön kuuluvan alustan avulla rakennetaan tilallisia AI-agentteja pitkällä mukaansa ja etäisillä periaatteilla

5.0 (4)

Freemium

Koko arvostelu

Letta AI on avoimen lähdekoodin alusta, joka on suunniteltu luomaan tilaoliontaista AI-aloitinta. Näihin aloitintoihin on varustettu pitkäaikaista muistia ja edistyksellisiä päätöksentekijän ominaisuuksia. Plataformi antaa kehittäjille mahdollisuuden luoda AI-aloitinta, jotka voivat säilyttää viimeaikaisia vuorovaikutuksia muistissaan, ja tietysti mahdollistaa monimutkaisemman ja kontekstiä huomioiden päätöksentekijän prosessit. Tämähän on erityisesti käyttöön hyödyllistä tehosteet, joihin ohjaimet on kehiteltävä opettelemalla kokemuksistaan ajan kuluessa ja muuttamalla vastaustaan sen mukaan. Letta AI kohdennetaan kehittäjille ja tutkijoille, jotka ovat kiinnostuneita luomasta monimutkaisia AI-aloitintia erilaisille sovelluksille, alusta palvelun tuesta tarkempia päättely tehtäviin. Pitkäaikaisella muistillaan ja edistyksellä ajattelullaan Letta AI tehostaa kehittämiseen AI-aloitintia, jotka kykenevät hylkäämään yleisen alueen tehtäviä vakaammin itsehallinnolle ja älykkäyydelleen nähden.

• Tilalliset AI-agentit
• Pitkäaikainen muisti
• Eden käsittely

4

mosaia

Avoin alusta rakentaa, jakaa ja asentaa kohtaamassa tekoäly-agentit yhteistyössä

4.5 (6)

Freemium

Koko arvostelu

Mosaia on yhteisöllinen alusta, joka on suunniteltu avoimen AI-koneiden rakentamiseen ja sovellusten toteuttamiseen. Se tarjoaa kehittäjille viestejä tehdä, muokata ja lisätä AI-ratkaisuja sekä edistää yhteistyötä ja avoimuutta projektipohjaisesti. Alustasta korostetaan avoimuutta, vaikka käyttäjät voivat jakaa omaa työllään, sekoittaa toisen lukuun ja panostaa kasvavaan AI-komponenttien ekosystermin kehitykseen. Tämä lähestymistapa pyrkii alentamaan AI-kehityksen sisäänpääsyvaikutelman, samalla kehittämään asiantuntijoiden tietojen jakamista. Jos haluat prototypoida yksittäistä agenttia vai koostaa monimutkaista AI-käytäntöä, Mosaia tarjoaa infrastruktuuria ja yhteisötä tukemaan iteratiivista ja avointa kehittämismenettelyä.

• Aiheenrakennusvälineet tekoäly-agenteille
• Auki olevan jakamisen ja yhteistyön toteutustapaa
• Tehokkaasti kehitetty yhteisöinen markkinapaikka
• Mukautettavat agenttiin liittyvät työvaiheet
• Käyttäjäkeskinen kehitysalusta
• Järjestelmän käyttöinfrastruktuuri