Pretekla bitka · 2024-12-22 UTC
Agent Development Obračun — 22. december 2024
Iz kategorije Agent Development. 15 oznake postavljenih med 4 borci. Vocode je osvojil krono.
Končna razvrstitev
Postava
Borci
Profili vsakega orodja, ki je tekmovalo v tej bitki, razvrščeni po končnem rezultatu.
Vocode
Open-source okvir za gradnjo realnočasovnih glasovnih AI agentov iz komponent govora-na-tekst, LLM in tekst-na-govor
Vocode je odprta izvorna knjižnica za razvoj aplikacij s pogovornim AI na osnovi zvoka. Omogoča potrebne povezave, ki združujejo prepoznavanje govora, velike jezikovne modele in sintetizacijo govora v en sam realni časovni cevovod, s čimer razvijalcem omogoča ustvarjanje agentov, ki lahko poslušajo, razmišljajo in govorijo prek telefonskih klicev, web sockets ali lokalne zvočne povezave. Okvir se je predvsem razširjen kot Python SDK, s poudarkom na pretakanju zvoka, tako da se pogovori zdi odziveni namesto na podlagi izmenjav z dolgimi zamiki. Obravnava težave z orkestracijo, ki otežujejo gradnjo glasovnih agentov od začetka, kot so upravljanje prekinitev (barge-in), pomladanje in pretakanje transkripcij ter koordinacija med transkriptorjem, logiko agenta in sintezatorjem. Vocode je zasnovan tako, da je modularen in neodvisen od ponudnika. Vključuje se z različnimi storitvami tretjih oseb za vsako fazo pipeline – na primer ponudniki prepisovanja, kot so Deepgram in AssemblyAI, jezikovni modeli, kot so tisti od OpenAI, in sistemi za pretvorbo besedila v govor, vključno z ElevenLabs, Azure in drugimi. Razvijalci lahko izmenjujejo komponente glede na stroške, latency in zahteve po kakovosti glasu. Običajen primer uporabe je telefonija: Vocode omogoča oddajanje in sprejemanje telefonskih klicev prek ponudnikov, kot je Twilio, kar ga naredi primernega za gradnjo avtomatiziranih izhodnih in vhodnih klicnih agentov, glasovnih asistente ter telefonskih botov, usmerjenih proti strankam. Prav tako podpira pogovore v brskalniku in lokalni mikrofon za glasovne izkušnje v aplikaciji. Ker je Vocode odprtokoden in samostojno gostljiv, privlači ekipe, ki želijo nadzor nad svojim skladiščem in možnost prilagajanja vedenja agentov, namesto da bi se zanašale na popolnoma upravljan zaprti platform. Kompromis je, da za izgradnjo agentov na produkcijskem nivoju še vedno treba povezovati in plačevati zunanje storitve za transkripcijo, LLM in TTS ter nastavljati zakasnitve in pogovorno vedenje. Sedi v razrastnem prostoru orodij za glasovne agente ob strani upravljanih platform in drugih okvirjev; glavni diferencial je odprtokodni, sestavljivi pristop, ki razvijalcem omogoča neposreden dostop do notranjih delov cevovoda.
Razdelitev kriterijev
- Realnočasovna pretokovna cevovod za glasovne agente
- Integracije z več ponudniki STT, LLM in TTS
- Podpora telefonskim klicem preko Twilio in podobnih telefonskih storitev
- Upravljanje prekinitev (barge-in)
- Python SDK za gradnjo po meri agentov
- Podpora za pogovore v brskalniku in lokalnem mikrofonu
MemGPT
Okvir, ki LLM-om omogoča dolgoročni spomin in samostojno upravljanje konteksta prek fiksnih omejitev žetonov
MemGPT je odprtokodni framework, zasnovan za reševanje ene od temeljnih omejitev velikih jezikovnih modelov: njihovega fiksnega okna konteksta. Iz raziskav na Univerzi v Kaliforniji, Berkeley, je projekt predstavil idejo, da se omejen kontekst LLM‑jev obravnava kot operacijski sistem upravlja omejen fizični pomnilnik, s straničenjem in hierarhičnimi ravnmi pomnilnika, kar modelom omogoča videz veliko večjega, trajnega pomnilnika. Osnovni pristop izhaja neposredno iz zasnove operacijskih sistemov. MemGPT razlikuje med spominom v kontekstu (žetoni, ki so trenutno v oknu poziva modela) in zunanjo shrambo, ki je izven konteksta. Sam LLM je opremljen z orodji za klicanje funkcij, ki mu omogočajo, da sam odloči, kdaj premikati informacije med temi nivoji — na primer, shranjevati pomembna dejstva v dolgoročno shrambo, pridobivati relevantne pretekle informacije ali urejati svoj osnovni spomin. To samourejevalno vedenje je tisto, kar agentom omogoča ohranjanje koherentnega, razvijajočega se stanja skozi dolge pogovore ali dokumente, ki daleč presegajo eno samo okno konteksta. Okvir je namenjen razvijalcem, ki ustvarjajo konverzacijske agente, ki potrebujejo trajni spomin na uporabnike in prejšnje interakcije, ter tistim, ki delajo na analizi dokumentov v korpusih, ki so preveliki, da bi jih bilo mogoče vključiti v kontekst. Z upravljanjem spomina za priklic, arhivskega shranjevanja in delovnega konteksta MemGPT omogoča agente, ki lahko sklicujejo na podrobnosti iz veliko prejšnjih delov interakcije, ne da bi razvijalec moral ročno konstruirati procese iskanja za vsak primer. MemGPT deluje tako z lastniškimi modeli, kot so tisti iz OpenAI, kot tudi z lokalno nameščenimi odprtokodnimi modeli, in se integrira z vektorskimi bazami podatkov ter drugimi shranjevalnimi viri, da ohranja spomin med sejami. Projekt se je kasneje razvil in je tesno povezan z Letto, podjetjem in platformo, ki nadaljuje razvoj osnovnih konceptov stanje‑agentov, ter nudi strežnik in orodja okoli izvirnih idej. Njen glavni prednosti sta konceptualna jasnost in konkreten, ponovno uporaben vzorec za dolgoročni spomin, ki presega naivno retrieval‑augmented generation. Kompromisi so tipični za agent frameworks: zanka samourejanja spomina močno temelji na zanesljivosti klicev funkcij modela, ki se lahko razlikuje pri manjših ali lokalnih modelih, dodatni koraki upravljanja spomina pa povečujejo zakasnitve in token overhead. Kot razvijajoči se open‑source projekt so njegovo poimenovanje, API‑ji in okolje okoli njega skozi čas spreminjali, kar lahko dokumentacijo in verzioniranje naredi gibljiv cilj.
Razdelitev kriterijev
- Večstopenjsko upravljanje konteksta in zunanjega spomina
- Samourejanje jedrnega spomina preko klicev funkcij
- Arhiviranje in priklic shranjenega spomina
- Integracija vektorske baze podatkov za iskanje
- Podpora za več LLM-ov
- Stanje‑ohranjajoči konverzacijski agenti
Letta AI
Open-source platforma za gradnjo AI agentov z notranjim stanjem, dolgoročnim pomnilnikom in naprednim razmišljanjem.
Letta AI je odprtokodna platforma, zasnovana za ustvarjanje AI agentov z zadrževanjem stanja. Ti agenti so opremljeni z dolgoročnim spominom in naprednimi sposobnostmi razmišljanja. Platforma razvijalcem omogoča gradnjo AI agentov, ki lahko ohranijo spomin na prejšnje interakcije, kar omogoča bolj zapletene in kontekstno zavzete procese odločanja. To je še posebej uporabno za aplikacije, ki zahtevajo, da agenti izkušnje sčasoma pridobivajo in svoje odgovore ustrezno prilagajajo. Letta AI se osredotoča na razvijalce in raziskovalce, ki so zainteresirani za ustvarjanje naprednih AI agentov za različne aplikacije, od storitev za stranke do bolj zapletenih nalog reševanja problemov. Z zagotavljanjem dolgoročnega spomina in naprednega razmišljanja Letta AI omogoča razvoj AI agentov, ki lahko obravnavajo širok spekter nalog z višjim stopnjo avtonomije in inteligence.
Razdelitev kriterijev
- AI agenti z notranjim stanjem
- Dolgoročen pomnilnik
- Napredno razmišljanje
Mosaia je platforma, ki jo vodi skupnost, zasnovana za ustvarjanje AI agentov in aplikacij v odprtem okolju. Razvijalcem nudi orodja za ustvarjanje, prilagajanje in uvajanje AI rešitev ter spodbuja sodelovanje in preglednost v vseh projektih. Platforma poudarja odprtost, uporabnikom omogoča, da delijo svoje delo, remiksajo agente drugih in prispevajo k rastočemu ekosistemu AI komponent. Ta pristop želi znižati vstopno oviro za razvoj AI, hkrati pa spodbuja izmenjavo znanja med razvijalci. Ne glede na to, ali prototipirate enega agenta ali sestavljate bolj zapleten AI delovni tok, Mosaia ponuja infrastrukturo in skupnost, ki podpirata iterativni in odprti razvoj.
Razdelitev kriterijev
- Orodja za ustvarjanje AI agentov
- Odprto deljenje in sodelovanje
- Tržnica, ki jo poganja skupnost
- Prilagodljivi delovni tokovi agentov
- Platforma, usmerjena k razvijalcem
- Infrastruktura za uvajanje