Möödunud lahing · 2024-12-22 UTC
Agent Development Vastasseis — 22. detsember 2024
Kategooriast Agent Development. 15 märget pandud 4 võitleja kohta. Vocode võttis krooni.
Lõppseis
Koosseis
Võitlejad
Iga selles lahingus võistelnud tööriista profiilid, järjestatud nende lõppskoori järgi.
Vocode
Kausta suunatud võti AI keemia süsteemi eelarvamises, that offers flexibility and control to developers.
Vocode on avatud lähtekoodiga raamatukogu häälpõhiste vestluslike AI-rakenduste loomiseks. See pakub vajalikku infrastruktuuri kõne tuvastamise, suurte keelemudelite ja kõnesünteesi ühendamiseks ühte reaalajas toimivasse torujuhtmesse, võimaldades arendajatel luua agente, mis suudavad kuulata, järeldada ja rääkida telefonikõnede, veebipistikutega või kohaliku heli kaudu. Raamistik on peamiselt jaotatud Pythoni SDK-na, mille fookus on voogesitatud helil, et vestlused tunduksid reageerivatena, mitte pöördepõhistena, millega kaasnevad pikad viivitused. See käsitleb häälte agentide ehitamist alates nullist keeruliseks tegevuseks tegevat koordineerimist, nagu katkestuste (barge-in) haldamine, transkriptsiooni puhverdamine ja voogesitamine ning transkribeerija, agendi loogika ja süntesaatori vahelise tagasi- ja edasisaatmise koordineerimine. Vocode on loodud olema modulaarne ja pakkujast sõltumatu. See integreerub mitmesuguste kolmandate osapoolte teenustega iga torujuhtme etapi jaoks — näiteks transkriptsioonipakkujatega nagu Deepgram ja AssemblyAI, keelemudelitega nagu OpenAI omad, ning teksti kõneks muutmise mootoritega, sealhulgas ElevenLabs, Azure ja teised. Arendajad saavad komponente vastavalt vajadusele sisse ja välja vahetada, olenevalt kuludest, latentsusest ja hääle kvaliteedi nõuetest. Üks levinud kasutusjuht on telekommunikatsioon: toetab helistamist ja kõne vastuvõtmist teenusepakkujate, näiteks Twilio kaudu, mis muudab selle sobivaks automatiseeritud väljuvate ja sissetulevate kõneagentide, hääleassistendtide ja kliendidega suunatud telefonibotide loomiseks. See toetab ka brauseripõhiseid ja kohaliku mikrofoni vestlusi rakendusesiseste hääleksperementide jaoks. Kuna see on avatud lähtekoodiga ja ise hostitav, siis Vocode meeldib meeskondadele, kes soovivad kontrolli oma virna üle ja võimalust kohandada agendi käitumist, selle asemel, et tugineda täielikult hallatavale suletud platvormile. Kompromiss on see, et tootmisvalmis häältagentide loomine nõuab endiselt väliste transkriptsiooni-, LLM- ja TTS-teenuste ühendamist ja maksmist ning latentsuse ja vestluskäitumise häälestamist. See tööriist asub kasvavas hääl-agendi tööriistade ruumis koos hallatud platvormide ja muude raamistikutega; selle peamine eristaja on avatud lähtekoodiga, komponeeritav lähenemine, mis annab arendajatele otsese juurdepääsu torujuhtme sisemustele.
Разбивка критериев
- Reaalajas voogesituse hääleagendi torujuhe
- Integreerimine mitme STT, LLM ja TTS teenusepakkujaga
- Telefonikõne tugi kaudu Twilio ja sarnased telefoni teenused
- Katkestuse (barge-in) käsitlemine
- Python SDK kohandatud agentide loomiseks
- Tugi brauseri ja kohaliku mikrofoni vestlusteks
MemGPT on avatud lähtekoodiga raamistik, mis on loodud ühe suure keelemudeli põhilise piirangu lahendamiseks: nende fikseeritud kontekstuaalse akna. UC Berkeley uurimistööst pärit projekt tutvustas ideed käsitleda LLM-i piiratud konteksti nagu operatsioonisüsteem haldab piiratud füüsilist mälu, kasutades lehekülgede ja hierarhiliste mälukihistute abil, et anda mudelitele palju suurema ja püsiva mälu illusioon. Põhiline lähenemine on laenatud otse operatsioonisüsteemi disainist. MemGPT eristab konteksti sees olevat mälu (mõlema praegused märgid mudeli viipakuvas) ja välist salvestust, mis hoitakse väljaspool konteksti. LLM-ile ise antakse funktsioonikõnede tööriistad, mis võimaldavad tal otsustada, millal liikuda teabe nende tasandite vahel – näiteks oluliste faktide salvestamine pikaajalisesse mällu, asjakohase varasemate teabe hankimine või oma põhimälu redigeerimine. See enese redigeerimise käitumine võimaldab agentidel säilitada sidusaid, muutuvate olekuid pika vestluse või dokumentide korral, mis ületavad märkimisväärselt ühte konteksti aknat. Raamistik on suunatud arendajatele, kes ehitavad vestlusagente, mis vajavad kasutajate ja varasemate interaktsioonide püsivat mälu, samuti neile, kes töötavad dokumentide analüüsiga korpustele, mis on liiga suured, et konteksti ära mahtuda. Mälu haldades, arhiveerides salvestust ja töökonteksti, võimaldab MemGPT agente, mis saavad viidata üksikasjadele palju varem interaktsioonis, ilma et arendaja peaks käsitsi konstrueerima otsingutorustikke igal üksikjuhtumil. MemGPT töötab nii patenteeritud mudelitega, nagu need on OpenAI-lt, kui ka kohalike hostitud avatud mudelitega, ning see integreerub vektorandmebaaside ja muude salvestusback-endidega, et säilitada mälu seansside vahel. Projekt arenes hiljem edasi ja on tihedalt seotud Letta-ga, ettevõtte ja platvormiga, mis jätkab alusolevate olekuga agendi kontseptsioonide arendamist, pakkudes serverit ja tööriistu ümber algsete ideede. Selle peamised tugevused on kontseptuaalne selgus ja konkreetne, taaskasutatav muster pikaajalise mälu jaoks, mis ületab naiivse taandamisega genereerimise. Kompromissid on tüüpilised agendi raamistikule: iseseeditava mälu silmus tugineb suuresti mudeli funktsioonikutsumise usaldusväärsusele, mis võib varieeruda väiksemate või kohalike mudelite puhul, ning lisamäluhalduse sammud lisavad latentsust ja tokeni üldkulud. Areneva avatud lähtekoodiga projektina on selle nimetus, API-d ja ümbritsev ökosüsteem aja jooksul muutunud, mis võib muuta dokumentatsiooni ja versioonimise liikuvaks sihtmärgiks.
Разбивка критериев
- Mitmetasandiline kontekst ja väline mälu haldamine
- Iseparanduv põhimälu funktsioonikõnede kaudu
- Arhiivi- ja meeldetuletusmälusalat
- Vektorandmebaasi integreerimine andmete hankimiseks
- Mitme LLM-tausta toe pakkumine
- Olekusavavad vestlusagendid
Letjet Ekspertiseksi on avalik koodi platform, mis aitab loomendada käitumiskujuga AI agentide loomise sisaldavaid peale peala kasutava puhkusliigitaskuagentipea-tiiviutaja.
Разбивка критериев
- käitumiskuju AI agentide loomine
- AI agentide andmeandmeteada saavutamine
- parimad pooandmised
Mosaia on avatud lähtekoodiga kogukonna juhitud platvorm tehisintellekti agentide ja rakenduste loomiseks. See pakub arendajatele tööriistu AI lahenduste loomiseks, kohandamiseks ja kasutuselevõtuks, edendades samal ajal koostööd ja läbipaistvust projektides. Platvorm rõhutab avatust, võimaldades kasutajatel jagada oma tööd, segada teiste agente ja anda oma panus tehisintellekti komponentide kasvavasse ökosüsteemi. Selline lähenemine eesmärgib alandada tehisintellekti arenduse sisenemistõkkeid, julgustades samal ajal teadmiste jagamist arendajate vahel. Ükskõik, kas te prototüüpite ühte agenti või koostate keerukamat AI-töövoogu, pakub Mosaia infrastruktuuri ja kogukonda iteratiivseks, avatud arenduseks.
Разбивка критериев
- ARI Agentin jõudluse parandamise veebriedused
- ylliku agenti pikendused
- amiaga kasutatav ajutiste agentide seadete koostamine ja kasutamine
- informused ja rakenduste lahti
- koostööde kasutamine ja kaamaja ja arvamuste järeltagamine
- keskmised ja kohustused vastavalt ressursse kasutamine ja rakenduskeeld kujutamine