Iepriekšējā cīņa · 2024-12-22 UTC
Agent Development Sadursme — 2024. gada 22. decembris
No Agent Development kategorijas. 15 atzīmes izvietotas starp 4 cīnītājiem. Vocode izcīnīja kroni.
Gala rezultāti
Sastāvs
Cīnītāji
Katra rīka profili, kas piedalījās šajā cīņā, sarindoti pēc to gala rezultāta.
Vocode
Atvērtā koda ietvars reāllaika balss AI aģentu izveidei no speech-to-text, LLM un text-to-speech komponentēm
Vocode ir atvērtā koda bibliotēka balss balstītu sarunu AI lietojumprogrammu izveidei. Tā nodrošina nepieciešamo infrastruktūru, lai savienotu runas atpazīšanu, lielos valodas modeļus (LLM) un runas sintēzi vienā reāllaika caurulē, ļaujot izstrādātājiem izveidot aģentus, kas spēj klausīties, domāt un runāt telefonzvanos, WebSocket savienojumos vai lokālajā audio. Ietvars galvenokārt tiek izplatīts kā Python SDK, pievēršot uzmanību audio straumēšanai, lai sarunas būtu atsaucīgas, nevis balstītas uz garām gaidīšanas periodiem. Tas risina orķestrācijas jautājumus, kas padara balss aģentu izveidi no nulles sarežģītu, piemēram, pārtraukumu (barge-in) pārvaldīšanu, buferizēšanu un transkripcijas straumēšanu, kā arī koordinē transkriptora, aģenta loģikas un sintētiskā komponenta mijiedarbību. Vocode ir izstrādāts kā modulārs un pakalpojumu sniedzēju neatkarīgs risinājums. Tas integrējas ar dažādiem trešās puses pakalpojumiem katrā caurules posmā — piemēram, transkripcijas sniedzējiem kā Deepgram un AssemblyAI, valodas modeļiem, piemēram, no OpenAI, un text-to-speech dzinējiem, tostarp ElevenLabs, Azure un citiem. Izstrādātāji var mainīt komponentus atkarībā no izmaksām, latentuma un balss kvalitātes prasībām. Bieži sastopama lietojuma joma ir telefonija: Vocode atbalsta zvanu veikšanu un saņemšanu, izmantojot pakalpojumu sniedzējus kā Twilio, kas ļauj izveidot automatizētus izejošos un ienākošos zvanu aģentus, balss asistentus un klientiem paredzētus telefonus botus. Tas arī atbalsta sarunas pārlūkā un ar lokālu mikrofonu, lai nodrošinātu balss pieredzi lietojumprogrammās. Tā kā Vocode ir atvērtā koda un pašmantojams, tas piesaista komandas, kuras vēlas pilnīgu kontroli pār savu tehnoloģiju steku un iespēju pielāgot aģentu uzvedību, nevis paļauties uz pilnīgi pārvaldītu slēgtu platformu. Trūkums ir tas, ka ražošanas līmeņa balss aģentu izveide joprojām prasa savienot un maksāt par ārējiem transkripcijas, LLM un TTS pakalpojumiem, kā arī pielāgot latentumu un sarunas uzvedību. Tas piedalās pieaugošajā balss aģentu rīku tirgū kopā ar pārvaldītām platformām un citiem ietvariem; galvenais atšķirīgais elements ir atvērtā koda, modulārais pieejas veids, kas izstrādātājiem nodrošina tiešu piekļuvi caurules iekšējām sastāvdaļām.
Kritēriju sadalījums
- Reāllaika straumēšanas balss aģenta caurule
- Integrācijas ar vairākiem STT, LLM un TTS pakalpojumu sniedzējiem
- Telefona zvanu atbalsts caur Twilio un līdzīgiem telekomunikāciju pakalpojumiem
- Pārtraukumu (barge‑in) apstrāde
- Python SDK pielāgotu aģentu izveidei
- Atbalsts pārlūkprogrammas un lokāla mikrofona sarunām
MemGPT
Rāmzīme, kas sniedz LLM ilgtermiņa atmiņu un pašvaldītu kontekstu pāri fiksēto token limitiem
MemGPT ir atvērtā koda rāmzīme, kas izstrādāta, lai risinātu vienu no lielajiem valodas modeļu pamata ierobežojumiem: fiksēto kontekstu. Projektā, kas sākās UC Berkeley pētījumos, tika ieviesta ideja, ka LLM ierobežotā kontekstu var uzskatīt par operētājsistēmas pārvaldīto fizisko atmiņu, izmantojot lapu pārklāšanu (paging) un hierarhiskos atmiņas slāņus, lai modeliem radītu izskatu par daudz lielāku, pastāvīgu atmiņu. Galvenā pieeja tieši ņemoties no operētājsistēmas dizaina. MemGPT atšķiries starp in-context atmiņu (tūkšņiem tokeniem pašreizējā modela ieroņa) un ārējo glabātuvi, kas atrodas ārpus konteksta. LLM pašam tiek piešķirtas funkciju izsaukšanas rīki, kas ļauj tam izlemt, kad pārvietot informāciju starp šiem slāņiem — piemēram, svarīgu faktu saglabāšana ilgtermiņa glabātuvi, atgādināšana atbilstošu pagātnes informācijas vai pašas atmiņas rediģēšana. Šī pašrediģēšanas uzvedība ļauj agentiem uzturēt koherentāku, evolūcijas stāvokli ilgstošās sarunās vai dokumentos, kas pārsniedz vienu konteksta logu. Rāmzīme ir paredzēta izstrādātājiem, kas izstrādā sarunu agentus, kuriem ir nepieciešama pastāvīga lietotāju un iepriekšējo mijiedarbību atmiņa, kā arī tiem, kas strādā ar dokumentu analīzi pār lielu korpusu, kas pārsniedz konteksta limitu. Pārvaldot atmiņas atgādināšanu, arhīvošanu un strādājošo kontekstu, MemGPT ļauj agentiem, kas var atsaukties uz detalizētām informācijām no ievērojami agrākā laika brīdī, nevis izveidojot atsevišķas atgūšanas ķēdes katram gadījumam. MemGPT strādā gan ar patērējamu modeļiem, piemēram, OpenAI, gan lokāli izvietotiem atvērtajiem modeļiem, un tas integrējas ar vektoru datubāzēm un citiem glabātuves risinājumiem, lai saglabātu atmiņu starp sesijām. Projektā vēlāk attīstījās un ir cieši saistīts ar Lettu, uzņēmumu un platformu, kas turpina izstrādāt pamata stāvokļa agentu koncepciju, piedāvājot serveri un rīkus attiecībā pret sākotnējām idejām. Galvenie stiprie punkti ir konceptuālā skaidrība un konkrēts, atkārtoti lietojams paraugs ilgtermiņa atmiņai, kas pārsniedz vienkāršu atgūšanas papildināšanas ģenerēšanu. Kompromisi ir tipiski agentu rāmzīmju: pašrediģēšanas atmiņas cikls ir atkarīgs no modeļa funkciju izsaukšanas uzticamības, kas var mainīties ar mazākiem vai lokāliem modeļiem, un papildu atmiņas pārvaldības soļi pievieno latence un tokenu pārmaksu. Kā attīstīgs atvērtā koda projekts, tā nosaukšana, API un apkārtējā ekosistēma ir mainījusies laika gaitā, kas var padarīt dokumentāciju un versiju pārvaldību kustīgu mērķi.
Kritēriju sadalījums
- Hierarhiskais konteksts un ārējās atmiņas pārvaldība
- Pašrediģējošā galvenās atmiņas pārvaldība ar funkciju izsaukumiem
- Arhīva un atgūšanas atmiņas glabātuve
- Vektoru datubāzes integrācija atgūšanai
- Atbalsts vairākiem LLM atpildniekiem
- Stāvokļa piepildītāji sarunu agentiem
Letta AI
Atvērta pirmkoda platforma, lai izveidotu stāvokļa AI agentus ar ilgtermiņa atmiņu un uzlabotu rezonēšanu.
Letta AI ir atvērta pirmkoda platforma, kas paredzēta stāvokļa AI agentu izveidei. Šie agenti ir aprīkoti ar ilgtermiņa atmiņu un uzlabotām rezonēšanas spējām. Platforma ļauj izstrādātājiem izveidot AI agentus, kas var saglabāt iepriekšējo mijiedarbību atmiņu, padarot iespējamāku sarežģītāku un kontekstuāku lēmumu pieņemšanu. Tas ir īpaši noderīgi lietojumprogrammām, kurām jābūt spējīgām mācīties no pieredzes laika gaitā un pielāgot atbildes atbilstoši. Letta AI vērsts uz izstrādātājiem un pētniekiem, kuri vēlas radīt izsmalcinātus AI agentus dažādām lietojumprogrammām, sākot no klientu apkalpošanas līdz sarežģītākiem problēmu risināšanas uzdevumiem. Nodrošinot ilgtermiņa atmiņu un uzlabotu rezonēšanu, Letta AI ļauj izstrādāt AI agentus, kas var veikt plašu uzdevumu spektru ar augstāku neatkarības un inteliģences pakāpi.
Kritēriju sadalījums
- Stateful AI agents
- Long-term memory
- Advanced reasoning
Mosaia ir sabiedrībai pierādīts plātors, kas ir paredzēts atklātībā tiešām attīstīt AI agentus un lietojumprogrammas. Tas sniedz dizainersiem un programmatūras kods risinātavu, kas ir paredzēts AI risinājumu izveidi, pielāgošanu un izvietošanu, samērā vienlaicīgi piedāvājot vienotu vietu dažādu projektu darbībai un veidojot tiešu pierādījumu par to. Platforma tiek pamatota uz atvirienu, atļaujot lietotājiem dalīties ar savudarbiem, remiksēt citu agentu veidis, un vajadzības gadījumā svinībā piedalīties augošajā cilvēku radītu AI komponentu ekosistēmā. Uzraga pamatojums, lai samazinātu iestāšanās barijeru pie AI izstrādes, savukārt motivētu zinību dalību starp projektētājiem. Vai jūs prototipējat vienu bruņinieku vai sabrauciet vairāk komplisētu AI darbibas procesu, Mosaia piedāvā infrastruktūru un kopienas atbalstu atvērtai, iteratīvai attīstībai.
Kritēriju sadalījums
- AI agenta izveides rīki
- Atvērta dalīšanās un sadarbība
- Kopienas vadīts tirgus
- Pielāgojami agenta darba plūsmas
- Izstrādātāju orientēta platforma
- Izvietošanas infrastruktūra