Geçmiş savaş · 2024-12-22 UTC
Agent Development Hesaplaşma — 22 Aralık 2024
Agent Development kategorisinden. 4 savaşçıya 15 işaret yerleştirildi. Vocode tacı aldı.
Nihai sıralama
Kadro
Savaşçılar
Bu savaşta yarışan her aracın profilleri, nihai puanlarına göre sıralandı.
Vocode
Ses-tek metin işleme, LLM ve metin-hafızadan söz işleme bileşenlerinden gerçek zamanlı ses AI.agentleri oluşturmak için açık kaynak kodlu bir temel oluşturma
Vocode, ses tabanlı sohbet AI uygulamaları oluşturmak için açık kaynaklı bir kütüphanedir. Ses tanıma, büyük dil modelleri ve ses sentezi arasında bir tek gerçek zamanlı akış oluşturmak için gerekli bağlantı elemanlarını sağlar, böylece geliştiriciler telefon çağrıları, web soketleri veya yerel sesleri kullanarak dinleyen, mantıklı davranan ve konuşabilen ajanslar oluşturabilirler. Frameworke, esas olarak Python SDK olarak yayımlanır, konuların daha çok akış halindeki sesle ilgilenmesini ve konuşmaların yanıt-verilen şeyler gibi uzun gecikmelerle hissedilmesini sağlar. Bireysel olarak ses ajansları oluşturmayı zor kılan özellikler gibi bireysel kesintilere (barg-in), yedeklen ve akışla transkripciónu yanıtlar arasında tercüman, ajan mantığı ve sentezleyicinin koordinasyonu gibi konuları elle işletmekle yükümlüdür. Vocode, modüler ve sağlayıcıdan bağımsız olarak tasarlanmıştır. Pipelinde her aşamadaki üçüncü parti servislerle tümleştirmesi sağlanabilir — örneğin Deepgram ve AssemblyAI gibi transkripsiyon sağlayıcıları, OpenAI'den elde edilen dil modelleri ve text-to-speech motorları gibi ElevenLabs, Azure ve diğerleri. Geliştiriciler maliyet, gecikme ve ses kalitesi gereksinimleri gibi faktörlerine bağlı olarak bileşenleri değiştirmeye ve değiştirmemeye muktedirdir. Bir ortak kullanım durumu telefoni: Vocode, Twilio gibi sağlayıcılardan gelen ve giden telefon çağrılarını desteklediği için otomatik çağrı merkezleri, ses yardımcıları ve müşteri iletişimi için ses botları oluşturmak için uygun bir platformdur. Ayrıca lokal mikrofon konuşmaları ve tarayıcıya tabii olan in-app ses deneyimleri için de destekler. Çünkü açık kaynaklı ve kendisini barındıran, bütçelerini kontrol etmek ve uzantı davranışı için ayarları özelleştirmek isteyen takımlara hitap eden Vocode, tam olarak yönetilen kapalı bir platforma bağımlı olmaktansa, tamiri ve ücretlendirilmiş dış transkript, LLM ve TTS hizmetlerini birleştirerek ve gecikmeyi ve conversasyon davranışını ayarlayarak production-grade ses ajanslarını kurmayı gerektiriyor. Çevre teknolojisinin bir parçası olarak ses ajan araçları için büyüyen bir alanda yer alır; temel farklılayıcı, geliştiricilere akış iç mekanlarına doğrudan erişim sağlayan açık kaynakça kompozit bir yaklaşımdır.
Kriterlerin ayrıştırılması
- Zaman içinde akış özelliğine sahip ses agent.pipeline
- Çoklu STT, LLM ve TTS sağlayıcıları ile entegrasyon
- Twilio ve benzeri telekomünikasyon servisleri vasitasiyle telefon aramaları desteği
- Barg-in (çökme-sonra-ekleme) işleme
- Python SDK için custom agentler oluşturmak için
- Çevrim içi ve yerel mikrofonla konuşmalar için browser desteği
MemGPT
LLMLer için uzun vadeli bellek ve öncesiz fonksiyon çağrımı sağlayan bir çerçevedir
MemGPT, büyük dil modellerinin temel bir kısıtlamasını gidermeye yönelik açık kaynaklı bir çerçevedir: sınırlı bağlama penceresi. Kaliforniya Üniversitesi Berkeley'den doğan projenin, işletim sistemi gibi fiziksel hafızayı sınırlı bir şekilde yönetirken sayfa ve hiyerarşik hafıza katmanlarını kullanarak bir modelin büyük, sürekli hafızaya sahip olma izlenimi vermek fikirlerini tanıttığı dile getirilmektedir. Ana approached trực olarak operasyonel sistem tasarımından türetilmiştir. MemGPT, modelin prompt penceresinde güncel olarak bulunan tokenleri (kontext içindeki bellek) ve kontekste dıştan tutulan verileri (dış depolama) arasında ayırır. LLM itself için işlev çağrımları sağlar ki, bunlarla bilgi arasında akışın ne zaman gerçekleşeceği hakkında karar verebilir — örneğin, önemlidir çünkü ömrü uzun olan faktleri uzun vadeli depolamaya kaydedebilir, ilgili geçmiş bilgilerin getirilebilmesi ya da kendi çekirdek belleğini düzenlemesi. Bu özdeksel davranış, agents'in uzun süreli sohbetler ya da belgelere yaygın olarak aşan tek bir kontext penceresi boyunca tutarlı ve gelişen durumlarını koruyabilmesi için izin verir. Çatı, kullanıcıların ve önceki etkileşimlerin kalıcı hatırlanmasından sorumlu olan konuşma ajanları oluşturan geliştiriciler ve büyük bağlamı doldurmayan veri kümelerinin incelenmesini işleyenlerin ihtiyaçlarına hitap etmektedir. Anı hatırlama belleği, arşiv depolama ve çalışma bağlamı yönetiminin sağlanmasına yardımcı olarak MemGPT, geliştiriciye her durumda yeniden Topluluk Kanalı alma.pipelineleri için el manual mühendisliği yapmasını gerektirmeden, daha önceki bir etkileşimden ayrıntıları referans olarak kullanan ajanlar oluşturmayı mümkün kılar. MemGPT, OpenAI'den gelen özdeş modeller ile yerel barındırılan açık modeller birlikte çalışır ve oturumlar arasında belleği sürdürebilmek için vektör veritabanları ve diğer depolama arkauçlarıyla entegre olur. Proje daha sonra evrim geçirir ve alt yapıda sahip devasa agent fikirleri ile Letta firması ve platformunun geliştirilmesine yakından bağlanırken, orijinal fikirlerin etrafında bir sunucu ve tooling sunulur. Ana güçleri kavramsal netlik ve uzun vadeli hatırlama içindi, yeniden kullanılabilir bir betimleme sunmasıdır. Naif geri çağırma-yeniden üretilen üretimden öte gitmektedir. Agent platformlarında tipik olmak üzere işlemlere göre değişen türetici güvenilirliğine bağlı olarak, kendini düzenleme bellek döngüsünün modellerin fonksiyon çağrılarının güvenilirliğine aşırı bağımlı olması, daha küçük ya da yerel modellerde ve ek bellek yönetimi adımlarının gecikme ve token üst limitini artırması gibi tavizler bulunmuştur. Gelişimini sürdüren açık kaynaklı bir proje olması sebebiyle, isimlendirilme, API'ler ve etrafı olan ekosistem zaman içinde değişmiş, belgeler ve sürümlemede belirlenen hedefler sürekli olarak değişmektedir.
Kriterlerin ayrıştırılması
- Seviyeli bağlam ve dışarıdan bellek yönetimi
- Cansız kilitli bellek yönetimini fonksiyon çağrıları üzerinden gerçekleştirmek
- Arşivleme ve bellek çağırımı ile bellek depolama
- Vektör veritabanı entegrasyonu ile geri çağırım
- Çoklu LLM arka uç desteği
- Devredilebilir sohbet ajanları
Letta AI
Sürülebilir AI agentleri oluşturmak için açık kaynaklı bir platform: uzun vadeli bellek ve gelişmiş mantıkla.
Letta AI, durum belleği ile donanımlı AI ajanları oluşturmak için açıklı bir kaynak platformudur. Bu ajanlar, ileri düzey mantık becerleriyle uzun süredir belleğe sahip bulunmaktadır. Platform, geliştiricilere geçmiş etkileşimlerin belleğini koruma olanağı tanıyan AI ajanları inşa etmesine olanak tanımaktadır. Bu, geçmişte öğrenerek ve karşılığı ile yanıt vererek daha karmaşık karar-making sürecine girmelerine olanak sağlar. Bu, zaman içinde deneyimlerden öğrenerek yanıtlarını adaptasyon yoluyla geliştiren istemcilerin yanı sıra daha karmaşık problem-solving görevleri için daha sofistikedeki AI ajanları oluşturmak isteyen geliştiricilerin ve araştırmacıların özellikle faydalandığı bir platformdur. Uzun vadeli bellek ve ileri düzey mantık becerilerini sunan Letta AI, daha düşük düzey autonomi ve akıllılıkta bulunan görevlerle sınırlı kalmamış, daha geniş bir uygulama yelpazesinde AI ajanları geliştirmeyi sağlar.
Kriterlerin ayrıştırılması
- Sürülebilir AI agentleri
- Uzun vadeli bellek
- Gelişmiş Mantık
Mosaia, açık kaynaklı bir platform olarak tasarlanmış bir community önderi, geliştiriciler için inşa edilen AI agent ve uygulamaları oluşturmak için açık bir kaynak oluşturur. Geliştiricilere AI çözümleri oluşturmak, kişileştirmek ve dağıtmak için araçlar sağlar, bu sırada proje bazında iş birliği ve transparency yaratır. Plataforma, kullanıcıların çalışmalarını paylaşmasını, diğer kullanıcılardan agalarını kopyalayıp remixlemesini ve AI bileşenlerinin büyüyen bir ekosistemine katkıda bulunmasını kolaylaştırmaktadır. Bu yaklaşım, AI geliştiricilerin girişinin zorluğu nedeniyle azalan bir sınır ile bilgi paylaşımını özendirmeyi amaçlamaktadır. Sınavan bir agentı prototipleme ya da daha karmaşık bir AI akışını oluşturarak, Mosaia iterative ve açık geliştirme için gereken altyapı ve komüniteyi sunar.
Kriterlerin ayrıştırılması
- AI agenti inşa etmek için araçlar
- Açık paylaşım ve işbirliği
- Topluluk çerçevesinde bir pazar alanı
- Kullanıcıyı özelleştiren agen iş akışları
- Geliştirici odaklı bir platform
- Dağıtım altyapısı