Batalha anterior · 2024-12-22 UTC
Agent Development Duelo — 22 de dezembro de 2024
Da categoria Agent Development. 15 marcas colocadas em 4 combatentes. Vocode conquistou a coroa.
Classificação final
A formação
Os combatentes
Perfis de cada ferramenta que competiu nesta batalha, ordenados pela pontuação final.
Vocode
Estrutura de código aberto para construir agentes de IA de voz em tempo real a partir de componentes de reconhecimento de fala, LLM e síntese de fala
Vocode é uma biblioteca de código aberto para construção de aplicativos de conversação de voz baseados em inteligência artificial. Fornece os componentes necessários para conectar a reconhecimento de fala, modelos de linguagem de grande escala e síntese de fala em uma única pipeline em tempo real, possibilitando que os desenvolvedores criem agentes que possam ouvir, raciocinar e falar por meio de chamadas telefônicas, web sockets ou áudio local. A estrutura é distribuída principalmente como SDK Python, focada em streaming de áudio para que as conversas sejam respostivas em vez de baseadas em turnos com atrasos prolongados. Ela lidia com as questões de orquestração que tornam difíceis criar agentes de voz do zero, como gerenciar interrupções (barging-in), buffering e transcrição em fluxo, e coordenar o avanço e retrocesso entre o transcritor, a lógica do agente e o sintetizador. O Vocode é projetado para ser modular e indiferente ao provedor. Ele se integra a uma gama de serviços de terceiros de cada etapa da pipeline — por exemplo, provedores de transcrição como Deepgram e AssemblyAI, modelos de língua, como os da OpenAI, e motores de síntese de fala que incluem ElevenLabs, Azure e outros. Os desenvolvedores podem trocar componentes à medida que forem necessário dependendo do custo, latência e exigências de qualidade de voz. Um uso comum é a telefonia: o Vocode suporta a ligação e a recepção de ligações telefônicas através de provedores como o Twilio, tornando-o adequado para construir agentes de ligação automatizados para chamadas telefônicas de saída e entrada, assistentes de voz e robôs de telefone com foco no cliente. Além disso, ele suporta conversas com microfone local e baseadas em navegador para experiências de voz para aplicativos dentro do aplicativo. Por ser open source e self-hostável, a Vocode apela a equipes que desejam controle sobre sua pilha e capacidade de personalizar o comportamento do agente, em vez de confiar em uma plataforma fechada gerenciada por completo. O contraponto é que construir agentes de voz em produção ainda requer configurar e pagar por serviços de transcrição externa, LLM e TTS, e afinar latência e comportamento conversacional. Senta-se em um espaço em expansão de ferramentas de agente de voz ao lado de plataformas gerenciadas e outros frameworks; sua principal diferenciadora é a abordagem open-source, composta que dá aos desenvolvedores acesso direto aos internos do pipeline.
Divisão de critérios
- Pipeline de agente de voz em tempo real com streaming
- Integrações com vários provedores de STT, LLM e TTS
- Suporte a chamadas telefônicas via Twilio e serviços de telefonia semelhantes
- Tratamento de interrupção (barge-in)
- SDK Python para construir agentes personalizados
- Suporte a conversas de navegador e microfone local
MemGPT
Estrutura que dá aos LLMs memória de longo prazo e contexto autogerenciado além dos limites de token fixos
MemGPT é uma estrutura de código aberto projetada para abordar uma das restrições fundamentais dos grandes modelos de linguagem: sua janela de contexto fixa. Originando-se de pesquisas na UC Berkeley, o projeto introduziu a ideia de tratar o contexto limitado de um LLM como um sistema operacional gerencia a memória física limitada, usando paginação e níveis de memória hierárquicos para dar aos modelos a aparência de uma memória muito maior e persistente. A abordagem central empresta diretamente do design do sistema operacional. MemGPT distingue entre memória no contexto (os tokens atualmente na janela de prompt do modelo) e armazenamento externo mantido fora do contexto. O próprio LLM é fornecido com ferramentas de chamada de função que permitem que ele decida quando mover informações entre essas camadas — por exemplo, salvar fatos importantes no armazenamento de longo prazo, recuperar informações relevantes do passado ou editar sua própria memória central. Esse comportamento de autoedição é o que permite que os agentes mantenham um estado coerente e evolutivo ao longo de conversas longas ou documentos que excedem muito uma única janela de contexto. A estrutura é destinada a desenvolvedores que estão construindo agentes conversacionais que precisam de memória persistente de usuários e interações anteriores, bem como aqueles que trabalham com análise de documentos em corpora grandes demais para caber no contexto. Ao gerenciar memória de recall, armazenamento de arquivo e um contexto de trabalho, o MemGPT permite que os agentes façam referência a detalhes de muito antes em uma interação sem que o desenvolvedor engenharia manualmente pipelines de recuperação para cada caso. O MemGPT funciona com modelos proprietários, como os da OpenAI, e modelos abertos hospedados localmente, e se integra a bancos de dados vetoriais e outros backends de armazenamento para persistir a memória entre sessões. O projeto mais tarde evoluiu e está intimamente associado à Letta, uma empresa e plataforma que continuam o desenvolvimento dos conceitos subjacentes de agente com estado, oferecendo um servidor e ferramentas em torno das ideias originais. As principais forças são a clareza conceitual e um padrão concreto e reutilizável para memória de longo prazo que vai além da geração aumentada de recuperação ingênua. Os trade-offs são típicos de estruturas de agente: o loop de memória de autoedição depende fortemente da confiabilidade de chamada de função do modelo, que pode variar com modelos menores ou locais, e as etapas adicionais de gerenciamento de memória adicionam latência e sobrecarga de token. Como um projeto de código aberto em evolução, seus nomes, APIs e ecossistema circundante mudaram ao longo do tempo, o que pode tornar a documentação e o versionamento um alvo em movimento.
Divisão de critérios
- Gerenciamento de contexto em níveis e memória externa
- Memória central autoeditável por meio de chamadas de função
- Armazenamento de memória de arquivo e recall
- Integração com banco de dados vetorial para recuperação
- Suporte a vários backends de LLM
- Agentes conversacionais com estado
Letta AI
Uma plataforma de código aberto para construir agentes de IA com estado e memória de longo prazo e raciocínio avançado.
Letta AI é uma plataforma de código aberto projetada para criar agentes de IA com estado. Esses agentes são equipados com memória de longo prazo e capacidades de raciocínio avançado. A plataforma permite que os desenvolvedores construam agentes de IA que possam manter uma memória de interações passadas, permitindo processos de tomada de decisão mais complexos e contextuais. Isso é particularmente útil para aplicações que exigem que os agentes aprendam com experiências ao longo do tempo e adaptem suas respostas de acordo. Letta AI é direcionada a desenvolvedores e pesquisadores interessados em criar agentes de IA sofisticados para diversas aplicações, desde o atendimento ao cliente até tarefas de resolução de problemas mais intrincadas. Ao fornecer memória de longo prazo e raciocínio avançado, Letta AI possibilita o desenvolvimento de agentes de IA que podem lidar com uma ampla gama de tarefas com um maior grau de autonomia e inteligência.
Divisão de critérios
- Agentes de IA com estado
- Memória de longo prazo
- Raciocínio avançado
mosaia
Plataforma aberta para construir, compartilhar e implantar agentes de IA colaborativamente
Mosaia é uma plataforma comunitária projetada para a construção de agentes e aplicações de inteligência artificial de forma aberta. Ela oferece aos desenvolvedores ferramentas para criar, personalizar e implantar soluções de inteligência artificial, enquanto promove a colaboração e a transparência entre projetos. A plataforma enfatiza a abertura, permitindo que os usuários compartilhem seu trabalho, remixe agentes de outros e contribua para uma ecossistema em crescimento de componentes de inteligência artificial. Essa abordagem visa reduzir a barreira de entrada para o desenvolvimento de AI enquanto incentiva a partilha de conhecimentos entre builders. Independente de estar prototipando um agente único ou montando um fluxo de trabalho de Inteligência Artificial mais complexo, a Mosaia oferece a infraestrutura e a comunidade para apoiar o desenvolvimento aberto e iterativo.
Divisão de critérios
- Ferramentas de construção de agentes de IA
- Compartilhamento aberto e colaboração
- Mercado impulsionado pela comunidade
- Fluxos de trabalho de agentes personalizáveis
- Plataforma focada em desenvolvedores
- Infraestrutura de implantação