Batalla anterior · 2024-12-22 UTC
Agent Development Duelo — 22 de diciembre de 2024
De la categoría Agent Development. 15 marcas colocadas entre 4 combatientes. Vocode se llevó la corona.
Clasificación final
La formación
Los combatientes
Perfiles de cada herramienta que compitió en esta batalla, clasificadas por su puntuación final.
Vocode
Marco de código abierto para construir agentes de voz AI en tiempo real a partir de componentes de reconocimiento de voz, modelos de lenguaje grande y síntesis de texto
Vocode es una biblioteca de código abierto para crear aplicaciones de inteligencia conversacional basadas en voz. Proporciona la infraestructura necesaria para conectar el reconocimiento del habla, los grandes modelos de lenguaje y la síntesis del habla en una sola canalización en tiempo real, lo que permite a los desarrolladores crear agentes que pueden escuchar, razonar y hablar a través de llamadas telefónicas, sockets web o audio local. El marco se distribuye principalmente como un SDK de Python, con un enfoque en el audio en streaming para que las conversaciones se sientan responsivas en lugar de basadas en turnos con largos retrasos. Maneja los aspectos de orquestación que hacen que los agentes de voz sean difíciles de construir desde cero, como la gestión de interrupciones (barge-in), el almacenamiento en búfer y la transcripción en streaming, y la coordinación del ir y venir entre el transcriptor, la lógica del agente y el sintetizador. Vocode está diseñado para ser modular y agnóstico al proveedor. Se integra con una variedad de servicios de terceros para cada etapa de la canalización; por ejemplo, proveedores de transcripción como Deepgram y AssemblyAI, modelos de lenguaje como los de OpenAI y motores de texto a voz como ElevenLabs, Azure y otros. Los desarrolladores pueden intercambiar componentes según sea necesario, dependiendo de los requisitos de costo, latencia y calidad de voz. Un caso de uso común es la telefonía: admite realizar y recibir llamadas telefónicas a través de proveedores como Twilio, lo que lo hace adecuado para construir agentes de llamadas automatizadas salientes y entrantes, asistentes de voz y bots telefónicos orientados al cliente. También admite conversaciones basadas en navegador y micrófono local para experiencias de voz en aplicaciones. Debido a que es de código abierto y se puede autoalojar, Vocode atrae a equipos que quieren controlar su pila y la capacidad de personalizar el comportamiento del agente, en lugar de depender de una plataforma cerrada totalmente administrada. El compromiso es que crear agentes de voz de grado de producción todavía requiere conectar y pagar por servicios de transcripción externos, LLM y TTS, y ajustar la latencia y el comportamiento conversacional. Se encuentra en un espacio creciente de herramientas de agentes de voz junto con plataformas gestionadas y otros marcos; su principal diferenciador es el enfoque de código abierto y componible que brinda a los desarrolladores acceso directo a los internos de la canalización.
Desglose de criterios
- Pipelines de voz agentes en tiempo real
- Integraciones con múltiples proveedores de STT, LLM y TTS
- Soporte para llamadas telefónicas a través de Twilio y servicios telefónicos similares
- Gestión de interrupciones (barge-in)
- SDK de Python para construir agentes personalizados
- Soporte para conversaciones de navegador y local-microfono
MemGPT
Marco que le da a los LLM una memoria a largo plazo y un contexto autogerenciado más allá de los límites de tokens fijos
MemGPT es un marco de código abierto diseñado para abordar una de las limitaciones fundamentales de los grandes modelos de lenguaje: su ventana de contexto fija. Originado a partir de una investigación en UC Berkeley, el proyecto introdujo la idea de tratar el contexto limitado de un LLM como un sistema operativo gestiona la memoria física limitada, utilizando paginación y niveles de memoria jerárquicos para dar a los modelos la apariencia de una memoria mucho mayor y persistente. El enfoque central toma prestado directamente del diseño del sistema operativo. MemGPT distingue entre la memoria en contexto (los tokens actualmente en la ventana de solicitud del modelo) y el almacenamiento externo mantenido fuera del contexto. Al propio LLM se le proporcionan herramientas de llamada de funciones que le permiten decidir cuándo mover información entre estos niveles, por ejemplo, guardar hechos importantes en almacenamiento a largo plazo, recuperar información pasada relevante o editar su propia memoria central. Este comportamiento de autoedición es lo que permite a los agentes mantener un estado coherente y en evolución a lo largo de conversaciones o documentos largos que superan con creces una sola ventana de contexto. El marco está dirigido a desarrolladores que crean agentes conversacionales que necesitan memoria persistente de los usuarios y de interacciones anteriores, así como a aquellos que trabajan en análisis de documentos sobre corpus demasiado grandes para caber en contexto. Al gestionar la memoria de recuerdo, el almacenamiento de archivo y un contexto de trabajo, MemGPT permite agentes que pueden hacer referencia a detalles de mucho antes en una interacción sin que el desarrollador tenga que ingeniar manualmente canalizaciones de recuperación para cada caso. MemGPT funciona tanto con modelos propietarios como los de OpenAI como con modelos abiertos alojados localmente, e integra bases de datos vectoriales y otros backends de almacenamiento para persistir la memoria entre sesiones. El proyecto evolucionó más tarde y está estrechamente asociado con Letta, una empresa y plataforma que continúa desarrollando los conceptos de agente con estado subyacentes, ofreciendo un servidor y herramientas en torno a las ideas originales. Sus principales fortalezas son la claridad conceptual y un patrón concreto y reutilizable para la memoria a largo plazo que va más allá de la generación aumentada de recuperación naive. Los compromisos son típicos de los marcos de agentes: el bucle de memoria de autoedición depende en gran medida de la confiabilidad de la llamada a funciones del modelo, que puede variar con modelos más pequeños o locales, y los pasos adicionales de gestión de memoria añaden latencia y sobrecarga de tokens. Como proyecto de código abierto en evolución, su nombre, APIs y ecosistema circundante han cambiado con el tiempo, lo que puede hacer que la documentación y el versionado sean un objetivo en movimiento.
Desglose de criterios
- Gestión de contexto y memoria externa en capas
- Edición de memoria básica mediante llamadas a funciones
- Almacenamiento y recuerdo de memoria
- Integración con bases de datos de vectores para recuperación
- Soporte para múltiples backends de LLM
- Agentes conversacionales con estado
Letta AI
Plataforma de código abierto para crear agentes de IA con memoria a largo plazo y razonamiento avanzado.
Letta AI es una plataforma de código abierto diseñada para crear agentes de IA con memoria a largo plazo. Estos agentes están equipados con capacidades de razonamiento avanzado. La plataforma permite a los desarrolladores crear agentes de AI que puedan mantener una memoria de interacciones pasadas, lo que permite procesos de toma de decisiones más complejos y conscientes del contexto. Esto es particularmente útil para aplicaciones que requieren agentes que aprendan de experiencias a lo largo del tiempo y adecuen sus respuestas en consecuencia. Letta AI se dirige a desarrolladores y investigadores que están interesados en crear agentes de IA sofisticados para diversas aplicaciones, desde el servicio al cliente hasta tareas de resolución de problemas más intrincadas. Al proporcionar memoria a largo plazo y razonamiento avanzado, Letta AI permite el desarrollo de agentes de IA que puedan manejar una amplia variedad de tareas con un mayor grado de autonomía e inteligencia.
Desglose de criterios
- Agentes de IA con estado
- Memoria a largo plazo
- Razonamiento avanzado
mosaia
Plataforma abierta para construir, compartir y desplegar agentes de inteligencia artificial en colaboración
Mosaia es una plataforma impulsada por la comunidad diseñada para construir agentes y aplicaciones de inteligencia artificial de forma abierta. Ofrece a los desarrolladores herramientas para crear, personalizar e implementar soluciones de inteligencia artificial, fomentando la colaboración y la transparencia en todos los proyectos. La plataforma enfatiza la apertura, permitiendo a los usuarios compartir su trabajo, mezclar agentes de otros y contribuir a un ecosistema en crecimiento de componentes de IA. Este enfoque apunta a reducir la barrera de entrada para el desarrollo de IA, al tiempo que fomenta el intercambio de conocimientos entre los constructores. Ya sea que estés creando un prototipo de un solo agente o montando un flujo de trabajo de IA más complejo, ofrece la infraestructura y la comunidad para respaldar el desarrollo iterativo y abierto.
Desglose de criterios
- Herramientas de construcción de agentes de inteligencia artificial
- Compartición y colaboración abierta
- Mercado de la comunidad impulsado
- Flujos de trabajo de agentes personalizables
- Plataforma enfocada en desarrolladores
- Infraestructura de despliegue