Batalla anterior · 2025-03-05 UTC
AI Model Serving Platforms Duelo — 5 de marzo de 2025
De la categoría AI Model Serving Platforms. 13 marcas colocadas entre 3 combatientes. New API se llevó la corona.
Clasificación final
La formación
Los combatientes
Perfiles de cada herramienta que compitió en esta batalla, clasificadas por su puntuación final.
New API
Puerta de enlace Abierta del LLM de código abierto que une múltiples APIs de proveedores de AI con ruteo, facturación y análisis
New API es una pasarela de LLM de código abierto que proporciona una interfaz unificada para conectarse a varios proveedores de modelos de IA, incluidas las API de OpenAI, Anthropic Claude y Google Gemini. Actúa como una capa de gestión central que permite a los equipos enrutar solicitudes entre proveedores, controlar el acceso y rastrear el uso desde un solo lugar. El proyecto está dirigido a desarrolladores, equipos de plataforma y organizaciones que consumen APIs de IA a gran escala y quieren una única puerta de enlace en lugar de integrar cada proveedor por separado. Al exponer endpoints compatibles con OpenAI, permite que las aplicaciones y SDK existentes funcionen con muchos backends sin necesidad de reescribir el código del cliente. Más allá del proxy básico, New API se enfoca en preocupaciones operativas como cuotas basadas en tokens, facturación y gestión de créditos, auditoría de solicitudes y análisis de uso. Estas características lo hacen adecuado para crear plataformas internas de inteligencia artificial o revender/medir el acceso a varios usuarios o equipos. Como herramienta de código abierto y autoalojable, brinda a los operadores control sobre el despliegue y el flujo de datos, lo que puede ser importante para la gestión de costos y el cumplimiento normativo. Se posiciona en el mismo espacio que otras pasarelas y agregadores de API como LiteLLM y One API, de los cuales deriva. Al igual que la mayoría de las pasarelas autoalojadas, la adopción de New API requiere configuración de infraestructura y mantenimiento continuo, y la amplitud del soporte de proveedores y la estabilidad dependen de las contribuciones de la comunidad.
Desglose de criterios
- Puerta de enlace unificada de múltiples proveedores de API
- Puntos de final de compatible con OpenAI
- Ruteo de solicitudes a través de proveedores de modelos
- Cuotas y gestión de facturación basadas en token
- Análisis y auditoría de uso
- Auditoría y gestión de acceso para configuraciones de múltiples usuarios
GLM‑4.5
Modelo de base híbrido de razonamiento MoE de código abierto creado para tareas de agentes, codificación y uso de herramientas
GLM-4.5 es un modelo de lenguaje grande de código abierto desarrollado por Zhipu AI (Z.ai) como parte de la familia de modelos GLM. Utiliza una arquitectura Mixture-of-Experts (MoE) y un diseño de razonamiento híbrido que permite al modelo "pensar" antes de responder o contestar directamente, orientado a flujos de trabajo con agentes, codificación y uso de herramientas. El modelo admite una ventana de contexto de 128K tokens y llamadas nativas a herramientas. El modelo está dirigido a desarrolladores que construyen agentes de IA y asistentes de codificación. Introdujo "Pensamiento Intercalado", donde el modelo razona antes de cada respuesta y llamada a herramienta, que las versiones posteriores de GLM (GLM-4.6 y GLM-4.7) ampliaron con características como Pensamiento Preservado y Pensamiento a nivel de turno. GLM-4.5 enfatiza la codificación orientada a agentes, integrándose con marcos de agentes y herramientas de codificación de uso general como Claude Code, Cline, Roo Code y Kilo Code. El repositorio de GitHub aloja recursos del modelo, código de inferencia y ejemplos, mientras que los pesos se publican de forma abierta para auto-implementación y la API se ofrece a través de la Plataforma API de Z.ai. El repositorio también documenta los modelos sucesores GLM-4.6 (ampliando el contexto a 200K tokens) y GLM-4.7, junto con una variante ligera 30B-A3B (GLM-4.7-Flash) para despliegues más eficientes. Como una publicación de pesos abiertos, GLM-4.5 compite con otros modelos abiertos orientados a casos de uso de agentes y codificación. Sus fortalezas radican en el uso de herramientas, control del razonamiento y apertura, aunque ejecutar un gran modelo MoE localmente requiere hardware sustancial, y versiones más recientes de GLM lo han superado en métricas.
Desglose de criterios
- Arquitectura Mixture-of-Experts (MoE)
- Razonamiento híbrido con modos de pensamiento/no pensamiento
- Llamadas nativas a herramientas para agentes
- Pensamiento intercalado antes de respuestas y llamadas a herramientas
- Ventana de contexto de 128K tokens
- Optimización de codificación orientada a agentes
Jina AI proporciona una suite de modelos base y APIs construidas alrededor de búsqueda, recuperación y comprensión multimodal. Sus ofertas principales incluyen embeddings de texto e imágenes, rerankers neuronales, clasificadores de cero disparos y herramientas para construir flujos de trabajo de generación aumentada por recuperación (RAG) a gran escala. La plataforma está diseñada para desarrolladores y equipos que construyen motores de búsqueda, sistemas de recomendación y asistentes de IA que necesitan razonar sobre texto, imágenes y datos estructurados. Los modelos son accesibles a través de API alojadas y versiones de código abierto, con soporte multilingüe y capacidades de contexto largo para manejar documentos grandes. Jina AI se integra con bases de datos vectoriales comunes y marcos LLM, lo que la convierte en un bloque de construcción práctico para sistemas de búsqueda semántica y recuperación de conocimientos de grado de producción.
Desglose de criterios
- Modelos de embedding de texto e imagen
- APIs de reranker neuronal
- Clasificación zero-shot
- Soporte de documentos de largo contexto
- Recuperación multilingüe
- Integraciones RAG y de bases de datos vectoriales