Los nuevos modelos de embedding de Nvidia lideran la clasificación, pero la verdadera historia es el ahorro en costos de agentes

Nvidia lanzó hoy la colección Nemotron 3 Embed, una familia de tres modelos de embedding de peso abierto que reclaman el puesto #1 en el ranking del Benchmark de Evaluación y Tareas de Recuperación (RTEB). El modelo insignia de 8B obtiene un 78.5% en RTEB y un 75.5% en MMTEB Retrieval. Pero los datos propios de los benchmarks de la empresa cuentan una historia más interesante: una mejor recuperación se traduce directamente en inferencia de agentes más barata.

La colección incluye el modelo insignia 8B BF16, un modelo de eficiencia 1.14B BF16 y una variante NVFP4 de 1.14B optimizada para Blackwell. Los tres están disponibles en Hugging Face bajo pesos abiertos y vienen con recetas de entrenamiento NeMo de Nvidia para ajuste fino y destilación. Los modelos admiten una ventana de contexto de 32k, pooling medio y la convención estándar de prefijo query: / document:.

Nvidia evaluó los modelos en tres benchmarks de agentes, ViDoRe V3, BRIGHT y BrowseComp-Plus, utilizando un agente de búsqueda impulsado por Nemotron 3 Ultra. Los resultados muestran una relación inversa entre la precisión de recuperación y el gasto downstream de tokens. El modelo de 8B registró la precisión de recuperación promedio más alta y el costo downstream de tokens estimado más bajo, lo que sugiere que invertir en un embedding más sólido puede amortizarse con los ahorros en tiempo de ejecución del agente.

Las variantes de 1B están diseñadas para capturar la mayor parte de esa ganancia de calidad con menor latencia. Nemotron-3-Embed-1B-BF16 puntúa un 72.4% en RTEB, reduciendo la tasa de error en un 27% en comparación con su predecesor (llama-nemotron-embed-vl-1b-v2). La variante NVFP4, dirigida a la arquitectura Blackwell de Nvidia, retiene más del 99% de la precisión BF16 mientras ofrece hasta 2 veces más rendimiento y una huella de memoria más pequeña mediante aceleración nativa de 4 bits.

Nvidia también publicó un microservicio NIM para el modelo de 1B, construido en Rust, que iguala o supera la implementación vLLM en GPU GB200 y RTX PRO 6000 en longitudes de secuencia de entrada de 256 y 1024 tokens.

Entre los evaluadores tempranos se incluyen Automation Anywhere, Boomi, IBM, Mem0, Palantir, ServiceNow, turbopuffer, You.com, Zep y Zoom. El gerente de producto de Mem0 informó que el modelo de 1B obtuvo un 80.38% frente al 78.71% de Qwen-3-0.6B en LongMemEval para Retrieval@10, mientras que el ingeniero senior de IA de You.com dijo que reemplazar el modelo Nemotron 3 Embed en su pila de reordenamiento "produjo un salto significativo en el rendimiento".

El modelo de 8B se construyó adaptando la base Ministral-3-8B-Instruct-2512 de un decodificador causal a un codificador bidireccional, luego entrenando con preentrenamiento contrastivo en pares web y sintéticos, seguido de ajuste fino en conjuntos de datos multilingües curados. Los modelos de 1B se produjeron mediante dos rondas de poda estructurada, desde un padre de 3B a un intermedio de 2B, y luego hasta el tamaño final de 1.14B, utilizando el motor de Búsqueda de Arquitectura Neural de Nvidia ModelOpt, con destilación a partir de un punto de control de profesor de 8B en cada etapa.

Nvidia también compartió un ejemplo de ajuste fino por dominio: adaptar Nemotron-3-Embed-1B-BF16 a la evaluación NV Docs mejoró NDCG@10 de 56.7% a 63.3% y Recall@5 de 56.1% a 62.8%.