نموذج Nemotron 3 Embed من Nvidia يكشف الضريبة الخفية التي يدفعها كل وكيل ذكاء اصطناعي

كل دورة إضافية يتخذها وكيل الذكاء الاصطناعي تكلف رموزًا ووقت استجابة وميزانية استدلال. عائلة Nemotron 3 Embed الجديدة من Nvidia، وهي ثلاثة نماذج مفتوحة الأوزان بقيادة نموذج رائد بحجم 8 مليارات معلم يتصدر مؤشر تقييم استرجاع المحولات (RTEB)، تهاجم هذا المضاعف مباشرة. الادعاء هو أن الاسترجاع الأفضل يعني حلقات وكيل أقل، وتشير الأرقام إلى أن الحساب واقعي.

ضريبة الاسترجاع الوكيلة

في خط أنابيب RAG التقليدي، يكون الاسترجاع بوابة واحدة: احصل على أفضل أجزاء المعلومات، وأجب على السؤال. في الأنظمة الوكيلة، يحدث الاسترجاع بشكل متكرر، حيث يبحث الوكيل ويستدل ويبحث مرة أخرى ويفحص السياق، وغالبًا ما يعيد الترتيب في منتصف التدفق. كل دورة تضاعف تكلفة الرموز. يُظهر التقييم الداخلي لـ Nvidia، باستخدام وكيل بحث مدعوم من Nemotron 3 Ultra مقابل معايير ViDoRe V3 و BRIGHT و BrowseComp-Plus، أن الاسترجاع الأقوى يرتبط بتخفيضات أكثر حدة في إنفاق الرموز النهائي. قدم النموذج Nemotron-3-Embed بحجم 8 مليار معلم أعلى متوسط دقة استرجاع وأقل تكلفة رموز مقدرة لكل استعلام عبر جميع مجموعات البيانات الثلاثة.

الآلية بديهية: إذا كانت دفعة الاسترجاع الأولى تحتوي بالفعل على الأدلة ذات الصلة، فيمكن للوكيل تخطي البحث الثاني، واستدعاء الاستدلال الإضافي، وعملية إعادة فحص السياق المكلفة. يرسم مخطط Nvidia للدقة مقابل تكلفة الرموز الوكيلة منحنى هبوطيًا واضحًا، وهي حالة نادرة حيث تتوافق قصة المعايير الخاصة بالبائع مع ضغط النشر الفعلي.

ثلاثة نماذج، ثلاثة مقايضات

تتضمن المجموعة ثلاثة متغيرات:

• Nemotron-3-Embed-8B-BF16، النموذج الرائد، بُعد التضمين 4096، نافذة سياق 32 ألف رمز. يسجل 78.5% على RTEB و75.5% على MMTEB Retrieval (NDCG@10). يدعي إعلان Nvidia الخاص بـ RTEB الحصول على المركز الأول في مجال يضم Qwen3-Embedding و EmbeddingGemma.
• Nemotron-3-Embed-1B-BF16، تم تقليمه وتقطيره من النموذج بحجم 8 مليار معلم عبر خط أنابيب NAS مكون من مرحلتين من ModelOpt (3B → 2B → 1.14B). يسجل 72.4% على RTEB، وهو انخفاض في الخطأ بنسبة 27% مقارنة بسابقه بحجم 1 مليار معلم (llama-nemotron-embed-vl-1b-v2).
• Nemotron-3-Embed-1B-NVFP4، متغير مُحسَّن لـ Blackwell بدقة 4 بت. يحتفظ بأكثر من 99% من دقة BF16 بينما يدعي تحقيق إنتاجية أعلى بمقدار الضعف على أجهزة Blackwell من خلال تسريع NVFP4 الأصلي.

تشترك النماذج الثلاثة في نافذة سياق مشتركة تبلغ 32 ألف رمز، وتجميع متوسط، واصطلاح بادئة الإدخال query:/document:، مما يجعلها بدائل مباشرة لبعضها البعض في خط أنابيب الإنتاج.

لماذا النماذج بحجم 1 مليار معلم أهم من النموذج بحجم 8 مليار معلم

تنتمي عناوين لوحات المتصدرين إلى النموذج الرائد بحجم 8 مليار معلم، لكن القصة العملية تكمن في المتغيرات بحجم 1 مليار معلم. خدمة التضمين في الإنتاج هي لعبة إنتاجية: كل ميكروثانية لكل استعلام تتضاعف عبر ملايين الطلبات. تتطابق الخدمة الصغيرة NIM المستندة إلى Rust من Nvidia للنموذج بحجم 1 مليار معلم أو تتفوق على نقطة تفتيش vLLM على وحدات معالجة الرسوميات GB200 و RTX PRO 6000 عند أطوال تسلسل تبلغ 256 و1024 رمزًا. هذا مهم للفرق التي لا تستطيع تبرير ميزانية الحوسبة لتمرير تضمين بحجم 8 مليار معلم على نطاق واسع.

المتغير NVFP4 هو الأكثر إثارة للاهتمام: فهو يحول بشكل فعال مشكلة مساحة الذاكرة إلى رافعة لتسريع الأجهزة. على وحدات معالجة الرسوميات Blackwell، لا يتطلب المسار الأصلي بدقة 4 بت إزالة التكميم في وقت التشغيل، لذا فإن كسب الإنتاجية هيكلي وليس خدعة برمجية. تدمج شركات مثل turbopuffer و Mem0 بالفعل النماذج بحجم 1 مليار معلم، حيث أبلغت Mem0 عن 80.38% مقابل 78.71% من Qwen-3-0.6B على LongMemEval Retrieval@10، وهي ميزة ضيقة ولكنها ثابتة لاسترجاع ذاكرة الوكيل.

وصفات مفتوحة، نظام بيئي شبه مغلق

أصدرت Nvidia أوزان النماذج ووصفات الضبط الدقيق (عبر NeMo AutoModel) ووصفات التقطير بموجب ترخيص مفتوح. وهذا يضع Nemotron 3 Embed في فئة مختلفة عن واجهات برمجة تطبيقات التضمين الاحتكارية. يمكن للفرق فحص النماذج وضبطها بدقة واستضافتها ذاتيًا. العديد من الشركاء المؤسسيين، Automation Anywhere و Boomi و IBM و Palantir و ServiceNow، يقومون بتقييم النماذج للاسترجاع الوكيل وأعباء العمل الطرفية والبحث في الوثائق.

ومع ذلك، فإن النظام البيئي المفتوح له تبعية: يعمل متغير NVFP4 بشكل أفضل على أجهزة Blackwell. ستستخدم الفرق على أجيال أقدم من وحدات معالجة الرسوميات المتغير BF16 بشكل افتراضي، والذي لا يزال يتطلب بنية تحتية كبيرة للخدمة للنموذج بحجم 8 مليار معلم. النماذج بحجم 1 مليار معلم هي نقطة الدخول العملية لمعظم عمليات النشر، لكن سقف الأداء يظل مرتبطًا بخريطة طريق أجهزة Nvidia.

المشهد التنافسي

سوق التضمين مزدحم: تتنافس نماذج مثل Qwen3-Embedding-0.6B و EmbeddingGemma-300M و E5-Mistral-7B و Voyage-2 على منحنيات الدقة والكفاءة. القيمة المضافة من Nvidia هي التكامل الكامل للحزمة: النماذج والخدمات الصغيرة NIM ووصفات NeMo والتنسيقات المحسّنة للأجهزة. يمكن للمطور البدء على Hugging Face، والانتقال إلى حاوية NIM للإنتاج، ثم التبديل لاحقًا إلى NVFP4 على Blackwell للتوسع دون تغيير كود الاسترجاع. هذا القفل في النظام البيئي دقيق ولكنه قوي.

ومع ذلك، فإن بُعد التضمين للنماذج بحجم 1 مليار معلم البالغ 2048 (مقابل 4096 للنموذج بحجم 8 مليار معلم) يحد من دقة التشابه الزوجي على نطاق واسع. لإزالة التكرار الكبير، أو إعادة الترتيب باستخدام المشفر المتقاطع، أو الاسترجاع الكثيف عبر ملايين المستندات، قد يخلق التخفيض البعدي سقفًا لا تظهره معايير Nvidia الخاصة.

الخلاصة

Nemotron 3 Embed ليس قفزة ثورية في علم الاسترجاع، بل هو توليفة هندسية: معايير أفضل، ومتغيرات صغيرة فعالة، وقصة نشر تربط الدقة بتوفير التكاليف. للفرق التي تبني أنظمة وكيلة حيث تكون كفاءة الرموز مهمة بقدر الاستدعاء، تقدم النماذج بحجم 1 مليار معلم مزيجًا نادرًا من التوفر المفتوح والإنتاجية الإنتاجية. النموذج بحجم 8 مليار معلم يفوز بلوحة المتصدرين؛ النماذج بحجم 1 مليار معلم قد تفوز في النشر.