نموذج نيموترون 3 ألترا من إنفيديا يقلب معادلة تكلفة سير العمل الوكيل رأسًا على عقب

تراهن إنفيديا على أن مستقبل البنية التحتية للذكاء الاصطناعي سيقاس بالتكلفة الإجمالية لسلسلة تفكير متعددة الخطوات، وليس بزمن الاستجابة الفردي. أصدرت الشركة نموذج نيموترون 3 ألترا على سحابة أولاما اليوم. على الورق، يبدو النموذج غير ملحوظ، بـ 550 مليار معلمة. ثم تصادف التفاصيل الدقيقة: يتم تنشيط 55 مليارًا فقط لكل رمز. نسبة التفرق 90٪ هي المنتج، وليس عدد المعلمات.

ينتمي نيموترون 3 ألترا إلى موجة جديدة من النماذج المبنية لسير العمل الوكيل: مهام التنسيق، وكلاء البرمجة، البحث العميق، وخطوط أنابيب المؤسسات التي تعمل عبر مئات خطوات استدعاء الأدوات. يدعم النموذج نافذة سياق تبلغ مليون رمز، كبيرة بما يكفي لاحتواء قاعدة بيانات كاملة، أو تاريخ أدوات طويل، أو مسار بحث متعدد الفصول دون فقدان الدقة.

"التكلفة الحقيقية في الذكاء الاصطناعي الوكيل ليست في التمرير الأمامي الواحد،" قال محلل مستقل للبنية التحتية للذكاء الاصطناعي. "إنها التكلفة الإجمالية للحفاظ على تفكير متماسك عبر سلسلة طويلة من استدعاءات الأدوات. النموذج الذي يبقى دقيقًا من الخطوة 1 إلى الخطوة 300 يغير اقتصاديات النشر بأكمله."

العتلة المعمارية هي NVFP4، تنسيق النقطة العائمة 4 بت من إنفيديا، الذي يقلص مساحة الذاكرة ويسرع الاستدلال. بالإضافة إلى آلية توجيه تنشط فقط عُشر إجمالي المعلمات لكل رمز، يدعي نيموترون 3 ألترا تقديم إنتاجية رائدة في معايير الوكيل مع خفض تكاليف الاستدلال بنسبة تصل إلى 30٪ مقارنة بالنماذج المفتوحة القابلة للمقارنة.

موقف إنفيديا التنافسي واضح. الرسوم البيانية للمعايير التي نُشرت مع النموذج تضعه في الربع العلوي الأيمن من الدقة مقابل الإنتاجية، متقدمًا على البدائل المفتوحة الحالية في إنتاجية الوكيل، وتوليد الكود، واتباع التعليمات. تؤكد الشركة أن ضبط النموذج، وليس التدريب المسبق، هو ما يميزه. تم ضبط نيموترون 3 ألترا بدقة للتنسيق، وحلقات التغذية الراجعة لتعلم التعزيز، واسترجاع السياق الطويل.

التوفر وتكاملات الأدوات

النموذج متاح اليوم عبر سحابة أولاما. يمكن للمستخدمين استدعاؤه بأمر واحد، ollama run nemotron-3-ultra:cloud، وربطه بأطر الوكيل الحالية مثل كلود كود، هيرميس إيجنت، وأوبنكلو، وكلها تدعمه عند الإطلاق. تعد إنفيديا بتكاملات إضافية في الأسابيع القادمة.

الخطاف للمطورين مباشر: استبدل نموذجًا واحدًا ليحل محل نظير أكثر تكلفة، وإذا ثبتت المعايير، احصل على دقة مماثلة أو أفضل بتكلفة وقت تشغيل مخفضة. قد يجذب سياق المليون رمز بشكل خاص الفرق التي تبني وكلاء يحتاجون إلى الحفاظ على ذاكرة الإجراءات السابقة عبر استدعاءات API الموزعة أو مخططات قواعد البيانات.

آثار على النظام البيئي للذكاء الاصطناعي الوكيل

يصل نيموترون 3 ألترا بينما تتصارع الصناعة مع توتر أساسي. تتطلب البنيات الوكيلة رموزًا أكثر لكل مهمة من الأسئلة والأجوبة التقليدية، مما يرفع فواتير السحابة. ركزت معظم جهود التحسين على تقطير النموذج أو ضغط المطالبة. تقدم إنفيديا بدلاً من ذلك نموذجًا متناثرًا ومكممًا أصليًا يدعي تغيير منحنى التكلفة لكل مهمة من الجانب المعماري.

"إذا تمكنت إنفيديا من تحقيق توفير 30٪ في التكاليف دون التضحية بالدقة في المهام الوكيلة الحقيقية، فإنها تخلق أرضية جديدة لما هو اقتصادي،" قال مؤسس شركة ناشئة تعمل في الذكاء الاصطناعي للمؤسسات، الذي طلب عدم ذكر اسمه بسبب مفاوضات جارية مع مزودي الخدمات السحابية. "حاليًا، محادثة عميل تتطلب خمس استدعاءات أدوات عبر سياق 50,000 رمز هي أغلى بكثير من إجابة بسيطة. هذه الفجوة هي أكبر عائق أمام التبني."

يختبر النموذج أيضًا مدى تقدم الصناعة في قبول التفرق كاستراتيجية إنتاج. عانت النماذج المتناثرة المبكرة من متطلبات حسابية غير متوقعة، لكن إنفيديا تدعي أن توجيه نيموترون 3 ألترا محدد لكل رمز، مما يجعله مناسبًا لأحمال العمل الحساسة لزمن الاستجابة.

المشهد التنافسي

ينافس النموذج مباشرة النماذج الكثيفة ذات القدرة المماثلة من أنثروبيك، أوبن إيه آي، وميتا، على الرغم من أن ميتا استكشفت أيضًا بنيات خبير مختلط مع متغيرات لاما 4. ميزة إنفيديا هي أجهزتها الخاصة. NVFP4 هو تنسيق تصمم الشركة وحدات معالجة الرسوميات الخاصة بها لتشغيله أصليًا، مما يعني على الأرجح أن نيموترون 3 ألترا يستفيد من تحسينات البرامج الثابتة ومستوى السيليكون التي لا يستطيع المنافسون تكرارها.

سيختبر المتبنون الأوائل النموذج على مهام حقيقية متعددة الخطوات مثل البرمجة، واستخراج البيانات، وتنسيق الأدوات التي تضغط على كل من الاحتفاظ بالسياق الطويل واتباع التعليمات. تُظهر المعايير الرسمية أن نيموترون 3 ألترا يتصدر بين النماذج المفتوحة على هذه المحاور، لكن التحقق المستقل سيوضح ما إذا كانت توفير 30٪ تتحقق تحت حمل الإنتاج.

حاليًا، أضافت إنفيديا خيارًا موثوقًا به إلى مجموعة أدوات الذكاء الاصطناعي الوكيل: خيار يسلط الضوء على التكلفة الإجمالية لسلسلة التفكير بدلاً من سعر الاستعلام الواحد.