نموذج بحجم 12 مليار معلمة يتفوق على آخر بحجم 90 مليارًا. عقيدة التوسع في خطر

أعادت شركة ميسترال إيه آي كتابة معادلة الكفاءة لنماذج الذكاء الاصطناعي متعددة الوسائط بهدوء. نموذج Pixtral-12B، وهو نموذج رؤية ولغة مزود بـ12 مليار معلمة، تم إصداره بموجب ترخيص Apache 2.0، ويتفوق على المنافسين مفتوحي المصدر ذوي الحجم الكبير في مجموعة من المقاييس، بينما يعمل بجزء بسيط من الموارد الحاسوبية. ويشمل ذلك نموذج Llama-3.2 90B من ميتا المزود بـ90 مليار معلمة. أولمو-إيفال من Ai2 يمنح مطوري LLM ميكروسكوبًا لكل نقطة تفتيش

تختلف بنية النموذج عن الاتجاه السائد في الصناعة الذي يعيد استخدام أطر الرؤية الموجودة. قامت ميسترال بتدريب مشفر رؤية جديد من الصفر. فهو يعالج الصور بدقتها الأصلية ونسبة أبعادها الأصلية بدلاً من تغيير حجمها اقتصاصها لتناسب شبكة إدخال جامدة. تتيح هذه المرونة للمستخدمين التحكم في ميزانية الرموز لكل صورة، وهو خيار تصميم مهم لسيناريوهات النشر حيث يكون زمن الاستجابة أو التكلفة مقيدين. Fast-LeWM: التنبؤ بالبادئة الموازية للأفعال يقلل من…

في المقاييس القياسية متعددة الوسائط، يحقق Pixtral-12B نتائج تنافسية مع نماذج مفتوحة أكبر بكثير، وفي عدة حالات يتفوق عليها. في معيار MM-MT-Bench الجديد، الذي يقيم نماذج الرؤية واللغة في مهام التفكير الواقعي مثل تفسير المخططات وتحليل المستندات، يُظهر النموذج مزايا ثابتة على Qwen-2-VL 7B وLlama-3.2 11B.

ما يميز Pixtral عن المجموعة الحالية من النماذج مفتوحة المصدر متعددة الوسائط هو أنه لا يتنازل عن القدرة اللغوية مقابل أداء الرؤية. تتدهور العديد من نماذج VLM مفتوحة المصدر في مهام النص البحت لأن مكونات الرؤية الخاصة بها تستنزف المعلمات المشتركة. تدعي ميسترال أن Pixtral يحافظ على مستواه في تقييمات النص البحت. إذا تم التحقق من ذلك بشكل مستقل، فإن هذا الادعاء يسد الفجوة بين النماذج مفتوحة المصدر متعددة الوسائط واللغوية البحتة. IFBench: المعيار الجديد لاختبار اتباع الذكاء الاصطناعي…

يتضمن الإصدار أيضًا MM-MT-Bench، وهي مجموعة منتقاة من 250 سؤالًا متعدد الجولات تغطي خمس فئات مهام: الإجابة على أسئلة المستندات، والاستدلال على المخططات، وفهم المشهد، والتعرف البصري على الأحرف، والتوليد الإبداعي. توفر ميسترال بيانات المعيار وخط أنابيب تقييم موحد، بهدف استبدال إعدادات التقييم المجزأة وغير القابلة للتكرار غالبًا التي ابتليت بها أبحاث VLM مفتوحة المصدر. عامل الذكاء الاصطناعي الخاص بك اجتاز الاختبار بالصدفة.…

تدعم نافذة السياق لـ Pixtral-12B البالغة 128 ألف رمز أي عدد من الصور، مما يجعله مناسبًا لسير عمل المستندات الطويلة حيث يلزم معالجة ملفات PDF متعددة الصفحات أو مجموعات الشرائح في تمريرة واحدة. يعمل النموذج على بطاقة رسوميات استهلاكية واحدة، RTX 4090، مما يشير إلى أن الاستدلال المحلي الميسور ممكن في العديد من حالات الاستخدام. نموذج الذكاء الاصطناعي الخاص بك يدعي أنه يقرأ مليون…

الأهمية الأوسع هي التحدي لعقيدة التوسع. إذا كان بإمكان نموذج بحجم 12 مليار معلمة التفوق على نموذج بحجم 90 مليارًا في مهام الرؤية واللغة، فإن الحجة القائلة بأن "الأكبر دائمًا أفضل" للقدرة متعددة الوسائط تفقد قوتها. قد تحدد البنى الموجهة نحو الكفاءة وبيانات التدريب عالية الجودة، وليس العدد الخام للمعلمات، المستوى التالي من أداء النماذج مفتوحة المصدر.

يضمن اختيار ميسترال لترخيص Apache 2.0 قابلية الاستخدام التجاري دون قيود، مما يضع Pixtral كعمود فقري محتمل لكل من أنظمة البحث والإنتاج. النموذج متاح على Hugging Face، وكود المعيار مفتوح المصدر أيضًا.