Mistral Nano يعمل على أجهزة بذاكرة أقل من 1 جيجابايت ويحقق 85% من نتائج الاستدلال لنظيره الأكبر

أطلقت شركة Mistral AI بهدوء نموذجًا لغويًا صغيرًا جديدًا يهدف إلى العمل على الأجهزة محدودة الموارد. تم تصميم Mistral Nano للأجهزة الطرفية، بما في ذلك الهواتف الذكية وأجهزة استشعار إنترنت الأشياء والأنظمة المدمجة، حيث تكون الذاكرة وقوة الحوسبة محدودة. وتقول الشركة إنه يمكنه العمل بذاكرة تقل عن 1 جيجابايت مع الاحتفاظ بنسبة 85% من أداء نموذجها الأكبر Mistral Small في مقاييس الاستدلال المعيارية.

يأتي هذا الإعلان في الوقت الذي يشهد فيه القطاع جدلًا متزايدًا حول ما إذا كانت النماذج الأصغر والأكثر كفاءة يمكن أن تحل محل نهج التوسع المكثف الذي تتبناه شركات مثل OpenAI و Google. وقد تحدى سجل Mistral الخاص هذه البديهية بالفعل: في وقت سابق من هذا العام، تفوق نموذجها المكون من 12 مليار معلمة على منافس مكون من 90 مليار معلمة في عدة مهام. يوسع نموذج Mistral Nano هذا المنطق ليشمل الأطراف الطرفية، حيث كل ميغابايت من الذاكرة وكل ملي واط من الطاقة له أهميته.

لا تزال البنية المحددة وعدد المعلمات وبيانات التدريب غير معلنة. تقول Mistral فقط إن Nano هو نموذج لغوي قائم على المحولات (Transformer) ومحسّن للاستدلال منخفض الكمون على معالجات ARM و x86 الطرفية. يبدو أن قوة النموذج تكمن في مهام الاستدلال التي تقيس الاستنتاج المنطقي والفهم العام، على الرغم من أن Mistral لم ينشر تحليلاً مفصلاً للمقاييس المعيارية المستخدمة.

أصبح سوق الذكاء الاصطناعي الطرفي ساحة معركة للإصدارات التي تركز على الكفاءة. أصدرت Google نموذج Gemini Nano كجزء من مجموعتها Pixel العام الماضي، وتدعم نماذج Apple المحلية على الجهاز ميزات مثل الإملاء على الجهاز ووصف الصور في iOS. يضع دخول Mistral الشركة في موقع يمكنها من المنافسة في إنترنت الأشياء الصناعي، وأنظمة الترفيه في السيارات، والأجهزة الاستهلاكية حيث تتطلب قيود الخصوصية معالجة محلية.

يتوفر نموذج Mistral Nano للتنزيل من Hugging Face بموجب ترخيص Apache 2.0، مما يجعله مناسبًا للاستخدام التجاري والهواة دون رسوم ترخيص لكل استدعاء. يتم تعبئة النموذج بتنسيق غير مرتبط بإطار عمل يدعم ONNX Runtime و CoreML على أجهزة Apple، و TensorFlow Lite على أجهزة Android و Linux.

يأتي الإصدار أيضًا مع تطبيق مرجعي لأجهزة Raspberry Pi 5 وأجهزة الكمبيوتر أحادية اللوحة المماثلة، مما يشير إلى أن Mistral تستهدف جمهور المصنعين والنماذج الأولية الصناعية بقدر ما تستهدف مصنعي الهواتف الذكية. تدعي مذكرة تقنية مصاحبة للإصدار أن زمن استجابة الاستدلال لـ Nano على Raspberry Pi 5 يقل عن 100 مللي ثانية للردود أحادية الدورة التي تصل إلى 100 رمز، على الرغم من أن الشركة تحذر من أن الأداء سيختلف باختلاف المهمة وحمل النظام.

هذا النموذج ليس التوسع الأخير لـ Mistral خارج النصوص. في يونيو، استحوذت الشركة على Emmi AI، وهي شركة نمساوية ناشئة في محاكاة الفيزياء، لجلب المحاكاة في الوقت الفعلي وقدرات التوأم الرقمي للهندسة الصناعية. ونموذج Pixtral-12B للرؤية واللغة، الذي صدر في وقت سابق من هذا العام، أظهر أن Mistral يمكنها التعامل مع المدخلات متعددة الوسائط دون تضخيم متطلبات الذاكرة. يتناسب Mistral Nano بشكل جيد مع هذا النمط: إصدار يركز على الكفاءة ويختبر حدًا أدنى لم تجربه الشركة من قبل.

الفجوة في المقاييس المعيارية بين Nano و Small تثير سؤالاً عمليًا: هل 85% كافية؟ بالنسبة للعديد من حالات الاستخدام الطرفي، من المرجح جدًا أن تكون الإجابة بنعم. الجهاز الذي يمكنه تصنيف أوامر المستخدم، أو تشغيل أسئلة وأجوبة بسيطة، أو تشغيل روبوت محادثة لوثائق المساعدة لا يحتاج إلى أفضل 15% من استدلال على مستوى GPT. تصبح المقايضة حقيقية فقط في المهام التي تتطلب استدلالًا متعدد الخطوات أو استرجاع المعرفة الخارجية، حيث يبدأ نافذة السياق الأصغر للنموذج وقدرته المخفضة في الظهور.

لم تعلن Mistral عن مستوى ترخيص تجاري لـ Nano، على الرغم من أن ترخيص Apache 2.0 يمنح بالفعل حقوقًا واسعة. قد تقدم الشركة نقطة نهاية API مُدارة للمطورين الذين يريدون إنتاجية أعلى دون إدارة أجهزتهم الخاصة، ولكن في الوقت الحالي النموذج مستضاف ذاتيًا أو محلي فقط.

ما يلفت الانتباه في Nano ليس ادعاء الأداء نفسه، فـ 85% مثيرة للإعجاب لنموذج يعمل على جزء صغير من السيليكون، بل الاتجاه الذي يشير إليه. تراهن Mistral على أن مستقبل الذكاء الاصطناعي ليس مراكز بيانات أكبر بل أجهزة أصغر، وأن النموذج المفتوح الذي يعمل على كمبيوتر بلوحة واحدة بقيمة 80 دولارًا يهم أكثر من النموذج المغلق الذي يحتاج إلى مجموعة وحدات معالجة رسومية بقيمة 100,000 دولار. هذا الرهان مدعوم بقائمة متزايدة من شركاء مصنعي المعدات الأصلية وفريق بحثي أنتج باستمرار بنى فعالة.

ما إذا كانت فجوة 15% مهمة تعتمد كليًا على التطبيق. بالنسبة لمستشعر في مصنع يحتاج إلى الإبلاغ عن الحالات الشاذة في الوقت الفعلي، قد يكون Nano كل الذكاء المطلوب. بالنسبة لعامل تحليل المستندات القانونية، لن يكون كافيًا. تشير اختبارات Mistral الداخلية إلى أن الفجوة تضيق أكثر مع الضبط الدقيق الخاص بالمجال، مما قد يجعل Nano نموذجًا أساسيًا قابلاً للحياة لسير عمل الضبط الدقيق الطرفي.