المحاذاة التعددية لا موطئ قدم لها في الذكاء الاصطناعي الإنتاجي، حسبما يجد الباحثون

فجوة التبني

تفتتح الورقة بملاحظة حادة: على الرغم من سنوات من البحث النشط، لا يوجد دليل عام على أن أي نظام ذكاء اصطناعي إنتاجي تم تدريبه أو اختباره صراحة للمحاذاة التعددية للقيم. المحاذاة التعددية هي هدف بناء نماذج تعكس قيمًا ووجهات نظر بشرية متنوعة. دافعها الأساسي هو إحداث فرق إيجابي لمليارات الأشخاص الذين يستخدمون الذكاء الاصطناعي. ومع ذلك، يكشف تدقيق لوثائق السلوك والتقييمات من المختبرات الحدودية أن لا أحد منها يسمي التعددية كهدف. الورقة لا تسمي مختبرات محددة، لكن النمط ثابت عبر الصناعة.

هذا الانفصال هو النتيجة المركزية للورقة. يجادل المؤلفون بأنه بدون التبني في الأنظمة المنشورة، يظل طموح المجال لخدمة مستخدمين متنوعين غير محقق. الفجوة ليست مجرد مسألة توقيت؛ إنها تشير إلى مشاكل أعمق في كيفية تعامل المجتمع البحثي مع المشكلة.

ثلاثة أسباب لقصور البحث

تشخص الورقة ثلاثة أسباب لمشكلة التبني.

أولاً، كانت المبررات معيارية أو تخمينية. جادل الباحثون لماذا التعددية مهمة، لكنهم لم يظهروا تجريبيًا أن الذكاء الاصطناعي التعددي يفيد المستخدمين أو المجتمع بالفعل. بدون أدلة ملموسة، لدى المطورين حافز ضئيل لإعطائها الأولوية.

ثانيًا، لم يحدد المجتمع متى يكون السلوك التعددي مبررًا أو كيف يجب أن يبدو. لا يوجد هدف تشغيلي متفق عليه يسعى إليه المطورون. التعددية تعني أشياء مختلفة في سياقات مختلفة، ولم يقدم البحث هدفًا واضحًا.

ثالثًا، تخلق طرق المحاذاة التعددية الحالية مقايضات غير مقاسة مقابل خصائص أخرى لنماذج اللغات الكبيرة. تلاحظ الورقة أن المقاييس الحالية ليست "hill-climbable" مما يعني أن المطور لا يمكنه تحسينها بشكل موثوق أثناء التدريب. الأنظمة الإنتاجية لها متطلبات صارمة للدقة والسرعة والتماسك. أي طريقة تقلل من هذه المعايير دون عائد واضح سيتم رفضها.

خارطة طريق نحو التأثير

دعوة الورقة للعمل موجهة إلى مجتمع أبحاث المحاذاة التعددية. تطلب من الباحثين تجاوز المبررات المعيارية وبناء أسس تجريبية. بشكل ملموس، هذا يعني دراسات توضح كيف يحسن الذكاء الاصطناعي التعددي النتائج للمستخدمين أو المجتمع.

ثانيًا، يجب على المجتمع وضع تصور ملموس للسلوك التعددي المثالي. يحتاج المطورون إلى هدف يمكنهم تشغيله في خطوط التدريب والتقييم.

ثالثًا، يحتاج الباحثون إلى تطوير تقييمات ومقاييس واعية بالمقايضات تكون hill-climbable. يجب أن تكون الطرق متوافقة مع متطلبات الإنتاج، وليس فقط العمل في إطار بحثي. الورقة لا تصف تقنيات محددة، لكنها تجادل بأن التقدم يتطلب طرقًا يمكن للمختبرات تبنيها فعليًا دون التضحية بأهداف أداء أخرى.

لا تدعي الورقة أن لديها كل الإجابات. إنها خارطة طريق، وليست وجهة نهائية. لكن نتيجتها قاسية: عقد من البحث النشط في المحاذاة التعددية لم يغير كيفية تدريب المختبرات الحدودية أو تقييم نماذجها. إذا أراد المجتمع التأثير، عليه تغيير ما يعطيه الأولوية. يعتمد حدوث هذا التحول على استعداد الباحثين لترك سلامة الحجج المعيارية وبناء أدوات تعمل في الواقع الفوضوي للذكاء الاصطناعي الإنتاجي.