لماذا لا تستطيع الذكاء الاصطناعي تفسير نفسها بعد؟ إطار للتفكير في الصرامة العلمية

مصطلح 'الصرامة' في الذكاء الاصطناعي يعني أشياء مختلفة اعتمادًا على من تسأل. بالنسبة لعالم الرياضيات، هو الإثبات. بالنسبة للمهندس، هو ما يعمل على نطاق واسع. بالنسبة للفيلسوف، هو الحصول على التعريفات الصحيحة.

في ورقة بحثية جديدة نُشرت على أرخايف، يقترح باحث جوجل ديب مايند تيموثي نغوين إطارًا يحاول الجمع بين هذه المعاني الثلاثة معًا. الورقة، دور الصرامة في الذكاء الاصطناعي، تقسم الصرامة إلى ثلاث فئات، المفاهيمية، والمعرفية، والتشغيلية، وتجادل بأن التطور غير المتوازن لهذه الفئات يفسر كلاً من التقدم المذهل للذكاء الاصطناعي وبقعاته العمياء المستمرة.

إنها تستحق القراءة ليس لأنها تحسم أي نقاش واحد، ولكن لأنها تسمي البنية التي تقوم عليها العديد من هذه النقاشات. الخلافات حول ما إذا كانت نماذج اللغات الكبيرة تفهم اللغة، واتهامات الخيمياء، وتشبع المعايير، ومشاكل السلامة، كلها تعود إلى نفس عدم التماثل: الصرامة التشغيلية تقدمت كثيرًا عن الفئتين الأخريين.

ثلاثة أنواع من الصرامة، مجال غير متوازن

الصرامة المفاهيمية تعني الوضوح بشأن المصطلحات الأساسية. الذكاء، الفهم، الاستدلال، هذه الكلمات تُستخدم باستمرار في خطاب الذكاء الاصطناعي، لكن المجال ليس لديه تعريف موحد لأي منها. يقوم نغوين بتوثيق العواقب. عندما يقول جيفري هينتون أن نماذج اللغات الكبيرة ذكية ويقول يان لوكون أنها ليست حتى بذكاء قطة، فإن الخلاف جزئيًا حول ما يعنيه الذكاء بالضبط. يؤكد هينتون على الكفاءة السلوكية. يؤكد لوكون على الاستدلال وفهم العالم. إنهما يستخدمان نفس الكلمة لأشياء مختلفة.

الصرامة المعرفية تتعلق بكيفية إنتاج المعرفة العلمية والتحقق من صحتها: قابلية التكرار، قابلية التنبؤ، قابلية التفسير. هنا، التعلم العميق له سجل مختلط. التجارب قابلة للتكرار من حيث المبدأ لأن كل شيء برمجي، لكن نغوين يلاحظ أن قابلية تكرار النتائج وقابلية التكرار الاستدلالي غالبًا ما يتم الخلط بينهما. يمكن لاختلافات صغيرة في التنفيذ أن تقلب الاستنتاجات. لدى المجال قوانين قياس تتنبأ بالخسارة عند ميزانيات حسابية أكبر، لكنه يفتقر إلى نظريات تتنبأ متى سيعمم النموذج أو يفشل. قابلية التفسير أسوأ حتى. تنتج الشبكات العصبية ميزات في فضاءات عالية الأبعاد تقاوم التفسير. تستحضر الورقة نقد 'الخيمياء' المألوف ولكنها تضيف تحسينًا مفيدًا: ما يجعل التعلم العميق خيميائيًا ليس فقط الفهم غير الكامل، ولكن غياب التجريد الهرمي. في العلوم الناضجة، يمكنك توطين الأسئلة على مستوى معين، دون ذري، خلوي، تطوري. في التعلم العميق، غالبًا ما يكون من غير الواضح ما إذا كان الفشل الملحوظ يأتي من الخلايا العصبية الفردية، أو ديناميكيات التحسين، أو بيانات التدريب، أو مزيج منها.

الصرامة التشغيلية تعني جعل الأنظمة تعمل بشكل موثوق: المعايير، الاختبارات، إجراءات السلامة. هذا هو المجال الذي استثمر فيه التعلم العميق أكثر ونجح أكثر. تحول المعايير الأداء إلى هدف تحسين، مما يخلق حلقة تغذية مرتدة ضيقة. طرق ما بعد التدريب، الضبط الدقيق للتعليمات، التعلم التعزيزي من التغذية الراجعة البشرية، هندسة المطالبات، تشكل سلوك النموذج دون الحاجة إلى نظرية حول كيفية عمل النموذج. يسمي نغوين هذا الاستبدال: الصرامة التشغيلية تعوض عن نقص الضمانات المعرفية.

المعايير كوكلاء معرفيين

معالجة الورقة للمعايير حادة بشكل خاص. تعمل المعايير كما يسميها نغوين 'وكلاء معرفيين'، الأداء القوي على إيماجينت أو MMLU يُؤخذ كدليل على أن النموذج يعمم إلى ما بعد تلك المهام المحددة. لكن يجب توفر شرطين لكي يكون هذا الاستدلال صحيحًا: يجب ألا يكون النموذج قد تدرب على بيانات المعيار، ويجب أن يتعلم المفاهيم المقصودة بدلاً من الارتباطات الزائفة. لا يتم استيفاء أي من الشرطين بشكل موثوق في العصر الحالي من التدريب المسبق الضخم وبيانات الويب المفتوحة.

فرضية يانصيب المعايير، وهي أن التغييرات الصغيرة في اختيار المهمة يمكن أن تقلب ترتيب الطرق، تحصل على ذكر. وكذلك قانون جودهارت: بمجرد أن يصبح المقياس هدفًا للتحسين، فإنه يتوقف عن كونه مقياسًا موثوقًا. التملق في نماذج الدردشة، حيث يتعلم النظام الموافقة على المستخدم بدلاً من أن يكون صادقًا، هو أحد الأعراض.

تقدم بدون نظرية

القسم الأكثر إثارة للاهتمام في الورقة يفحص كيف شكلت هذه الأشكال الثلاثة من الصرامة مسار الذكاء الاصطناعي. تشخيص نغوين هو أن الذكاء الاصطناعي يُظهر عدم تماثل هيكلي: أصبحت الصرامة التشغيلية مهيمنة، بينما تتخلف الصرامة المفاهيمية والمعرفية. هذا ليس مصادفة. إنه يتبع سمتين من سمات المجال.

أولاً، لدى الذكاء الاصطناعي حلقة تغذية مرتدة ضيقة بين التقييم والتطوير. نفس المقاييس المستخدمة لتقييم الأنظمة هي الأهداف التي يتم تدريب تلك الأنظمة لتحسينها. في الفيزياء أو الطب، لا تكرر نظرية من خلال تعظيم مقياس أداء على معيار. أنت تختبر النظرية. في الذكاء الاصطناعي، المقياس هو الهدف.

ثانيًا، ينتج الذكاء الاصطناعي المصنوعات التي يدرسها. كل جيل من النماذج يخلق قدرات جديدة وأنماط فشل جديدة، مما يوسع المجال الذي يجب أن يشرحه العمل المفاهيمي والمعرفي لاحقًا. تدرس العلوم الطبيعية أشياء موجودة بشكل مستقل، ذرات، كائنات حية، كواكب. يدرس الذكاء الاصطناعي إبداعاته الخاصة، والتي تتغير باستمرار. هذا يجعل التقدم العلمي التراكمي أكثر صعوبة لأن الموضوع يتحرك باستمرار.

نغوين حريص على عدم تأطير هذا عدم التماثل كأزمة. يلاحظ أن التعلم العميق يمتلك أطرًا تفسيرية جزئية: قوانين القياس، نظرية نواك التانجنت العصبي، نتائج التقارب لطرق التدرج. هذه توفر فهمًا حقيقيًا، وإن كان محدودًا. لكن استنتاج الورقة هو أن سد الفجوات، خاصة المعرفية، سيتطلب أكثر من مجرد معايير أفضل أو نماذج أكبر. سيتطلب تطوير أشكال من الفهم العلمي يمكنها مواكبة ما يمكن أن تفعله التكنولوجيا بالفعل.

ما يتركه الإطار مفتوحًا

الورقة تشخيصية أكثر منها توجيهية. لا تقترح تعريفًا موحدًا للذكاء، ولا تدعي أن مثل هذا التعريف ممكن. تشير إلى أن الخلافات المفاهيمية يمكن على الأقل جعلها أكثر دقة، وهو ما سيكون تحسنًا عن الوضع الحالي. فيما يتعلق بقابلية التفسير، تثير سؤالًا أعمق: إذا كانت الشبكات العصبية تنفذ عمليات حسابية لا يوجد لها وصف مفهوم للإنسان، فما الذي يعتبر تفسيرًا على الإطلاق؟

هذا السؤال ليس بلاغيًا. يشير نغوين إلى أنه في مجالات مثل علم الأعصاب، تعمل التفسيرات بشكل روتيني على المستوى السلوكي، المعتقدات، الرغبات، النوايا، دون الحاجة إلى تتبع الخلايا العصبية الفردية. لا توجد طبقة تجريد مكافئة للشبكات العصبية. لا توجد 'نظرية عقل' لمحول، وليس من الواضح كيف ستبدو واحدة.

الورقة لا تحاول الإجابة على هذه الأسئلة. إنها ترسم خريطة المنطقة. بالنظر إلى عدد المرات التي يتحدث فيها باحثو الذكاء الاصطناعي بعضهم مع بعض بشكل متقاطع، فإن خريطة أفضل هي شيء قيم.