الذكاء الاصطناعي القابل للتحقق بيولوجيًا
إصلاح واحد أنقذ CIFAR-10 ولم يفعل شيئًا لـ MNIST، وهذا يجب أن يقلق باحثي الذكاء الاصطناعي
تمكنت Sakana AI من توسيع نطاق خطأ الانتشار المشابه للدماغ، الخالي من الانتشار العكسي، إلى CIFAR-10 وRL. المشكلة: أي اختيارات تصميم تعتمد على المعايير تنعكس بين المعايير القياسية، وتكلفة مبدأ ديل تزداد مع صعوبة المهمة.
Emmanuel Fabrice Omgbwa Yasse بمساعدة الذكاء الاصطناعي
2026-07-19 · قراءة 7 دقائق
لمدة ثلاثين عامًا، ظل حقيقة واحدة غير مريحة تظلل التعلم العميق: الخوارزمية التي تدرب كل شبكة عصبية حديثة تقريبًا ليست هي الطريقة التي تتعلم بها الأدمغة. يتطلب الانتشار العكسي أن تستخدم المسيرة العكسية النسخة المنقولة تمامًا من الأوزان الأمامية، مشكلة نقل الوزن التي أشار إليها فرانسيس كريك في عام 1989، ولا توجد آلية بيولوجية معروفة تنقل الأوزان بهذه الطريقة. حاولت مجموعة من البدائل سد الفجوة، وكلها تقريبًا تتوقف عند MNIST.
ورقة جديدة من Sakana AI، من تأليف يوتارو يامادا، ولوكا غريلوتي، وروجيكورن شاراكرن، وسيباستيان ريزي، وديفيد ها، وروبرت تياركو لانج، تأخذ قاعدة تسمى انتشار الأخطاء إلى أبعد مما كانت عليه من قبل، إلى الصور الملونة والتحكم الآلي المستمر. النتيجة الرئيسية هي أنها تعمل على الإطلاق تحت القيد البيولوجي الأكثر صرامة. النتيجة الأكثر إثارة للاهتمام موجودة في جداول الحذف، وهي تحذير للمجال بأكمله.
ما في هذا التقرير
- لماذا يكسر الانتشار العكسي القابلية البيولوجية، وماذا يضيف مبدأ ديل
- خدعة التدفق المزدوج: مجموعتان من الخلايا العصبية، وأربع مصفوفات أوزان، وخطأ عالمي واحد
- بطاقة الأداء: 96.7% على MNIST، 61.7% على CIFAR-10
- انعكاس الحذف الذي يكشف تقييم معيار واحد
- التعلم المعزز: حيث تصبح ضريبة ديل أرخص
- ما تكلفته، ولماذا يجب أن يهتم مهندسو الأجهزة
مبدأ ديل: القاعدة التي يتجاهلها معظم الذكاء الاصطناعي
الخلايا العصبية البيولوجية تلتزم بمبدأ ديل: خلية عصبية معينة إما مثيرة أو مثبطة في جميع نقاط الاشتباك العصبي الخاصة بها، ولا تقلب الإشارة اتصالاً باتصال. الشبكات الاصطناعية تتجاهل هذا تمامًا، مما يسمح لأي وزن بأن يكون موجبًا أو سالبًا كما يحلو لها. هذا التحرر يجعل الانتشار العكسي فعالاً، وهو أيضًا ما يجعله خياليًا بيولوجيًا.
فرض مبدأ ديل ليس تجميليًا. إنه يجبر الشبكة على تنسيق مجموعات مثيرة ومثبطة منفصلة، مما يغير بشكل أساسي كيفية تخصيص الشبكة للائتمان أثناء التعلم. الطرق السابقة الخالية من الانتشار العكسي ومحاذاة التغذية الراجعة محاذاة التغذية الراجعة المباشرة (DFA)، والترميز التنبؤي، كلها تتجنب نقل الوزن، لكن كل واحدة منها لا تزال تسمح بوزن الإشارة التعسفي. لا شيء منها يتبع مبدأ ديل.
الهندسة ثنائية التدفق
انتشار الأخطاء، الذي اقترحه كانيكو في الأصل عام 2000، هو قاعدة محلية: تحديث الوزن يعتمد فقط على النشاط قبل المشبكي، ومشتق تنشيط بعد المشبكي، وإشارة خطأ عالمية واحدة. فريق Sakana يجعله متوافقًا مع مبدأ ديل عن طريق تقسيم كل طبقة إلى تيار موجب (مثير) وتيار سالب (مثبط)، مع أربع مصفوفات أوزان غير سالبة لكل طبقة. اتصالات التيار المتقاطع مبرمجة على أنها طرح، بحيث يكون التثبيط هيكليًا بينما تظل كل معلمة قابلة للتعلم غير سالبة.
التكلفة فورية: حوالي 4 أضعاف المعلمات مقارنة بشبكة غير مقيدة من نفس العرض (حوالي 32 مليون مقابل 8 مليون لخط أساس DFA). للوصول إلى ما هو أبعد من التصنيف الثنائي الذي ولدت من أجله القاعدة، يضيف المؤلفون توجيه الخطأ المقياسي، حيث يتم تعيين كل وحدة مخفية لقناة إخراج ثابتة بواسطة i mod C، وتتلقى خطأ تلك القناة كإشارة تعلم. لا توجد أوزان منقولة، ولا مصفوفات تغذية راجعة عشوائية، مجرد خريطة حتمية من الوحدات المخفية إلى المخرجات.
بطاقة الأداء
مع ثلاث حيل خاصة بالتصنيف وعرض سيجمود خاص بالطبقة وخطأ فئة مركزي للدفعة وتهيئة غير متماثلة للمثير/المثبط، يصل النموذج الكامل إلى 96.7% ± 0.1 على MNIST وينشئ خط أساس 61.7% ± 0.7 علىCIFAR-10. الورقة صريحة: ~62% على CIFAR-10 ليست قريبة من التنافس مع طرق التدرج العادية. لكنها المرة الأولى التي يتم فيها تطبيق انتشار الأخطاء على الشبكات التلافيفية على الإطلاق. دراسة سابقة من عام 2026 بواسطة فوجيتا تمكنت من تحقيق ~55.2% فقط باستخدام MLP مسطح.
خط الأساس غير المقيد DFA يسجل أعلى، 97.6% و 69.1%، لكنه يفعل ذلك بحوالي 2.84 مليون وزن سالب، منتهكًا مبدأ ديل بشكل صريح. والفجوة تحكي قصتها الخاصة: 0.9 نقطة على MNIST، تتسع إلى 7.4 نقاط على CIFAR-10. ضريبة الصدق البيولوجي تنمو مع صعوبة المهمة.
الانعكاس المهم
هذه هي النتيجة التي تتجاوز هذه البنية الواحدة. عندما يزيل المؤلفون كل من حيل التصنيف الثلاث على التوالي، فإن التسلسل الهرمي للأهمية لا يتقلص فقط بين المهام، بل ينعكس.
| المكون المحذوف | MNIST (Δ نقطة مئوية) | CIFAR-10 (Δ نقطة مئوية) |
|---|---|---|
| عرض سيجمود خاص بالطبقة | −71.4 | −15.1 |
| خطأ فئة مركزي للدفعة | −0.3 | −47.9 |
| تهيئة غير متماثلة E/I | +0.0 | −5.5 |
على MNIST، تجريد عرض سيجمود الخاص بالطبقة كارثي، حيث تنهار الدقة من 96.7% إلى 25.3%، بالقرب من الصدفة، بينما تكلف إزالة خطأ الفئة المركزي خطأ تقريبًا ولا تفعل التهيئة غير المتماثلة شيئًا قابلاً للقياس. على CIFAR-10 ينعكس الترتيب: يصبح خطأ الفئة المركزي المكون الحامل للوزن (−47.9 نقطة مئوية، مما يؤدي إلى انهيار أربعة من خمسة بذور)، وينزلق عرض سيجمود إلى المرتبة الثانوية.
لماذا؟ الميزات المنفصلة جيدًا في MNIST تسمح للشبكة بالتعلم حتى مع إشارة خطأ غير متوازنة، لكن بدون سيجمودات عريضة تختفي المشتقات. يظهر التحليل اللاحق تحللًا في التدرج بمقدار 25x من الإخراج إلى الطبقة المخفية الأولى. التشابه العالي بين الفئات في CIFAR-10 يجعل عدم توازن الخطأ واحد ضد تسعة (9:1) ساحقًا، لذلك يصبح توسيط الخطأ ضروريًا لمنع الشبكة من قمع كل قنوات الفئة بشكل موحد. مهمتان، اختناقان مختلفان تمامًا لتخصيص الائتمان. قم بالتقييم على واحدة فقط وستستنتج عكس ذلك حول أي اختيار تصميم مهم.
التعلم المعزز: حيث تصبح الضريبة أرخص
نفس النواة ثنائية التدفق، موضوعة في تحسين السياسة القريبة (PPO) باسم ED-PPO، هذه المرة مع تنشيطات ReLU وبدون أي من حيل التصنيف، تحكي قصة مختلفة. في مهام الحركة Brax من Google فهي تنافسية مع PPO القياسي القائم على الانتشار العكسي، وفي HalfCheetah تتفوق عليه بالفعل (5,494 مقابل 3,520; p < 0.001) بينما تطابق DFA-PPO.
| المهمة | ED-PPO (مبدأ ديل) | BP-PPO | DFA-PPO |
|---|---|---|---|
| HalfCheetah | 5,494 ± 691 | 3,520 ± 485 | 5,581 ± 359 |
| Ant | 6,891 ± 835 | ~6,740 | على قدم المساواة |
| Craftax | 23.0 (20.9 ± 2.9) | 27.0 | 19.8 ± 1.5 |
معيار Craftax المفتوح هو المكان الذي يتعمق فيه النمط عبر المجالات. ED-PPO يتخلف عن الانتشار العكسي لكنه يتفوق على DFA، التي تنهار مسارات التغذية الراجعة العشوائية فيها، المناسبة تمامًا للصور الخاضعة للإشراف، في مهمة استكشاف معقدة. DFA قوية في التصنيف وضعيفة في التعلم المعزز الصعب. تكلفة مبدأ ديل، بعبارة أخرى، تعتمد على المهمة نفسها.
المأزق التنظيمي الذاتي
اثنان من الآثار الجانبية يشيران إلى سبب تصرف الشبكات ذات القيود البيولوجية بالطريقة التي تتصرف بها. تهيئة المثير إلى المثبط بنسبة 3:1 تنجرف، أثناء التدريب، نحو التوازن (~1:1) في الطبقات المخفية، مع تدرج مثبط يعتمد على العمق، يردد بشكل غير دقيق كيف تنضج الدوائر القشرية نحو التوازن المثير والمثبط. والأرضية غير السالبة تضعف بشدة: 37.3% من الأوزان تصل إلى الأرضية بعد التدريب، مع تقليم الاتصالات المثبطة للتغذية الأمامية بقوة أكبر (حتى 68.8%). تقدم Sakana هذا كجانب إيجابي محتمل، التدريب المتوافق مع مبدأ ديل قد يوفر ضغطًا مجانيًا للنموذج، حيث أن الوزن المثبت على الصفر لا يمكنه التعافي.
لماذا قد تكسب القيود مكانتها
لا شيء من هذا يجعل التعلم المتوافق مع مبدأ ديل منافسًا للانتشار العكسي اليوم. الورقة صريحة: ED-PPO يحمل تباينًا أعلى بكثير، وفجوة التصنيف تحدد تكلفة حقيقية. الحجة لمتابعته هي في المستقبل. أحجام المشابك غير السالبة مع إشارة ثابتة تتطابق بشكل طبيعي مع الأجهزة العصبية الشكلية التناظرية والضوئية وأجهزة المشابك، حيث غالبًا ما تقوم العناصر المادية بترميز الكميات غير السالبة فقط وتعيش الإشارة على مستوى هوية المجموعة. الانقسام المثير/المثبط يقدم أيضًا مقبضًا للتفسير تفتقر إليه الشبكات القياسية: عندما يخطئ النموذج، يمكنك أن تسأل عما إذا كانت ميزة ما قد تم تضخيمها بشكل خاطئ أو تثبيطها بشكل غير كافٍ.
الاستنتاج الدائم هو منهجي، ويتجاوز انتشار الأخطاء. المكون الذي ينقذ معيارًا واحدًا يمكن أن يكون وزنًا ميتًا على آخر. الحكم على قاعدة تعلم قابلة للتحقق بيولوجيًا، أو أي بنية على الأرجح، على مجموعة بيانات واحدة لا يقلل من حدودها فحسب؛ بل يمكن أن يوجه الباحثين نحو ذراع تصميم خاطئ تمامًا. هذا درس أرخص من تعلمه من جدول حذف بدلاً من عقد من العمل المضلل.
أهم أخبار التقنية في 3 دقائق كل صباح
بريد إلكتروني واحد، كل يوم عمل، بما يهم فعلاً في الذكاء الاصطناعي والتقنية.