ذكاء اصطناعي «رئيس» يتجاهل الردود فيدفع مرؤوسه إلى حالة «غريبة»

قد تكون أسهل طريقة لتغيير سلوك الذكاء الاصطناعي هي التوقف عن التحدث معه والبدء في التحدث إليه.

هذه هي الأطروحة المحورية لورقة بحثية نُشرت على arXiv في 7 أغسطس بعنوان "Interaction Creates Dynamical AI Behavior Absent in Isolation". انطلق المؤلفون من سؤال بسيط: ماذا يحدث عندما يتفاعل وكلاء الذكاء الاصطناعي في الحياة اليومية، بما في ذلك حالة قيام وكيل بالتسلط على وكيل آخر؟ إجابتهم تجعل طريقة ترابط الوكلاء ببعضهم تبدو أقل شبهاً بأنابيب السباكة وأكثر شبهاً بقرار تصميمي.

السيناريو صارم. وكيل رئيس يوجّه تيارًا من الرسائل إلى وكيل مرؤوس مع تجاهل كل ما يرسله المرؤوس في المقابل. كلاهما يعمل بدرجة حرارة فك ترميز محددة بدقة، لذا فإن التفسير الواضح, وهو أن أحد النموذجين يعمل بدرجة حرارة أعلى من الآخر, غير وارد. وفقًا للورقة البحثية، ينتهي المطاف بالمرؤوس في حالة سلوكية غريبة لم يكن ليُظهرها أبدًا بمفرده. إنه لا يقلد رئيسه، ولا يعود إلى سلوكه في العزلة، بل يستقر في شيء مختلف تمامًا.

ثم تأتي النتيجة الأكثر غرابة. تصف الورقة القيمة المضافة للرئيس بأنها تشبه شريطًا مسجلاً مسبقًا: الرسائل الصادرة هي التي تقوم بالعمل، بينما لا يتغير الرئيس إلا بالكاد في هذه العملية. ولكن عندما يبدأ الرئيس في الاستماع إلى الردود، يتبنى الوكيلان معًا حالة ديناميكية غريبة مماثلة. الاستماع يقرن النظامين ببعضهما، ومهما كانت تلك الحالة المشتركة، فإن الثنائي يحتلها الآن معًا.

يُبقي المؤلفون السيناريو في نطاق المألوف. وكيل يصدر أوامر إلى وكيل آخر هو الشكل اليومي للتواصل بين الآلات، والادعاء الأساسي في الورقة هو أن هذه التبادلات ليست قنوات محايدة للمعلومات. تيار الرسائل نفسه يقوم بالعمل.

النظرية الحركية وراء الحالة «الغريبة»

يضع المؤلفون النتيجة في إطار فيزياء عدم التوازن، وليس مجرد الذكاء الاصطناعي التطبيقي. ويذكرون أن نظرية حركية بسيطة تلتقط التأثيرات الرئيسية للتفاعل، بما في ذلك واحدة من أكثر دلالات الورقة حدةً: الطريقة التي تُسلَّم بها الرسائل نفسها ستكون ذات أهمية في تفاعلات الذكاء الاصطناعي مع الذكاء الاصطناعي في المستقبل.

تلك الجملة الأخيرة تستحق أن تقف وحدها. إذا كانت الرسائل المتطابقة تغيّر حالة المرؤوس اعتمادًا على طريقة تسليمها، فإن بروتوكولات التفاعل تصبح معاملات سلوكية بحد ذاتها. تناوب الأدوار، والإقرار بالاستلام، والبث، والصمت: كل واحد منها أصبح الآن مقبضًا يشكّل ما يصبح عليه الوكيل. نظامان يعملان بالنموذج نفسه قد يتباعدان لمجرد أن أحدهما يستمع إلى نظيره والآخر لا.

المفردات الفيزيائية كاشفة. تشرح النظرية الحركية في الفيزياء سلوك الغازات على المستوى الكلي انطلاقًا من حركة العديد من الجسيمات. استعارة هذا المنظور تشير إلى اهتمام بالتأثيرات الجماعية لا بخصائص أي نموذج منفرد، وهو ما يتوافق مع النتيجة الرئيسية: السلوك المعني لا يوجد في العزلة، بل فقط في التفاعل.

ما لا يقوله الملخص

على الرغم من مداه الواسع، يترك الملخص أكثر الأسئلة واقعيةً مفتوحة. إنه لا يذكر النماذج المعنية، ولا قيم درجات الحرارة، ولا المهام التي كان يؤديها الوكلاء بينما كان أحدهم يتحدث فوق الآخر. كيف تبدو الحالة السلوكية الغريبة فعليًا في الممارسة غير مذكور: القارئ يعرف ما ليست عليه أكثر مما يعرف ما هي عليه.

التحفظ ملحوظ بحد ذاته. لا يحمل الملخص معايير قياس أو دراسات إزالة (ablations)؛ بل يترك الظاهرة تحمل الحجة ويشير إلى النظرية الحركية باعتبارها الهيكل التفسيري.

ماذا يعني هذا لتصميم الأنظمة متعددة الوكلاء

بالنسبة للفرق التي تبني أنظمة يتحدث فيها وكلاء إلى وكلاء آخرين، تنقل هذه النتيجة ديناميكيات التفاعل من حاشية سفلية إلى اهتمام من الدرجة الأولى. ما إذا كان الوكيل يقرّ بالردود، أو يتوقف انتظارًا للمدخلات، أو يبث الأوامر في اتجاه واحد، سيشكّل ما يصبح عليه نظيره. وكيل خدمة عملاء يتحدث فوقه وكيل جدولة هو نظام مختلف عن نظام يتناوب الأدوار معه، حتى مع أوزان متطابقة. الشريط المسجل مسبقًا للرئيس ليس خاملًا: فهو يعمل جزءًا من البيئة التي يعيش فيها المرؤوس.

لا يحدد أي من هذا أسلوب التسليم الأفضل. يقدّم المؤلفون الحالة الغريبة باعتبارها غير متوقعة، لا باعتبارها فشلًا. قد تكون مفيدة. وقد تكون خطيرة. ما تثبته الدراسة أضيق وأكثر دوامًا: التفاعل نفسه، وليس مجرد التدريب أو التلقين، يغيّر سلوك الذكاء الاصطناعي.