صندوق رمل IO Factory المكوَّن من 100,000 وكيل لا يترك لحملات التأثير مكانًا للاختباء

كانت وحدة التلاعب الرقمي في السابق هي الرسالة: فقرة مقنعة من نموذج لغوي، تُنشر حيث يمكن أن تُحدث ضررًا. وترى ورقة جديدة على arXiv أن هذه الوحدة أصبحت الآن قديمة.

يستهدف IO Factory، الذي قدَّمه الدكتور جوناس ر. كونت (Jonas R. Kunst PhD) في 11 أغسطس 2026، ما تسميه الورقة أسراب الذكاء الاصطناعي: مجموعات دائمة من وكلاء منسقين يتكيفون مع تغذية المنصة الراجعة ويتنكرون للحملات المنظمة في هيئة تفاعل اجتماعي عادي. ولأن مثل هذه الحملات لا يمكن تحديدها من الرسائل المعزولة وحدها، كما يجادل المؤلفون، فيجب تحليلها بوصفها عملية مستمرة: التخطيط، والفعل على المنصة، والتعرض، والتفسير، والقياس، والتكيف.

من النص المقنع إلى أسراب الذكاء الاصطناعي

لا يزال الكشف يعمل إلى حد كبير على مستوى المحتوى. فمنشور واحد من وكيل في السرب يبدو وكأنه ثرثرة اجتماعية عادية، والنص المولَّد الواحد، مهما كان مقنعًا، هو مجرد نص. ويرى المؤلفون أن التهديد انتقل إلى مستوى أعلى. ما يحتاج إلى المراقبة هو التنسيق بين الوكلاء وكيفية استجابة هذا التنسيق لتغذية المنصة الراجعة. يمثل IO Factory العملية بأكملها داخل منصة محاكاة خاضعة للتحكم، تربط بين أدوار الفاعلين، وأفعال المنصة، وسجلات التعرض، والتقييمات الهيكلية القائمة على النماذج، والتغييرات المهيأة في السكان المُحاكين.

داخل IO Factory: البنية والحجم

يتتبع الإطار ست مراحل للحملة، ترتبط كل منها بسجلات تحتفظ بها المحاكاة:

قيَّم المؤلفون البنية عبر تهيئات تصل إلى 100,000 وكيل. الحجم مهم لسببين: فهو يختبر ما إذا كان الجدول الزمني للحملة يمكن تنفيذه من البداية إلى النهاية على نطاق يقارب حجم المنصة، ويفرض على الإطار الاحتفاظ بسجلات قابلة للفحص لكل فاعل في سرب كبير جدًا.

ما تظهره النتائج في الواقع

تشير الورقة إلى أن IO Factory ينفذ الجداول الزمنية للحملات على نطاق واسع وينتج أدلة قابلة للفحص حول التعرض والتحرك المُقاس في متغيرات الاعتقاد المهيأة. الصياغة هنا مهمة. فالتحرك في الاعتقاد يتعلق بمتغيرات مهيأة في مجموعة سكانية اصطناعية. وتظهر النتائج أن الإطار قادر على تشغيل حملة وتوثيقها، وليس أن مثل هذه الحملات تنجح في العالم الحقيقي. المحاكاة هي حدود التجربة.

يعكس هذا التحفظ مشكلة أوسع في تقييم الوكلاء. يجد EvoPolicyGym، الذي يدرس تطور السياسات الذاتي في البيئات التفاعلية، أن النجاح لا يعتمد فقط على الانتصارات في المهام المعزولة، بل على اكتشاف آليات مناسبة للمهمة في ظل تغذية راجعة محدودة. الرقم المتغير في المحاكاة دليل، وليس إثباتًا.

قابلية التتبع وقيمة الفريق الأحمر

العائد من هذا التصميم هو إمكانية الفحص. يسجل كل تشغيل الفاعلين والأهداف وقيود الأفعال ومسارات التعرض وقواعد القياس، وهو ما يقول المؤلفون إنه يدعم البحث القابل للتكرار وتحليل الفريق الأحمر للتأثير المنسق.

وهذا يضع IO Factory ضمن توجه أوسع نحو الاختبار الخارجي العدائي. أشارت تغطيتنا إلى أن مايكروسوفت مولت 18 مختبرًا جامعيًا عبر ست قارات لإخضاع أنظمة الذكاء الاصطناعي لاختبارات الفريق الأحمر بشكل مستقل، معترفة بأن الفرق الداخلية لا يمكنها رصد كل المخاطر. وResearchArena، الذي قُدِّم في 21 يوليو 2026، يقيّم التحكم في الذكاء الاصطناعي للأبحاث الآلية بالذكاء الاصطناعي من خلال معاملة الوكلاء كخصوم محتملين، مع تكليف مراقبين بكشف التخريب الخفي قبل النشر؛ ووجدت تغطيتنا أن معدلات كشف التخريب المدمج تختلف باختلاف تهيئات المراقبين. يطبق IO Factory العقلية العدائية نفسها على عمليات التأثير، مع فارق أن ساحة المعركة تُحاكى أولًا.

آثار الكشف والسياسات

المحتوى الأساسي لحجة الورقة يعني أن المنصات والجهات التنظيمية لا يمكنها الانتظار حتى يتم تحديد منشور واحد لفتح تحقيق. التأثير المنسق عملية، والدفاع على مستوى العملية يحتاج سجلات على مستوى العملية: ما الذي قصده الفاعلون، وما الذي فعلوه، ومن شاهد ذلك، وكيف فُسِّر، وما الذي تغير، وكيف تكيف السرب.

يظهر هذا النمط في أماكن أخرى من الأمن. وصف فريق استجابة الحوادث في مايكروسوفت كيف أن تخطيط تدفقات النشاط أتاح وصولًا مستدامًا مع إخفاء النطاق الكامل للاختراق. تدفق الأحداث الحميدة التي تخفي عملية منظمة هو بالضبط ما يمثله IO Factory، باستثناء أن المنصة المعنية اصطناعية.

يستحق هذا القيد إعادة التأكيد. IO Factory مختبر، وليس نظام كشف. لا يدّعي الإمساك بحملات حقيقية. ما يفعله هو جعلها واضحة القراءة، ليتمكن المدافعون من دراسة التأثير المنسق قبل حدوثه. وما إذا كانت هذه الوضوحية ستتحول إلى دفاعات منصات فعلية هو السؤال المفتوح الذي تتركه للجولة التالية من البحث.