الحيلة المزعجة التي تمنع انهيار وكلاء LLM في الإنتاج

الفجوة بين عرض المختبر وكيل الإنتاج تتلخص في شيء واحد: العالم فوضوي. تختبر المعايير تعليمات نظيفة واستجابات أدوات مثالية. المستخدمون الحقيقيون يكتبون بشكل غامض. تعيد واجهات برمجة التطبيقات أخطاء. تتوقف الأدوات عن العمل في منتصف المكالمة. الوكيل المدرب على نوع واحد من الواقع يتفاجأ بالآخر. عامل الذكاء الاصطناعي الخاص بك اجتاز الاختبار بالصدفة.…

الورقة التمهيدية من مجموعة Meituan LongCat، تعلم التصرف تحت الضوضاء: تعزيز متانة الوكيل عبر البيئات المزعجة، تعالج هذا التفاوت. الورقة، المنشورة على Hugging Face في نهاية مايو 2025، تقدم NoisyAgent، وهو إطار يلوث بيئات التدريب بمصدرين محددين للضوضاء، ضوضاء المستخدم وضوضاء الأداة، ويزيدهما تدريجياً مع تعلم الوكيل التكيف.

الوجهان لضوضاء التفاعل

يحدد المؤلفون مشكلة أساسية: بيئة التدريب هي فقاعة مصممة بعناية. تعليمات المهام مذكورة دون غموض. الأدوات تعيد دائمًا البيانات المتوقعة. يتعلم الوكيل قراءة الإشارات النظيفة وتنفيذ سلاسل مثالية. أعطه مستخدمًا حقيقيًا يكتب "أصلح الطاولة" دون سياق أو واجهة طقس تنتهي مهلتها، وتنكسر السلسلة. IFBench: المعيار الجديد لاختبار اتباع الذكاء الاصطناعي…

يعرّفون فئتين من الضوضاء:

• ضوضاء المستخدم تلتقط الغموض والأخطاء المطبعية والمعلمات المفقودة والتنوع في الصياغة. تحاكي الورقة ذلك بحقن تشويشات في أنماط تفاعل المستخدم أثناء التدريب.
• ضوضاء الأداة تمثل إخفاقات التنفيذ: انتهاء المهلة، واستجابات غير صحيحة، ورموز خطأ غير متوقعة، ومخططات إخراج غير متناسقة. يحاكي الفريق شذوذ الأداة في البيئة بحيث يرى الوكيل الإخفاقات قبل النشر.

البصيرة ليست فقط أن الضوضاء مفيدة. كيفية إدارة الضوضاء تحدد ما إذا كان الوكيل يتعلم المرونة أم الارتباك. أفق التحقق: لماذا أصبح التحقق من وكلاء البرمجة أصعب من…

التقوية التدريجية، وليس الإغراق

يستخدم NoisyAgent آلية استقرار مزدوجة. أولاً، تُطبق الضوضاء على مجموعة فرعية فقط من عمليات التدريب، وليس كلها. لا يزال الوكيل يرى مسارات نظيفة كافية لتثبيت تعلمه. ثانيًا، تتصاعد صعوبة الضوضاء تدريجيًا: يبدأ الوكيل بتشويشات صغيرة، وعندما يتكيف، يواجه تشويشات أصعب. يسميها المؤلفون جدولًا تعليميًا لعدم اليقين البيئي.

في التجارب المفصلة في الورقة، تفوق الوكلاء المدربون تحت NoisyAgent على الوكلاء القياسيين في كل من المعايير المزعجة والنظيفة. هذا الجزء الأخير مهم: التعرض للعيوب لا يؤثر سلبًا على الأداء في الظروف المثالية. يبدو أنه يعلم الوكلاء التفكير بشكل أكثر متانة بشكل عام، وليس فقط التعامل مع الضوضاء. OPID يمنح وكلاء اللغة إشارة مكافأة كثيفة بما يكفي…

لماذا تهم هذه الورقة الآن

شهد مجال وكيل LLM فيضًا من المعايير، AgentQ وAgentBench وWebArena وSWE-Bench، كل منها يختبر استخدام أدوات متعددة الخطوات أكثر تعقيدًا. لكن الممارسين يشتكون باستمرار من أن الوكلاء الذين يتفوقون في هذه المعايير ينهارون تحت ضغط الإنتاج. تعيد الورقة صياغة المشكلة: بيئات المعايير نظيفة جدًا، وحلقة التدريب أفرطت في التكيف مع تلك النظافة. وكلاء الذكاء الاصطناعي لا يستطيعون إكمال ترحيل Java دون…

NoisyAgent ليست المحاولة الأولى للتحصين. التدريب العدائي والتنويع العشوائي هما تقنيتان راسختان في التعلم المعزز ورؤية الكمبيوتر. لكن تطبيقهما على وكلاء اللغة مع تصنيفات ضوضاء المستخدم والأداة الصريحة أمر جديد. تضع الورقة نفسها إلى جانب الأعمال المتزامنة من نفس مجتمع البحث، بما في ذلك EnvFactory (توليف بيئات قابلة للتنفيذ) وCoEvolve (التطور المشترك للوكيل والبيانات)، مما يشير إلى حركة أعمق نحو تدريب الوكلاء في ظروف عدائية واقعية.

أسئلة مفتوحة وتحذيرات

لا تصدر الورقة التمهيدية أوزان النموذج أو كود التدريب في هذه المرحلة. تُجرى التجارب على بيئات محاكاة، وليست أنظمة إنتاج حية. واقعية نموذج الضوضاء، ومدى تطابق الغموض الاصطناعي مع غموض الإنسان الحقيقي، يظل سؤالًا مفتوحًا. كما لا تعالج الورقة التكلفة الحسابية للتدريب بالضوضاء التصاعدية، والتي قد تكون كبيرة عندما يجب أن تحاكي كل عملية تدريب إخفاقات الأدوات أو تنوع المستخدم.

مع ذلك، من الصعب تجاهل الحجة الأساسية. كان مجتمع الوكلاء يطارد المعايير لأن المعايير واضحة. تشير هذه الورقة إلى أن إتقان المعيار ليس الهدف النهائي. البقاء على قيد الحياة في النشر هو الهدف. يقدم NoisyAgent طريقة ملموسة للتدريب من أجل ذلك البقاء. وكلاء الذكاء الاصطناعي يعيدون كتابة قواعد الأمن السيبراني

الورقة الكاملة متاحة على Hugging Face تحت المعرف 2605.27209.