خط أنابيب الذكاء الاصطناعي لديه ثلاثة تسريبات صامتة، وكل إصلاح يزيد من سوء أحدها

أظهر باحثون من جامعة واشنطن أن تسميم بيانات ما قبل التدريب عبر تعليقات تلقائية هو تهديد واقعي ومنخفض التكلفة. وجد تحليل HalfLife أن 0.13% فقط من السم المحقون يبقى على قيد الحياة عبر خط الأنابيب الكامل للبيانات إلى النموذج المدرب، وهذا بالفعل كافٍ لتجاوز عتبات الهجوم المعروفة للنماذج المدربة على Common Crawl. يبدو الرقم صغيرًا. لكنه ليس كذلك: 0.13% الباقية تعني أن خطوات التصفية بين المسح الخام للويب ومجموعة التدريب، إزالة التكرار، تسجيل الجودة، مرشحات السمية، ليست قريبة من الكافية لوقف مهاجم متحمس بميزانية منخفضة يريد فقط ترك تعليقات على عدد كافٍ من الصفحات.

الكاشفات المصممة لاصطياد محتوى الذكاء الاصطناعي لها تأثير معاكس

كان الرد العام على المحتوى الاصطناعي والمُتلاعب به هو: بناء كاشفات ذكاء اصطناعي أفضل. ورقة بحثية حديثة تعقد هذا الرد بشكل مباشر، بحجة أن كاشفات LLM غير المثالية تشوه حوافز المستخدمين بطريقة تزيد من استخدام الذكاء الاصطناعي وتقلل جودة المخرجات بدلاً من تقليله. المنطق غير بديهي لكن ليس من الصعب متابعته بمجرد ذكره: إذا كان من المعروف أن كاشفًا ما يمكن هزيمته، فإن وجوده يعلم المستخدمين كيفية تجنبه بدلاً من تثبيط السلوك الأساسي، وإذا أنتج الكاشف نتائج إيجابية خاطئة ضد الكتابة البشرية الحقيقية، فإنه يدفع الناس نحو الاعتماد بشكل أكبر على أدوات الذكاء الاصطناعي التي تنتج على الأقل توقيعًا يمكن التنبؤ به والتلاعب به. يمكن لآلية إنفاذ غير كاملة أن تدرب السكان الذين من المفترض أن تردعهم.

حتى الأنظمة المصممة لاصطياد الغش يمكن خداعها بنفس نمط الفشل

ورقة بحثية حول كشف الاحتيال في الرسوم البيانية وجدت شيئًا مشابهًا غير مريح داخل مجالها الخاص: في اثنتين من ثلاث مجموعات بيانات تم اختبارها، كان النموذج الأفضل أداءً هو الذي تجنب عمدًا استخدام الأدلة المستمدة من تسميات التدريب، الأدلة التي بدت تنبؤية أثناء التدريب لأنها سربت معلومات حول التسميات نفسها بدلاً من عكس إشارات احتيال حقيقية. بعبارات بسيطة، كان أفضل "كاشف احتيال" على لوحة المتصدرين، جزئيًا، يكتشف هيكل بيانات التدريب الخاصة به بدلاً من الاحتيال الفعلي. هذا هو نفس شكل مشكلة تسميم البيانات وتجنب الكاشف: نظام تم تدريبه ضد وكيل غير كامل يتعلم استغلال الوكيل بدلاً من حل المهمة الحقيقية.

نمط فشل واحد، ثلاثة أسطح

تسميم ما قبل التدريب، وتجنب الكاشف، وتسرب التسميات في كشف الاحتيال تبدو كثلاث زوايا غير مرتبطة في أبحاث الذكاء الاصطناعي. إنها نفس نمط الفشل بملابس مختلفة: كلما اعتمد نظام دفاع أو قياس على إشارة وكيلة، سواء كانت مرشح محتوى، أو مصنف كشف، أو تسمية تدريب، فإن خصمًا أو ضغط تحسين غير مقصود سيجد في النهاية الفجوة بين الوكيل والشيء الذي كان من المفترض قياسه. إصلاح سطح واحد لا يصلح النمط. مرشح ما قبل تدريب أفضل لا يوقف تجنب الكاشف. كاشف ذكاء اصطناعي أفضل لا يوقف تسرب التسميات في نموذج احتيال غير مرتبط. كل إصلاح ضروري ولا شيء منها كافٍ، لأن المشكلة الأساسية ليست ضعف أي مرشح معين، بل أن كل مرشح في خط الأنابيب يصبح هدفًا بمجرد أن يصبح حاملًا للحمل.

الخلاصة العملية لأي شخص يبني أو يعتمد على هذه الأنظمة هي التوقف عن معاملة أي ضمانة فردية، تصفية المحتوى، كشف الذكاء الاصطناعي، تسجيل الاحتيال، كمشكلة محلولة بحالة دائمة. كل منها هدف متحرك يتدهور بمجرد أن يتعلم عدد كافٍ من الأشخاص، أو ضغط آلي كافٍ، شكله. تدقيق ما يقيسه الدفاع بالفعل، وليس فقط ما إذا كان رقم دقته يبدو جيدًا، هو الرد الوحيد الذي يعمم عبر جميع هذه القصص الثلاث.