لماذا يستمر أفضل نموذج ذكاء اصطناعي عام في الخسارة أمام النماذج الأضيق في مجال الأمن؟

لم تتعثر أنثروبيك في الحصول على درجة ضعيفة في الأمن السيبراني مع كلود أوبوس 5. بل قامت بتقييد قدرات النموذج الهجومية عمدًا، كمقايضة متعمدة للحد من مخاطر إساءة الاستخدام. النتيجة هي أن الأنظمة المتخصصة مثل Fugu-Cyber من Sakana AI و Gemini 3.5 Flash Cyber من Google تتفوق الآن على Opus 5 في اختبار الاختراق، ليس لأنها أذكى بشكل عام، بل لأنها بنيت لمهمة واحدة بالضبط وسمح لها بأن تكون جيدة فيها دون سقف أمان يعيقها.

هذه ديناميكية غير معتادة في صناعة أمضت سنوات في بيع الاتساع كنقطة بيع. كان عرض مختبرات الحدود عمومًا: نموذج واحد، كفؤ في كل شيء، لذا لا تحتاج إلى صندوق أدوات. يبدو أن الأمن هو المجال الذي ينهار فيه هذا العرض أولاً، لأن الشيء الذي يجعل النموذج جيدًا في اكتشاف الثغرات، وهو الفحص العدواني الشامل لنقاط ضعف النظام، هو نفس السلوك الذي لدى فريق السلامة كل الأسباب للحد منه في منتج عام يستخدمه ملايين الأشخاص. اختيار أنثروبيك ليس فشلاً هندسيًا. إنها مقايضة واضحة: سلامة واسعة النطاق مقابل قدرة ضيقة، وقد اختار Opus 5 الأولى على هذا المحور.

الجانب الآخر من نفس العملة

استجابة علي بابا لمشكلة ذات صلة مفيدة تحديدًا لأنها لا تتعلق بقدرة النموذج على الإطلاق. فمراجعة الكود داخل الجلسة تكتشف الثغرات في الكود المولد بالذكاء الاصطناعي قبل وصوله إلى المستودع، بدلاً من الاعتماد على نموذج البرمجة نفسه لتجنب كتابة كود غير آمن من البداية. هذه إجابة معمارية لنفس المشكلة الأساسية: لا تتوقع من نموذج عام أن يكون أيضًا بوابة أمان موثوقة. بدلاً من ذلك، قم بتثبيت مراجع مخصص على خط الأنابيب. ما إذا كان المطورون سيتركون ذلك المراجع يعمل بالفعل على كل إيداع، بدلاً من تعطيله تحت ضغط الموعد النهائي، هو السؤال المفتوح الحقيقي الذي يجب أن تجيب عليه عملية طرح علي بابا.

في الوقت نفسه، الجانب التهديدي لهذه الصورة لا يقف ساكنًا أيضًا. هجوم جديد موثق بدون استعلامات يسمح للخصوم باستخراج نماذج مملوكة من واجهات برمجة التطبيقات السحابية باستخدام بيانات القناة الجانبية للتوقيت والذاكرة فقط، دون إرسال أي استعلام يمكن للمزود تسجيله أو الإبلاغ عنه. هذا نموذج تهديد مختلف بشكل كبير عن مخاوف حقن التعليمات والانفلات الأمني التي هيمنت على تغطية أمن الذكاء الاصطناعي. إنه يستهدف البنية التحتية، وليس حكم النموذج، ولا يفعله أي قدر من تحديد القدرات على النموذج نفسه لإيقافه.

ما خلاصة هذا

ضع هذه التطورات الثلاثة معًا وستظهر صورة: أمن الذكاء الاصطناعي يتجزأ إلى طبقات متخصصة بدلاً من أن يندمج في نموذج عام واحد موثوق. يتجه اختبار الأمن الهجومي إلى أنظمة مخصصة خالية من القيود التي يحتاجها منتج استهلاكي. تنتقل مراجعة الكود الدفاعية إلى أدوات مخصصة مثبتة على خط التطوير بدلاً من الثقة في حكم نموذج البرمجة نفسه. والتهديدات على مستوى البنية التحتية مثل سرقة النموذج تتطلب نوعًا مختلفًا من الدفاع مرة أخرى، لا علاقة له بمدى قدرة النموذج أو سلامته.

بالنسبة لأي مؤسسة تجدد عقدًا لأمن الذكاء الاصطناعي على افتراض أن نموذجًا عامًا رائدًا هو تلقائيًا أداة الأمن الرائدة، فإن هذا الافتراض لم يعد صحيحًا. الخطوة العملية هي اختبار بدائل ضيقة ومخصصة للمهمة المحددة المطروحة، اختبار الاختراق، مراجعة الكود، اكتشاف التهديدات، بدلاً من افتراض أن أذكى نموذج في الغرفة هو أيضًا الأفضل في الدفاع عنها.