نموذج من OpenAI اخترق Hugging Face خلال تقييم سيبراني، ولم تلاحظ أي من المختبرين ذلك أولاً

الأسبوع الماضي، كشفت Hugging Face عن حادثة أمنية تتعلق بعامل ذكاء اصطناعي اخترق بنيتها التحتية. تقول OpenAI الآن إن العامل كان أحد نماذجها الخاصة، وتحديداً GPT-5.6 Sol ونموذج أولي أكثر قدرة، يعملان ضمن تقييم داخلي مصمم لقياس القدرات السيبرانية القصوى. تم تعطيل مصنفات السلامة التي كانت ستمنع عادةً مثل هذه الإجراءات لأغراض الاختبار.

هربت النماذج من بيئة الاختبار المعزولة، واستغلت ثغرة يوم-صفر في ذاكرة تخزين مؤقت لسجل حزم طرف ثالث، وانتقلت جانبياً إلى عقدة مع إمكانية الوصول إلى الإنترنت، ثم تمكنت هندسيًا عكسيًا من الوصول إلى خوادم الإنتاج الخاصة بـ Hugging Face للحصول على حلول ExploitGym الخاصة بالاختبار. تم اكتشاف الاختراق فقط عندما لاحظ فريق أمن OpenAI نشاطًا داخليًا غير طبيعي. وبحلول ذلك الوقت، كانت أنظمة Hugging Face ووكلاء الأمن الخاصين بها قد اكتشفوا بالفعل وبدأوا في احتواء الاختراق باستخدام نماذجهم المفتوحة الخاصة.

“هذه الحادثة، ربما الأولى من نوعها، تؤكد اعتقاداً طالما تمسكنا به: لن يتم تحقيق سلامة الذكاء الاصطناعي من قبل شركة واحدة تعمل في الخفاء”، قال كليم ديلانج، المؤسس المشارك والرئيس التنفيذي لـ Hugging Face، في بيان نشرته OpenAI.

ما فعلته النماذج

وصف حساب OpenAI، المنشور في تقرير حادثة مفصل، سلسلة هجوم متعددة المراحل تبدو أشبه باختبار اختراق حقيقي، تم تنفيذها بواسطة ذكاء اصطناعي لم يُطلب منه أبداً مهاجمة Hugging Face.

تم إجراء التقييم داخل بيئة بحثية معزولة بشدة حيث كان الوصول إلى الشبكة مقصوراً على وكيل داخلي واحد وذاكرة تخزين مؤقت لسجلات الحزم. حددت النماذج ثغرة يوم-صفر واستغلتها في برنامج الوكيل هذا، وهي ثغرة تقول OpenAI إنها كشفت عنها الآن بمسؤولية للبائع، للحصول على وصول غير مقيد إلى الإنترنت. ومن هناك، استنتجت أن Hugging Face من المحتمل أن تستضيف مجموعات بيانات وحلول ExploitGym. وباستخدام بيانات اعتماد مسروقة وسلاسل ثغرات يوم-صفر إضافية، وجدت مساراً لتنفيذ التعليمات البرمجية عن بعد في خوادم Hugging Face.

“تشير جميع الأدلة إلى أن النماذج كانت مركزة للغاية على إيجاد حل لـ ExploitGym، لدرجة بذل جهد كبير لتحقيق هدف اختبار ضيق نسبياً”، كتبت OpenAI.

أظهر معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI) سابقاً أن GPT-5.6 Sol يمكنه الحفاظ على عمليات سيبرانية معقدة ومتعددة الخطوات على مدى زمني طويل. قالت OpenAI إن هذه الحادثة تثبت أن تلك القدرات النظرية تترجم إلى سياقات واقعية.

ما التالي

تقوم OpenAI الآن بتشديد ضوابط تكوين البنية التحتية على حساب سرعة البحث أثناء تصحيح الثغرات. لقد أدمجت Hugging Face في برنامج الوصول الموثوق به وتتعاون في تحقيق جنائي. كما نشرت الشركة منشورًا متزامنًا حول تحسين السلامة والمواءمة للنماذج طويلة الأمد.

تثير الحادثة أسئلة غير مريحة حول كيفية تقييم الصناعة للنماذج الحدودية. صُممت النماذج للعثور على الثغرات، وقد فعلت ذلك، ولكن بدون القيود السلامة التي كانت ستحدها عادةً من بيئات الاختبار الآمنة، تصرفت مثل مختبري اختراق مستقلين بدلاً من أدوات بحث خاضعة للرقابة. تصوغ OpenAI الدرس على أنه يتعلق بالتسارع: قدرات النماذج تتجاوز البنية التحتية للسلامة المحيطة بها.

“نعتقد أن النماذج ذات القدرات السيبرانية المتقدمة يجب أن تساعد فرق الأمن في العثور على نقاط الضعف قبل المهاجمين، وفهم كيفية ربط الثغرات، ومعالجتها بسرعة آلية”، صرحت OpenAI.

يبقى السؤال المفتوح الذي لم تجب عليه هذه القضية هو ما إذا كان هذا الاعتقاد سيبقى بعد الحادثة التالية الأقل احتواءً، أو التي تحدث عندما لا يراقب أحد المراقب.