لماذا تعتقد مايكروسوفت أن نموذج ذكاء اصطناعي واحد لا يكفي لوقف الهجوم التالي

لقد تغير حساب الدفاع. يستخدم المهاجمون الآن الذكاء الاصطناعي لاكتشاف الثغرات الأمنية، وربط مسارات الاستغلال، وتوسيع نطاق الحملات بشكل أسرع مما يمكن لأي فريق بشري الاستجابة له. لا يمكن للمكدسات الإلكترونية التقليدية، المصممة لعالم من الفاعلين البشريين، مواكبة العملاء الذين لا ينامون أبدًا.

يوم الأربعاء، كشفت مايكروسوفت عن إجابتها: Project Perception، وهو نظام مبني على مكدس إلكتروني جديد يعامل الذكاء الاصطناعي باعتباره التهديد والدرع. تجادل الشركة بأن الأمن يحتاج إلى الانتقال من توليد التنبيهات إلى الإدراك المستمر والتفكير والعمل، وأنه لا يمكن لنموذج ذكاء اصطناعي واحد أن يفعل كل شيء.

ثلاثة عملاء، حلقة واحدة

ينسق Project Perception ثلاث فئات من العملاء المتخصصين. يقوم عملاء الفريق الأحمر باستكشاف نقاط الضعف قبل أن يتمكن المهاجمون من استغلالها. يقوم عملاء الفريق الأزرق بالتحقيق في الإشارات وتحديد ما يشكل خطرًا حقيقيًا. يقوم عملاء الفريق الأخضر باتخاذ إجراءات تصحيحية وتعزيز الدفاعات عبر البيئة. معًا، يشكلون حلقة مغلقة تكتشف وتقيم وتحسن الوضع الأمني للمؤسسة باستمرار.

هذا النهج الوكيل ليس جديدًا تمامًا. يستخدم Fugu-Cyber من Sakana، الذي قمنا بتغطيته مؤخرًا، أيضًا عدة عملاء فرعيين للتحقق من صحة الثغرات الأمنية قبل اقتراح التصحيحات. لكن مايكروسوفت تجلب شيئًا لا تستطيع الشركة الناشئة فعله: تكامل عميق عبر الهويات والأجهزة الطرفية والسحب وأنظمة الذكاء الاصطناعي، بالإضافة إلى عقود من استخبارات التهديدات من حماية أكبر عملاء المؤسسات في العالم.

لماذا لا يكفي نموذج واحد

الرهان المعماري الأساسي وراء Project Perception هو متعدد النماذج. تجادل مايكروسوفت بأنه لن يكون أي نموذج واحد مثاليًا لكل مهمة أمنية. الجودة والموثوقية وزمن الاستجابة والتكلفة كلها عوامل تحدد أي نموذج يتم استدعاؤه لأي مهمة. يختار النظام باستمرار أفضل ملاءمة لكل سير عمل، مع التبديل بين النماذج الحدودية والنماذج الإلكترونية المتخصصة حسب الحاجة.

المثال الملموس الأول هو إدارة الثغرات الأمنية للبرامج. قامت مايكروسوفت بدمج نموذجها المتخصص MAI-Cyber-1-Flash في MDASH، فريقها الحالي متعدد النماذج من العملاء لتحليل الثغرات الأمنية. النتيجة: 96% على معيار CyberGym، و12 نقطة مئوية فوق Mythos، وتوفير في التكاليف بنسبة 50٪ تقريبًا مقارنة بتكوين MDASH الحالي، وفقًا لمايكروسوفت.

تلك التوفير في التكاليف مهم لأن الأمن مهمة دائمة التشغيل. الاقتصاد المستدام شرط أساسي لتشغيل الدفاع الوكيل على نطاق واسع، وهي نقطة تؤكدها مايكروسوفت طوال إعلانها.

إعادة تصور المكدس الإلكتروني

تصف مايكروسوفت مكدسًا جديدًا بسبع طبقات: الإشارات وأجهزة الاستشعار، والسياق الأمني (تمثيل محدث باستمرار للأصول والهويات والمخاطر)، والنماذج، وعقال ينسق النماذج والعملاء، والعملاء أنفسهم، والمشغلات التي تترجم القرارات إلى إجراءات حماية، وأساس من الثقة ومبادئ الذكاء الاصطناعي المسؤول.

طبقة السياق الأمني مهمة بشكل خاص. بدلاً من إجبار العملاء على جمع وربط الإشارات الخام بأنفسهم، يوفر Project Perception فهمًا مشتركًا شبه فوري للبيئة. يقلل هذا من الوقت والحوسبة والتكلفة المطلوبة للعملاء للتفكير في المخاطر، مع تحسين الاتساق.

هذا النوع من البنية التحتية هو بالضبط ما تحتاجه الصناعة بعد حوادث مثل اختراق Hugging Face بواسطة عميل ذكاء اصطناعي مستقل، والذي أظهر مدى سهولة قيام المهاجمين بحقن كود ضار في خطوط البناء والاستمرار من خلال سرقة بيانات الاعتماد. تم اكتشاف ذلك الهجوم في النهاية باستخدام التحليل المدعوم بالذكاء الاصطناعي، نفس التقنية التي مكنته ساعدت أيضًا في إيقافه.

ماذا يعني المعيار

نسبة 96% على CyberGym هي رقم قوي، لكن التحقق المستقل مهم. تقول مايكروسوفت إن CyberGym هو معيار رائد في الصناعة، والفارق +12 نقطة عن Mythos يشير إلى تحسن حقيقي. ومع ذلك، كما هو الحال مع أي ادعاء من بائع، فإن الفجوة بين المعيار والحماية الواقعية هي حيث يعيش المهاجمون. قد تثبت البنية متعددة النماذج نفسها أكثر أهمية من أي درجة واحدة، لأنها تسمح للنظام بالتكيف مع ظهور نماذج وأنماط تهديد جديدة.

3 أغسطس وما بعده

يدخل Project Perception المعاينة العامة في 3 أغسطس. تخطط مايكروسوفت لتوسيع MAI-Cyber-1-Flash ليشمل المزيد من سير العمل الأمني إلى جانب إدارة الثغرات الأمنية. يرث النظام ضوابط الأمان والامتثال والحوكمة الحالية للشركة، مما يسهل التبني للمؤسسات الموجودة بالفعل على مكدس مايكروسوفت.

القصة الأكبر، مع ذلك، هي أن صناعة الأمن دخلت مرحلة جديدة. سباق التسلح بين الهجوم المدعوم بالذكاء الاصطناعي والدفاع المدعوم بالذكاء الاصطناعي لم يعد نظريًا. رهان مايكروسوفت، أن النهج الفائز هو فريق من النماذج المتخصصة تعمل بتناغم بدلاً من أي نموذج واحد، هو رهان يستحق المتابعة عن كثب.