أمن الذكاء الاصطناعي للمؤسسات
مجموعة بيانات اصطناعية خفضت انتهاكات صلاحيات وكلاء الذكاء الاصطناعي بنسبة 93%
تقدم ورقة بحثية جديدة على arXiv بنية صلاحيات ديناميكية لوكلاء الذكاء الاصطناعي في المؤسسات، مدعومة بمجموعة بيانات اصطناعية تم التحقق من صحتها. أدى النهج إلى تقليل انتهاكات سقف الصلاحيات بنسبة 93% في الاختبارات، مما يوفر دفاعًا استباقيًا ضد الوكلاء المفرطي الصلاحيات.
Emmanuel Fabrice Omgbwa Yasse بمساعدة الذكاء الاصطناعي
2026-07-30 · قراءة 1 دقائق
إن منح وكيل الذكاء الاصطناعي كل بيانات الاعتماد التي قد يحتاجها عند بدء التشغيل هو الوضع الافتراضي في العديد من عمليات النشر في المؤسسات. تأتي هذه الراحة مع مفاضلة أمنية: أي وكيل يصبح مارقًا، أو يتم اختطافه، لديه إمكانية الوصول إلى المجموعة الكاملة من الأدوات التي يسمح بها دوره.
تجادل ورقة بحثية نُشرت على arXiv هذا الأسبوع بأن بيانات الاعتماد الثابتة هي النموذج الخاطئ للأنظمة الوكلائية. يضع المؤلفون، الذين يبدو أن انتماءاتهم لباحثين أكاديميين، مبدأً بسيطًا: القضاء على بيانات الاعتماد بدلاً من محاولة اكتشاف إساءة استخدامها. "لا يمكن إساءة استخدام بيانات الاعتماد غير الموجودة في سياق الوكيل بغض النظر عن قدرات الوكيل في الاستدلال أو التهرب،"
- المصدر : A synthetic dataset cut AI agent permission violations by 93% — 2026-07-24
أهم أخبار التقنية في 3 دقائق كل صباح
بريد إلكتروني واحد، كل يوم عمل، بما يهم فعلاً في الذكاء الاصطناعي والتقنية.