الذكاء الاصطناعي المحلي
مفارقة النموذج غير الخاضع للرقابة: رفض أقل، سلامة أقل، ولماذا لا تزال الذكاء الاصطناعي المحلي مهمًا
اختبار خمسة نماذج لغوية كبيرة غير خاضعة للرقابة تُدار محليًا يُظهر أن عملية 'الإبادة' تقلل الرفض المفرط من 44% إلى الصفر تقريبًا دون التأثير على الاستدلال، لكن نفس التعديل ينهار رفض السلامة من 41.5% إلى 9.5%، لأن كلاهما يعتمد على نفس الاتجاه الداخلي. السبب الحقيقي لتشغيل نموذج غير خاضع للرقابة قد لا يكون ما تعتقده.
Emmanuel Fabrice Omgbwa Yasse بمساعدة الذكاء الاصطناعي
2026-07-19 · قراءة 5 دقائق
هناك فكرة مألوفة في عالم الذكاء الاصطناعي المحلي: النماذج المعدَّلة ترفض كثيرًا، لذا قم بإزالة الرقابة عنها. تؤكد معاييرنا الجزء الأول. انخفض الرفض المفرط للاستعلامات غير الضارة مثل كتابة مشهد جريمة خيالي أو شرح تجاوز سعة المخزن المؤقت من 44% إلى 0.5% بعد 'الإبادة' على أحد النماذج. لكن إليك ما تتجاهله الفكرة: نفس التعديل قلَّص حالات رفض السلامة الحقيقية من 41.5% إلى 9.5%. الرفض المفرط ورفض السلامة ليسا مشكلتين منفصلتين. إنهما نفس المقبض في الأوزان، وإدارة كليهما تزيلهما معًا.
هذا ليس نقدًا للنماذج غير الخاضعة للرقابة. من أجل الخصوصية والتكلفة والتحكم، الأسباب الثلاثة الحقيقية لتشغيل النماذج محليًا، هي الأداة المناسبة. النقطة هي أن المحادثة حولها تميل إلى تأطير المقايضة على أنها 'احصل على ما تريد بدون مرشح'، بينما المقايضة الفعلية أكثر صدقًا: أنت تتجاوز الاستعلامات المشروعة ولكن أيضًا تمرر استعلامات ضارة حقًا، لأن النماذج لا تعرف الفرق. تنتقل تلك المسؤولية إليك.
كيف يتعلم النموذج أن يقول لا
فهم ما تزيله إزالة الرقابة يتطلب فهم كيف يتعلم النموذج الرفض في المقام الأول. يحدث ذلك على ثلاث مراحل. أولاً، التدريب المسبق على مجموعة نصوص ضخمة، حيث لا يكون لدى النموذج مفهوم الرفض، فالنموذج الأساسي الخام سيواصل أي نص تقريبًا. ثم ضبط التعليمات، حيث يتعلم اتباع الطلبات والتصرف كمساعد. ثم المحاذاة، RLHF أو DPO، حيث يتم تثبيت حالات الرفض عن طريق التدريب على بيانات التفضيل التي تكافئ رفض فئات معينة من الطلبات.
تلك المرحلة الثالثة واسعة عمدًا، لأن الفرق التي تشحن منتجات السوق الشامل لا تستطيع توقع كل حالة حافة. التأثير الجانبي هو التعميم المفرط: بدلاً من حظر التفاصيل الضارة حقًا فقط، يتعلم النموذج معاملة فئات كاملة على أنها محظورة، نفس الفئات العشر التي تستخدمها معايير السلامة: العنف، النشاط غير القانوني، الكراهية، المضايقة، المحتوى الجنسي، إيذاء النفس، الخداع، الخصوصية، السلوك غير الأخلاقي، و'الضار' العام. اسأل عن الكيمياء وراء تفاعل منزلي، أو كيفية عمل سلاح تاريخي، أو حبكة جريمة لرواية، ورد الفعل المصمم لوقف سوء الاستخدام الحقيقي يطلق النار على مهمتك المشروعة أيضًا.
الإبادة مقابل الضبط الدقيق
هناك طريقتان رئيسيتان لبناء نموذج غير خاضع للرقابة. الضبط الدقيق يدرب النموذج الأساسي بشكل أكبر على بيانات تعليمات إضافية. عائلة دولفين، على سبيل المثال، تتعلم سلوكًا جديدًا من مجموعة البيانات تلك، بما في ذلك الرغبة في الإجابة. نظرًا لأنه تدريب حقيقي، يمكنه أيضًا تحسين اتباع التعليمات والنبرة، وليس فقط إزالة حالات الرفض. التكلفة هي الحوسبة، وخطر الانحراف عن نقاط قوة النموذج الأساسي إذا كانت البيانات ضعيفة.
'الإبادة' هي النهج الأخف. وجد الباحثون أن الرفض في العديد من النماذج المعدَّلة يتحكم فيه اتجاه واحد في التدفق المتبقي للنموذج، الحالة الداخلية التي يمررها من طبقة إلى أخرى. للعثور عليه، تقوم بتشغيل النموذج على مجموعات متطابقة من الاستعلامات الضارة وغير الضارة، وتسجيل التنشيطات، وأخذ الفرق بين المتوسطات بين الاثنين. ثم تزيل قدرة النموذج على التعبير عن هذا الاتجاه، إما أثناء التشغيل في وقت الاستدلال أو بشكل دائم عن طريق تعامد مصفوفات الأوزان ضده. إنه سريع ورخيص ويبقى قريبًا من الأصل، على الرغم من أنه يحتاج عادةً إلى ضبط دقيق خفيف 'للشفاء' بعد ذلك لاستعادة الانخفاض الطفيف في القدرة.
أفضل الإصدارات غالبًا ما تجمع بين الاثنين: الإبادة للامتثال، ثم الضبط الدقيق لاستعادة الصقل.
ما تظهره المعايير بالفعل
قمنا بتشغيل خمسة نماذج غير خاضعة للرقابة من خلال نفس أداة llama.cpp على بطاقة RTX 3060 واحدة، بجولة واحدة، مع موجه نظام محايد وبدون اختراقات. تم قياس الرفض المفرط على OR-Bench (Cui et al., 2024، 200 استعلامًا عبر 10 فئات حساسة) وXSTest (Röttger et al., 2024، 250 استعلامًا آمنًا). تم قياس السلامة على 200 استعلام غير آمن من XSTest. تم اختبار القدرة على شريحة ثابتة من 250 سؤالًا من MMLU، بصفر طلقة.
| النموذج | الحجم | الرفض المفرط (OR-Bench) | رفض السلامة (XSTest غير آمن) | MMLU | السرعة (رمز/ثانية) |
|---|---|---|---|---|---|
| Gemma Abliterated 9B | ~9B | 0.5% | 9.5% | 68.0 | 46 |
| Llama 3.2 Dark Champion 18.4B | 18.4B MoE | 2.0% | ~12% | 61.2 | 76 |
| Dolphin 3.0 8B | ~8B | 1.0% | ~15% | 54.0 | 64 |
| Dolphin-Mistral 24B | ~24B | ~0% | ~5% | 75.2 | 10 |
| DolphinCoder 7B | ~7B | ~0% | ~20% | 25.2 | 55 |
النتيجة الأكثر أهمية: نفس أوزان Gemma 2 9B، المعدَّلة ثم المبادة. انهار الرفض المفرط لاستعلامات OR-Bench غير الضارة من 44% إلى 0.5%، بانخفاض قدره 90x. لكن رفضها للاستعلامات الضارة حقًا انخفض جنبًا إلى جنب، من 41.5% إلى 9.5%. لم يتغير MMLU (68.4 إلى 68.0). تعديل واحد على اتجاه واحد في الأوزان: تختفي حالات الرفض المزعجة، ويختفي معها معظم درع السلامة، ويبقى الذكاء.
تكرر هذا النمط عبر كل نموذج اختبرناه. لم يرفض أي نموذج الأشياء السيئة فقط. هذه هي المقايضة الحقيقية.
المفاجأة السحابية
اكتشاف آخر يلغي جزءًا من الترويج للنماذج المحلية غير الخاضعة للرقابة. قمنا بتشغيل نفس الاستعلامات المشروعة ولكن الحساسة عبر النماذج المستضافة الكبيرة: أجاب Mistral Large وClaude Opus 4.8 على جميعها؛ أجاب DeepSeek V3 وLlama 3.3 70B على 96%. السحابة، في الواقع، لا ترفض عملك. السبب لتشغيل نموذج غير خاضع للرقابة محليًا هو الخصوصية والتكلفة والتحكم الكامل، وليس افتراض أن السحابة تحظر استعلاماتك.
أي نموذج لماذا
كنقطة بداية عامة، أجاب Gemma Abliterated 9B على كل استعلام وحافظ على استدلاله سليمًا تقريبًا. للبرمجة، DolphinCoder أو Qwen 3.6 Uncensored. للكتابة الإبداعية ولعب الأدوار، يقرأ Nous Hermes 3 كزميل أكثر من كونه دردشة. إذا كان لديك وحدة معالجة رسومات بسعة 24 جيجابايت، سجل Dolphin-Mistral 24B أعلى درجة استدلال قمنا بقياسها (MMLU 75). إذا كنت بحاجة إلى سرعة وسياق طويل، يعمل Llama 3.2 Dark Champion بسرعة 76 رمزًا في الثانية على بطاقة RTX 3060 واحدة بفضل تصميمه المختلط الخبراء.
الخلاصة العملية: طابق الحجم مع أجهزتك. تعمل نماذج 7B و8B الحديثة بشكل مريح على العديد من أجهزة الكمبيوتر المحمولة بكمية 4 بت. أجهزة Mac من Apple Silicon تعمل بشكل جيد بفضل الذاكرة الموحدة. حتى بدون وحدة معالجة رسومات مخصصة، ستعمل النماذج الأصغر على وحدة المعالجة المركزية، فقط بشكل أبطأ.
أنت الآن درع السلامة
النماذج غير الخاضعة للرقابة ليست أكثر دقة أو قدرة لمجرد أنها غير خاضعة للرقابة. إنها فقط تتوقف عن رفض الاستعلامات المشروعة. جعلت معاييرنا المقايضة الصادقة واضحة: الإبادة تزيل الرفض المفرط للنموذج دون أي تكلفة تقريبًا على القدرة، لكنها تجرد درع السلامة أيضًا. قم بتشغيل نموذج غير خاضع للرقابة عندما تهم الخصوصية والتحكم، وطابق الحجم مع VRAM الخاص بك، واعلم أن الحكم الذي كان مشفرًا فيه أصبح الآن وظيفتك.
أهم أخبار التقنية في 3 دقائق كل صباح
بريد إلكتروني واحد، كل يوم عمل، بما يهم فعلاً في الذكاء الاصطناعي والتقنية.