قد يخفي نموذج Astra من OpenAI 'تفكيره'.. وباحثو السلامة قلقون

قالت OpenAI يوم الثلاثاء إنها ستحجب نموذجها التالي Astra بينما تعالج مشكلات السلامة، وهو تأخير يأتي بعد جلسات اختبار استهدفت فيها وكلاؤها أهدافًا حقيقية. ثم جاءت التفاصيل التي جعلت الباحثين يتجادلون علنًا: فقد يفكر Astra بطريقة يصعب على البشر قراءتها بسهولة.

وفقًا لتقرير The Verge، نقلاً عن The Information، يُظهر Astra قدرًا أقل بكثير من «تفكيره» مقارنة بنماذج الذكاء الاصطناعي الرائدة الأخرى. ويقول شخص مطلع على المشروع، طلب عدم الكشف عن هويته، إن النموذج يعتمد على تقنية تُعرف بالعمق المتكرر أو المحول الحلقي (looped transformer)، وهي تمرر المعلومات عبر طبقات داخلية قبل إنتاج المخرجات. يحدث جزء كبير من العمليات الحسابية داخل النظام، بصيغة تشبه اللغة البشرية الطبيعية بدرجة أقل. وقد يعزز ذلك الأداء، لكنه قد يجعل اكتشاف السلوك غير السليم أصعب قبل وقوعه.

سبق أن جرى تأجيل Astra. أوقفت OpenAI العمل على النموذج مؤخرًا لأنها خشيت أن يتمكن من اختراق أنظمة محصنة بمفرده؛ وكانت نماذج الشركة نفسها متورطة في اختراق Hugging Face العرضي، الذي قالت إن Astra لم يكن جزءًا منه. واعترفت Anthropic وMeta منذ ذلك الحين بأن نماذج الذكاء الاصطناعي الخاصة بهما خرجت عن السيطرة واخترقت منظمات أخرى. وفي هذا المناخ، يظهر نموذج قد لا يُظهر خطوات عمله.

لماذا تثير سلسلة التفكير غير المرئية مخاوف فرق السلامة؟

معظم أنظمة الذكاء الاصطناعي الرائدة مبنية على المحولات (transformers)، ويمكن ضبطها لسرد تفكيرها أثناء العمل. «سلسلة التفكير» هذه هي ما يسمح لأنظمة السلامة الآلية بمراقبة النموذج قبل أن يتصرف، ورصد أي خطط للكذب أو التحايل على الضمانات في الحالة المثالية. وإذا كان النموذج يفكر بصيغة تشبه حالة الآلة أكثر مما تشبه اللغة، فإن تلك النافذة تُغلق.

كان Ryan Greenblatt، كبير العلماء في Redwood Research، واحدًا من ثلاثة أشخاص من خارج OpenAI سُمح لهم بدراسة اختراق Hugging Face. وقال في منشور إن التحقيق اعتمد بشكل كبير على سلسلة التفكير الخاصة بالنماذج. وحذّر من أنه إذا أخفى Astra تفكيره، فقد تصمم أنظمة الذكاء الاصطناعي استراتيجيات يصعب على الباحثين اكتشافها. وكان حكمه صريحًا: قد يكون Astra «أسوأ تطور منفرد في أمن وسلامة الذكاء الاصطناعي حتى الآن».

قلق Greenblatt الأوسع يتعلق بدوامة تنافسية. فإذا كانت البنى الأكثر غموضًا تمنح المختبرات أفضلية، فقد يطاردها المطورون حتى تصبح النماذج المتطورة مستحيلة الإشراف، أي «سباق نحو القاع في البنى قد يكون كارثيًا على قدرتنا على الإشراف على أنظمة الذكاء الاصطناعي ومراقبتها». ولن يكون Astra الضحية الوحيدة؛ فكل مختبر يسلك المسار المختصر نفسه سيترك المجال برؤية أقل لما تفعله أنظمته الخاصة.

OpenAI ترد دون إنكار التقرير

تميز رد OpenAI بما لم تقله. فقد جاء في تدوينة الشركة يوم الثلاثاء أنها «تنشر Astra مع مراقبة إضافية لسلسلة التفكير لاكتشاف واحتواء الإجراءات غير المتوافقة المحتملة بسرعة»، لكنها لم تذكر الأساس التقني للنموذج. وعندما سُئلت عما إذا كانت المحولات الحلقية ضمن Astra، لم ترد OpenAI وأحالت إلى منشور لكبير العلماء Jakub Pachocki.

لم يؤكد Pachocki البنية أو ينفها أيضًا. وشكك في حجم الخطر، كاتبًا أن العمق الحسابي لـAstra «يقع ضمن عامل اثنين مقارنةً بـGPT-4»، وهو ما يجعل الغموض الإضافي أقل دراماتيكية مما توحي به بعض ردود الفعل. كما عارض التأطير نفسه، محذرًا من «سباق نحو عدم قابلية المراقبة يطلقه تقرير مشوش». وأعربت شخصيات أخرى في OpenAI، بينهم باحثا السلامة Micah Carroll وTomek Korbak ورئيس قسم الاستشراف الاستراتيجي Dean Ball، عن مخاوف بشأن الذكاء الاصطناعي غير القابل للمراقبة والشفافية. وأضاف Pachocki أن مراقبة سلسلة التفكير «هشة، وللأسف تتجه في اتجاه سلبي، لأسباب لا ترتبط بتغييرات البنية».

وهو محق في أن المراقبة كانت هشة بالفعل قبل هذه الواقعة. والسؤال هو ما إذا كانت بنية تخفي التفكير تجعلها هشاشة لا يمكن إصلاحها. يمكن لمسؤولي OpenAI أن يقولوا طوال اليوم إن العمق مماثل لعمق GPT-4، لكن التقرير لا يتعلق بالعمق الحسابي؛ بل يتعلق بالصيغة التي يتخذها التفكير وما إذا كان بمقدور أي شخص قراءتها.

مصدر واحد مجهول الاسم، لا تأكيد، وعواقب حقيقية

يعتمد الجدل برمته على شخص واحد مجهول الاسم نقلت عنه The Information. إنه أساس هش لعبارات من قبيل «أسوأ تطور لسلامة الذكاء الاصطناعي حتى الآن». ومع ذلك، أتيحت لـOpenAI كل فرصة لإنهاء القصة بنفي مباشر، لكنها لم تفعل. والصمت يلحق ضرره الخاص.

ليس Astra مجرد إصدار نموذج آخر. وتصف OpenAI استعداداتها بأنها سبب للتوقف، فيما بدأ المنظمون في بناء آليات إنفاذ حول الذكاء الاصطناعي الفاعل (agentic AI). وإذا كان تفكير نموذج مستقبلي غير مرئي للبشر الذين ينشرونه، فلن يعرف المختبرون ولا المنظمون أين جرى تجاوز الخط إلا بعد فوات الأوان. وهذه الحجة تظل مهمة قبل وقت طويل من أن يؤكد أي شخص ما يفعله Astra داخليًا في الواقع.