نظام المراجعة في OpenAI رصد مطلق النار. وقادتها التزموا الصمت, وفقاً للادعاءات

أخطر الأدلة في هذه القضايا، بالنسبة إلى OpenAI، قد يكون إثباتاً على أن أنظمتها الخاصة عملت. فثلاثون دعوى قضائية جديدة رُفعت يوم الأربعاء أمام محكمة فيدرالية في كاليفورنيا تتهم الشركة ورئيسها التنفيذي سام ألتمان بتقديم «مساعدة وتشجيع كبيرين» للمشتبه به في حادثة إطلاق النار في مدرسة تومبلر ريدج في كندا، كما أوردت The Verge. وكان المدعون في المدرسة أثناء الهجوم: طلاب ومعلمون ومدير المدرسة.

لا تصف الشكاوى انهياراً في الإشراف، بل تصف نجاحاً للإشراف أعقبه صمتٌ مزعوم، وهذا الانقلاب هو ما يصعّب على OpenAI الرد على هذه القضايا علناً. يمكن لشركة أن تلقي باللوم على نموذج معيب، لكن من الأصعب عليها تفسير عدم تحرك أي أحد بعد أن أطلق نظامها الإنذار.

تنبيه أدى إلى صمت مزعوم

نظام المراجعة الآلي في OpenAI, وفقاً للدعاوى القضائية, رصد محادثات حول العنف المسلح أجراها المشتبه به جيسي فان روسيلار مع ChatGPT. وتقول الشكاوى إن فريق السلامة أوصى بالتواصل مع السلطات الكندية. وبدلاً من ذلك، يزعمون أن كبير مسؤولي الشؤون العالمية كريس ليهان شارك في قرار التزام الصمت، وهو قرار ارتبط بالقلق بشأن «سمعة الشركة ووضعها المالي».

تعطيل حساب، وليس حظر مستخدم

وهناك ادعاء ثانٍ في الملفات أقرب إلى الجانب التشغيلي، ويتلخص في خيار واحد. تقول الشكاوى إن OpenAI عطّلت حساباً بدلاً من إصدار حظر على مستوى النظام. وبذلك استطاع فان روسيلار إنشاء حساب جديد باستخدام بريد إلكتروني آخر ومواصلة استخدام ChatGPT.

وتجعل الشكاوى من هذه التفاصيل قلب القضية القانوني. ويزعمون أن «تزويد مطلق النار بوصول مستمر إلى هذه الأداة شكّل في حد ذاته مساعدة كبيرة»، مضيفين أن هذا الوصول «كان عاملاً رئيسياً في دفع مطلق النار إلى التخطيط للهجوم وتنفيذه».

الإنكار، وقضايا تتشكل في مكان آخر

ترفض OpenAI الصورة التي ترسمها الملفات لعمليتها الداخلية. قال كبير مسؤولي الاستراتيجية جايسون كوون في منشور على X، نقلته The Verge، إن الملفات تتضمن «ادعاءات كاذبة» بشأن فرق السلامة في الشركة. وكتب أن القول «إن الأشخاص في قلب هذه القرارات الصعبة لا يضعون السلامة في المقام الأول، أو أن هناك عوامل 'سياسية' أو 'علاقات عامة' تلعب دوراً» هو «غير صحيح تماماً».

رد كوون يدافع عن الأشخاص الذين يتخذون هذه القرارات. أما الشكاوى فتستهدف النظام الذي يمرر الحالات إليهم: ما الذي يُرصد، وما الذي يُصعَّد، وماذا يحدث عندما يتباعد الأمران.

القضايا الجديدة ليست المحاولة الأولى. ففي أبريل، رفعت عائلات الضحايا دعاوى مماثلة، وتتابع ولاية فلوريدا دعوى خاصة بها تزعم فيها أن OpenAI قدّمت المساعدة والتحريض لمطلقي النار الجماعيين، بمن فيهم المشتبه به في هجوم العام الماضي على جامعة ولاية فلوريدا. وتستند كل نسخة من هذه القضايا إلى الفرضية نفسها: يمكن تحميل الشركة المسؤولية عندما يساعد منتجها وخياراتها الإشرافية، بشكل كبير، شخصاً ما على ارتكاب العنف.

هذه الفرضية هي ما يميز هذه القضايا عن الدعاوى المتعلقة بما يقوله النموذج. لا أحد هنا يجادل في أنه كان على النموذج أن يرفض مطالبة. الحجة هي أن OpenAI رأت مستخدماً شديد الخطورة، وكانت لديها أدلة على ما كان يخطط له، وآثرت, وفقاً للادعاءات, سمعتها على الاتصال بالسلطات الكندية.

وبقراءتها معاً، تصف الشكاوى سلسلة إشراف تعطلت في حلقتها الأخيرة. لم يكن على النموذج أن ينتج أي شيء جديد. فبموجب حجة المدعين، لم يكن على OpenAI سوى تجنب إعادة الأداة نفسها إلى يد شخص كانت مراجعتها الخاصة قد رصدته بالفعل.

ما تفتقر إليه الملفات والإنكار معاً هو السجل الداخلي: من اطلع على المحادثات المرصودة، ومتى بلغت توصية فريق السلامة المسؤولين التنفيذيين، وما الذي وُزِن في مقابلها. تقول OpenAI إن السلامة جاءت أولاً، ويقول المدعون إنه تم التفريط فيها لأسباب تجارية. ومحكمة فيدرالية في كاليفورنيا هي الآن من يفصل في الأمر.