موقف أنثروبيك الوسطي الدقيق بشأن نماذج الذكاء الاصطناعي مفتوحة الأوزان

الاتهام والتوضيح

على مدى الأيام القليلة الماضية، عاد اتهام مألوف ليدور في أروقة نقاش سياسة الذكاء الاصطناعي: أن شركة أنثروبيك تريد حظر نماذج الأوزان المفتوحة لحماية أعمالها الخاصة. برز هذا الاتهام بعد أن نظر مسؤولون أمريكيون في فرض حظر على نماذج الأوزان المفتوحة الصينية من الشركات الأمريكية. ردًا على ذلك، وقعت 41 منظمة تقنية، بما في ذلك أوبن إيه آي وميتا، على خطاب مفتوح يدافع عن الذكاء الاصطناعي مفتوح الأوزان باعتباره أساسيًا للقيادة الأمريكية. وفي خضم هذه الضوضاء، وُصفت أنثروبيك بأنها المختبر المناهض للأوزان المفتوحة.

نفى الرئيس التنفيذي داريو أمودي ذلك الادعاء بشكل مباشر في منشور على مدونة. كتب: "لم تدعُ أنثروبيك أبدًا إلى حظر نماذج الأوزان المفتوحة. نماذج الأوزان المفتوحة التي لا تملك قدرات خطيرة هي منفعة عامة." كان التوضيح حادًا، لكنه كان أيضًا بداية حجة أكثر تفصيلاً حول ما تريده أنثروبيك بالفعل.

سيناريوهان كابوسيان وراء موقف أمودي

يؤطر أمودي مخاوفه حول نموذجين متميزين للتهديد، كلاهما طرحه قبل ستة أشهر في مقال بعنوان مراهقة التكنولوجيا.

خوفه الأساسي هو أن الحكومات الاستبدادية، وأبرزها الحزب الشيوعي الصيني، قد تبني نماذج ذكاء اصطناعي أقوى من تلك الأمريكية وتستخدمها لتحقيق تفوق عسكري دائم أو لتنفيذ مراقبة عميقة لسكانها. كتب: "قد يكون النموذج الأكثر خطورة هو ذلك الذي يُدرّب سرًا ويُسلم فقط لجيش التحرير الشعبي لاستخدامه في الطائرات بدون طيار ولوزارة أمن الدولة للمراقبة والقمع."

القلق الثانوي هو خطر سوء الاستخدام. جادل أمودي بأن نماذج الأوزان المفتوحة تمثل احتمالية أكبر للضرر مقارنة بالنماذج المغلقة لأنه من الصعب تطبيق الضمانات ويكاد يكون الرصد مستحيلًا بمجرد إطلاق الأوزان. لكنه شدد على أن حظر استخدام هذه النماذج من قبل الشركات الأمريكية "لا يفعل شيئًا لمواجهة هذا الخطر، لأن الفاعلين السيئين من غير المرجح أن يكونوا شركات أمريكية مشروعة."

ثلاث سياسات مستهدفة بدلاً من الحظر الشامل

بدلاً من دعم الحظر العام على نماذج الأوزان المفتوحة، يؤيد أمودي ثلاثة إجراءات ملموسة:

• ضوابط تصدير الرقائق: يجب على الولايات المتحدة "ألا تبيع رقائق قوية أو معدات تصنيع رقائق للصين، وأن تضرب بيد من حديد على التهريب المنتشر والطرق الالتفافية المستخدمة للحصول على هذه الرقائق." نظرًا لأن قوانين التوسع تعني أن الصين لا يمكنها بناء نماذج متطورة دون رقائق متقدمة، يرى أمودي أن هذا هو المسار الأكثر فعالية لمنع تهديد التفوق الاستبدادي.
• التشديد على التقطير على نطاق صناعي: التقطير أكثر كفاءة من حيث الحوسبة بكثير من التدريب من الصفر، مما يسمح للصين بتجاوز حظر الرقائق جزئيًا. يدعو أمودي إلى تدخلات سياسية لردع هذا السلوك، مشيرًا إلى أن "الأوزان المفتوحة أقل أهمية بكثير من حقيقة أن العمليات مدعومة من قبل دولة استبدادية تسعى لتجاوز الولايات المتحدة على الحدود الأمامية."
• اختبار السلامة الإلزامي لجميع النماذج القادرة بشكل كافٍ: يجب اختبار كل من النماذج المفتوحة والمغلقة لمخاطر السيبرانية والبيولوجية والمواءمة قبل الإطلاق. كتب أمودي: "ما إذا كانت النماذج المفتوحة تشكل خطرًا متزايدًا أم لا، وما إذا كان يمكن تخفيف هذا الخطر، هو أمر يجب أن يظهر من الاختبار، بدلاً من أن يُقرر مسبقًا." لكي يكون فعالاً، يجب أن يكون الاختبار عالميًا، وهي نتيجة صعبة ولكن من المحتمل تحقيقها بالنظر إلى المصالح المشتركة.

ترفض هذه الأجندة ثلاثية المحاور بشكل صريح حظر الأوزان المفتوحة الشامل بينما تفرض في الوقت نفسه قيودًا قد يقاومها الكثيرون في مجتمع المصادر المفتوحة.

أين تتفق وتختلف أنثروبيك مع الخطاب المفتوح

قال أمودي إنه يتفق مع الكثير مما ورد في خطاب الصناعة الذي وقعه 41 كيانًا: الأوزان المفتوحة توسع الوصول إلى اقتصاد الذكاء الاصطناعي، وتعزز المنافسة، وتمنح العملاء سيطرة أكبر. كما اتفق على أن المخاوف بشأن التقطير يجب معالجتها من خلال أطر قانونية وتجارية مستهدفة.

لكنه اعترض على افتراض الخطاب بأن نماذج الأوزان المفتوحة تسهل تطوير الضمانات أو أن الوصول الواسع يساعد المدافعين أكثر من المهاجمين. كتب: "يبدو على الأقل بنفس القدر من الاحتمال بالنسبة لي أن العكس سيكون صحيحًا"، مستشهدًا بخطر أن نماذج الذكاء الاصطناعي القادرة بدرجة كافية يمكنها تسليح فيروسات على مستوى الجائحة بمواد متاحة على نطاق واسع، في حين أن الدفاع "هو مهمة تشغيلية تستغرق سنوات في أفضل الأحوال." وأكد أن هذا التباين يجب اختباره تجريبيًا بدلاً من افتراضه.

ماذا يعني هذا لنقاش سياسة الذكاء الاصطناعي

يأتي منشور أمودي على المدونة في وقت تحركت فيه إدارة ترامب بالفعل نحو متطلبات اختبار السلامة للنماذج المتطورة، وفي وقت تكتسب فيه مقترحات الصناعة للاختبار الشامل زخمًا. دعت مجموعة تضم أوبن إيه آي وميتا وغيرها إلى أطر قانونية مستهدفة حول التقطير، مكررة دعوة أمودي لإجراءات تستهدف الطريقة بدلاً من الناتج.

كما استثمرت أنثروبيك بكثافة في البنية التحتية للسياسات. ضاعفت الشركة مؤخرًا رهانها على السياسات إلى 40 مليون دولار، مشيرة إلى إطار الذكاء الاصطناعي المتقدم الخاص بها كأقوى مقترح سياسي من أي مختبر متطور. يملأ منشور أمودي اليوم السردية وراء هذا الإنفاق: مختبر يحاول تشكيل التنظيم دون تنفير مجتمع المطورين الذي يعتمد على النماذج المفتوحة.

النتيجة هي موقف قد لا يُرضي القليل من الأصوليين. سيرى المدافعون المتشددون عن المصادر المفتوحة اختبار السلامة كباب خلفي للسيطرة. قد يجد صقور الأمن القومي إجراءات التقطير والرقائق غير كافية. لكن حجة أمودي هي أن الأرضية الوسطى هي الأرضية الوحيدة التي تعالج بالفعل كلاً من المخاطر والفوائد للتكنولوجيا. ما إذا كانت هذه الأرضية الوسطى ستصمد سيعتمد على ما يفعله صانعو السياسات بعد ذلك.