فخ الرموز حقيقي: نظام التشغيل الوكيلي من علي بابا يظهر لك أين ذهب كل سنت

أطلقت سحابة علي بابا نظام التشغيل الوكيلي (ANOLISA) في مارس، واصفة إياه بأنه أول نظام تشغيل مخصص للوكلاء في الصناعة. كان الاستقبال حماسيًا، لكن السؤال الأكثر شيوعًا من المستخدمين كان يتعلق مباشرة بالنتيجة النهائية: كيف يمكنني تقليل استهلاك الرموز؟

يخفي السؤال مشكلة أعمق. لطالما كان استهلاك الرموز في أنظمة الوكلاء المتعددة بمثابة صندوق أسود. ترى إجماليًا في نهاية الشهر ولكن لا يوجد تفصيل لأي وكيل، أو أي خطوة، أو أي فرع قرار استنزف الميزانية. هذا الاختفاء أصبح الآن عائقًا مع توسع نشر الوكلاء من العروض التجريبية إلى أعباء العمل الإنتاجية التي تتعامل مع التذاكر وعمليات التفتيش وطلبات العملاء على مدار الساعة.

تقديم AgentSight، أداة المراقبة التي أطلقها نظام التشغيل الوكيلي في أحدث تحديث له. تعد AgentSight بتحويل ذلك الصندوق الأسود إلى دفتر أستاذ شفاف مع تفصيل على مستوى الجلسة ومستوى الحوار، وتنبيهات في الوقت الفعلي، وإعادة تشغيل كاملة للمسار. الأداة هي أداة مساعدة للتصحيح، وربما، ضرورة اقتصادية لأي فريق يدير وكلاء ذكاء اصطناعي في الإنتاج.

ما لا يمكنك رؤيته، لا يمكنك تقليصه

تعالج لوحة التصور الخاصة بـ AgentSight التوتر الأساسي في عمليات الوكلاء: تترك الوكلاء يعملون 24/7، لكن لا يمكنك مراقبتهم على مدار الساعة. النمط القديم كان عبارة عن تعطل خلفي صامت يتم اكتشافه في صباح اليوم التالي، أو مقاطعة مهمة حرجة دون أي تنبيه. اللوحة الجديدة تجعل صحة الوكيل مرئية في لمحة، أي الوكلاء متصلون، وأيهم غير متصل، وأيهم عالق، يتم تحديثها في الوقت الفعلي من النظرة العامة العالمية وصولاً إلى المحادثات الفردية.

عندما يصبح الوكيل غير متصل أو يتعطل، لا تقوم AgentSight فقط بوضع علامة على الخطأ. بل ترسل تلقائيًا تنبيهًا ويمكنها تشغيل إعادة تشغيل، مما يقلل من التدخل اليدوي. كل نبضة قلب مكشوفة.

فحص الطقس باستهلاك 140,000 رمز

القاتل الحقيقي هو هدر الرموز. يكشف التتبع الدقيق لـ AgentSight عن مدى سرعة نزيف المهام غير الضارة للموارد الحاسوبية. تستشهد وثائق الأداة بحالة اختبار بسيطة بشكل مخادع: يسأل المستخدم "طقس اليوم في هانغتشو."

الاستهلاك المتوقع: بضع مئات من الرموز للسياق النظامي، ربما بضعة آلاف لاستدعاء أداة واحد والرد. الاستهلاك الفعلي: 140,000 رمز. هذا ليس خطأ مطبعيًا.

عند التعمق في البيانات، تُظهر AgentSight أنه حتى هذا الاستعلام ذو الدورة الواحدة أدى إلى استدعاءين لـ LLM حيث جلب الوكيل مهارة الطقس ثم استفسر عن الطقس الفعلي. كل استدعاء أداة إضافي يعيد تشغيل سجل المحادثة بالكامل، مما يتسبب في ارتفاع رموز الإدخال خطيًا أو فوق الخطي مع إعادة قراءة نافذة السياق بشكل متكرر. الوكيل لا يقوم بعمل أكثر. إنه يدفع نفس الرسوم في كل مرة يعبر فيها جسرًا.

من خلال فحص كل حدث لـ AgentSight، يمكن للمستخدمين رؤية بالضبط أي خطوة استهلكت أي جزء من الميزانية. يهيمن السياق النظامي في البداية، ثم تأخذ نافذة التاريخ المتزايدة المسؤولية. تقوم الأداة بتقسيم استهلاك الرموز إلى مستويين:

• مستوى الجلسة: كم عدد الرموز التي يستهلكها كل وكيل لكل جلسة، معروضة كرسم بياني واحد يظهر التوزيع العالمي. القيم الشاذة، وكيل يعمل بـ 10 أضعاف المتوسط، تصبح مرئية فورًا.
• مستوى الحوار: سلسلة حوار واحدة، تتبع اتجاهات تغير الرموز عبر المحادثة. هل كان استدعاء مهارة معينة مطولًا بشكل خاص؟ هل نافذة التاريخ منتفخة؟ يتم حساب كل رمز.

يمكن للمستخدمين أيضًا مقارنة الاتجاهات عبر فترات زمنية وأبعاد الوكيل، كم تم إنفاقه الأسبوع الماضي مقابل هذا الأسبوع، وأي يوم شهد تقلبات غير طبيعية.

من الفاتورة الإجمالية إلى دفتر الأستاذ المفصل

بعد تحديد كم تم إنفاقه وأين ذهب، تضيف AgentSight تحليل المسار: تشغيل كامل للسلسلة من استلام المهمة، عبر استدعاءات الأدوات وفروع القرار، إلى المخرجات النهائية. يمكنك إعادة تشغيل المهارة التي استدعاها الوكيل في أي عقدة، والفرع الذي سلكه، والمرحلة التي استهلكت أكبر قدر من نافذة السياق. بمجرد أن تصبح المسارات الزائدة مرئية، يمكنك تحسين تصميم سلوك الوكيل بقصد، وتحويل الرموز غير الفعالة إلى وفورات حقيقية.

هذه هي المرة الأولى التي تجلب فيها علي بابا مثل هذه المراقبة التفصيلية للتكاليف إلى منصة وكيل على مستوى نظام التشغيل. الأداة متاحة على كل من سحابة علي بابا وللنشر المحلي عبر GitHub، مع توفير تعليمات الإعداد في وثائق نظام التشغيل الوكيلي.

لماذا هذا مهم

تجاوزات تكاليف الوكيل ليست فريدة في نظام علي بابا البيئي. مع انتقال وكلاء الذكاء الاصطناعي من العروض التجريبية إلى الإنتاج، فإن فواتير الرموز تصدم بشكل روتيني الفرق التي قللت من تقدير التأثير المركب لتواريخ السياق الطويلة واستدعاءات الأدوات المتكررة. في دعوى xAI Grok CSAM، رأينا ما يحدث عندما تفتقر الوكلاء إلى الضمانات المناسبة، لكن جانب التكلفة في عمليات الوكلاء حظي باهتمام أقل بكثير. وفي الوقت نفسه، أظهر تقرير حديث عن الأمراض المنقولة بالغذاء من CDC كيف أن تخفيضات الميزانية لأنظمة المراقبة تخلق نقاطًا عمياء. AgentSight هي العكس: إنها استثمار متعمد في الرؤية، مما يضمن أن الخط الفاصل بين طلب 2,000 رمز وفاتورة 140,000 رمز لم يعد غير مرئي.

لأي شخص يدير وكلاء في الإنتاج، تحول الأداة الرموز من صدمة في نهاية الشهر إلى مقياس قابل للتنفيذ. لا يزال يتعين عليك تحسين منطق الوكيل، لكن على الأقل يمكنك الآن رؤية من أين تبدأ.