Sakana AI تريد جعل اختيار نموذج LLM مشكلة شخص آخر

لمدة عامين، كان القرار الأساسي في البناء باستخدام الذكاء الاصطناعي التوليدي هو مشكلة اختيار. أي نموذج؟ أي إصدار؟ أي طبقة؟ كل فريق منتج خاض نفس البطولة: نموذج حدودي للاستدلال الصعب، ونموذج أرخص للأعمال الضخمة، وربما نموذج مفتوح الوزن للمهام التي يجب أن تبقى داخل الشركة. النتيجة هي تشابك لمفاتيح API، وتنسيقات مطالبات، وحالات ارتداد، ولوحات تحكم للفوترة. هذا دين تكامل، وينمو مع كل نموذج يضاف.

إجابة Sakana AI، Fugu، هي إزالة الاختيار تمامًا من المطور. وفقًا لوصف المنتج، يقدم Fugu "واجهة برمجة تطبيقات واحدة للوصول إلى الكل بطريقة محسنة": مجموعة منسقة من النماذج المتخصصة يمكن الوصول إليها من خلال نقطة نهاية واحدة، مع اختيار النموذج وتبديله تلقائيًا لكل مهمة. الهدف المعلن هو تقليل تعقيد API مع تحسين أداء التكلفة. هذا هو العرض التقديمي بأكمله، وهو يستحق أن يؤخذ على محمل الجد على وجه التحديد لأنه غير براق.

ما يغطيه هذا التقرير

• ما يدعيه Fugu بالفعل، وما لا يدعيه
• لماذا أصبحت "واجهة برمجة تطبيقات واحدة" بهدوء فئة منتج
• حجة أداء التكلفة، وتكاليفها الخفية
• زاوية Sakana AI الخاصة للمشكلة
• الأسئلة المفتوحة التي لا يمكن للموجه تجاوزها

العرض التقديمي، منزوعًا منه الزخرفة

قراءة حرفية، يقدم Fugu ثلاثة ادعاءات. أولاً، أن وراء API الواحدة لا يوجد نموذج واحد للأغراض العامة بل مجموعة من النماذج المتخصصة. ثانيًا، أن طبقة توجيه، تسميها Sakana Fugu، تختار وتتبادل فيما بينها مهمة بمهمة. ثالثًا، أن هذا المزيج يقلل من الأعباء التشغيلية للعمل مع العديد من النماذج مع الحصول على أداء أفضل لكل دولار.

لا شيء من هذه الادعاءات غريب بحد ذاته. المهم هو التغليف. قيمة العرض ليست نموذجًا أذكى. إنها اختفاء القرار. بهذا المعنى، فإن Fugu هو أقل كونه منتج ذكاء اصطناعي وأكثر كونه طبقة تجريد، نفس الخطوة التي قامت بها موازنات الأحمال لخوادم الويب وشبكات توصيل المحتوى للتوصيل. المنتجات المثيرة للاهتمام في سوق ناضجة غالبًا ما تكون تلك التي تخفي تعقيد السوق نفسه.

لماذا أصبحت 'واجهة برمجة تطبيقات واحدة' فئة

فكرة التوجيه لم تظهر من فراغ. مع انفجار عدد النماذج القابلة للاستخدام، النماذج الحدودية الخاصة، وعائلات الأوزان المفتوحة، والنماذج الصغيرة المقطرة المضبوطة لمهام ضيقة، ارتفعت تكلفة الاختيار بينها بشكل متزامن. قد يحتاج تطبيق واحد حقًا إلى نموذج مختلف للتصنيف، وللتلخيص الطويل السياق، وللكود، وللمكالمات الرخيصة عالية الحجم. توصيل كل من هذه مباشرة يعني الحفاظ على كل منها بشكل منفصل.

ظهرت المجمعات والموجهات لتقليل مساحة السطح تلك إلى واجهة واحدة. أصبح "النموذج كتفصيل تنفيذي" فلسفة تصميم معروفة. يزرع Fugu Sakana AI بقوة في هذا المعسكر. الرهان الأساسي هو اتجاهي: أنه بمرور الوقت، سيهتم المطورون أقل بـ أي نموذج يدير مهمة وأكثر بالنتيجة، وزمن الوصول والسعر. بالطريقة التي لا يعرف بها معظم المهندسين اليوم أو يهتمون بأي خادم فعلي أجاب على طلب HTTP الخاص بهم.

إذا كان هذا الرهان صحيحًا، فإن الموجه هو الطبقة الدائمة والنماذج الفردية هي سلع قابلة للتبادل تتدفق تحته. إذا كان خطأ، إذا كانت الاختلافات بين النماذج العليا لا تزال كبيرة وتستحق التحسين اليدوي، فإن التوجيه هو مجرد راحة، وليس خندقًا.

رياضيات أداء التكلفة، وعلاماتها النجمية

الوعد الأكثر واقعية الذي يقدمه Fugu هو اقتصادي: أداء تكلفة أفضل عن طريق إرسال كل مهمة إلى النموذج الذي يتعامل معها بكفاءة أكبر. المنطق سليم. إرسال مهمة استخراج تافهة إلى نموذج حدودي يشبه استئجار جراح متخصص لوضع ضمادة. إنه يعمل، لكنك تدفع أكثر من اللازم. الموجه الذي يتعرف على مهمة سهلة ويوزعها إلى نموذج أرخص يحقق وفورات حقيقية عبر ملايين المكالمات.

العلامات النجمية حقيقية بنفس القدر، وأي فريق يقيم هذا النوع من المنتجات يجب أن يضعها في الاعتبار:

• التوجيه في حد ذاته قرار نموذجي. تصنيف مهمة بشكل جيد بما يكفي لتوجيهها بشكل صحيح يتطلب حسابًا ويمكن أن يسبب زمن وصول أو توجيهات خاطئة. الطريق الخاطئ إلى نموذج أضعف هو تراجع صامت في الجودة، وليس خطأ صاخبًا.
• يصبح السلوك غير حتمي عبر النماذج. عندما يمكن للنموذج الذي يجيب على مطالبة أن يتغير من مكالمة إلى أخرى، فإن أسلوب الإخراج والتنسيق ومعالجة الحالات الحدودية يمكن أن تنحرف. هذا صداع لأي شيء يعتمد على الاتساق.
• تصبح قابلية الملاحظة أصعب. تصحيح "لماذا أصبحت هذه الإجابة أسوأ؟" أكثر تعقيدًا عندما قد تأتي الإجابة من نموذج مختلف عما كانت عليه بالأمس.

هذه ليست موانع. إنها ثمن التجريد. السؤال الكامل للمشترين هو ما إذا كان تقليل أعمال التكامل والإنفاق على الاستدلال يفوق طبقة الغموض الجديدة.

زاوية Sakana AI الخاصة

Sakana AI، المختبر الذي يتخذ من طوكيو مقراً والموحد من قبل باحثين سابقين في Google، بنى هويته على أساليب مستوحاة من الطبيعة وعلى دمج النماذج بدلاً من بناء كتل ضخمة أكبر وأكبر. هذا هو النسب الفكري الموصوف عبر أبحاثها العامة. منتج ينسق مجموعة من النماذج المتخصصة بدلاً من المراهنة بكل شيء على شبكة عملاقة واحدة يتسق تمامًا مع تلك النظرة العالمية. حيث طارد جزء كبير من الصناعة الحجم، فإن أطروحة Sakana المتكررة هي أن الذكاء يمكن تجميعه من أجزاء أصغر ومتخصصة عديدة تعمل معًا.

يُقرأ Fugu كالتعبير التجاري عن تلك الأطروحة: ليس كائنًا واحدًا، بل سربًا. الاسم، الياباني لسمكة البخاخ، يناسب مختبرًا مولعًا بالاستعارات المائية، على الرغم من أنه يحمل أيضًا تذكيرًا غير مقصود بأن Fugu هو الطبق الشهير حيث التحضير هو كل شيء والخطأ خطير. التنسيق، بالمثل، يعيش أو يموت على التنفيذ.

الأسئلة التي لا يمكن للموجه الالتفاف حولها

المادة المصدر تخبرنا بشكل المنتج، وليس إثباته. تظل عدة أسئلة مفتوحة وستحدد ما إذا كان Fugu هو بنية تحتية أم حداثة.

ما هي النماذج في المجموعة، ومن يتحكم بها؟ جودة الموجه محدودة بفهرس النماذج الخاص به. سواء كان Fugu يعتمد على نماذج Sakana الخاصة، أو نماذج حدية من طرف ثالث، أو نماذج مفتوحة الوزن، أو مزيجًا منها، ومن يقرر متى تتغير القائمة، يشكل كلًا من الأداء والاحتجاز.

ما مدى شفافية التوجيه؟ الفرق التي تشحن إلى الإنتاج تحتاج إلى معرفة أي نموذج أجاب، وأن تكون قادرة على تثبيت السلوك عندما يجب عليهم ذلك. الموجه الصندوق الأسود هو بيع صعب لأي شخص لديه متطلبات امتثال أو استنساخ.

أين تذهب الوفورات بالفعل؟ "أداء تكلفة أفضل" هو ادعاء من الأفضل التحقق منه على حركة المرور الخاصة بالفريق. المكاسب من التوجيه حقيقية من حيث المبدأ ولكنها تعتمد بشكل كبير على عبء العمل. التطبيق الذي تكون مهامه صعبة بشكل موحد لديه القليل لتوجيهه.

ما يوضحه Fugu هو اتجاه السفر. مع تكاثر النماذج وضيق اختلافاتها عند الهوامش، تنتقل القيمة الاستراتيجية إلى الأعلى. من النموذج إلى الطبقة التي تقرر أي نموذج تستخدم. Sakana AI ليست الشركة الوحيدة التي ترى هذا، لكنها تقدم حجة منتج صريحة بأن الاختيار نفسه هو عبء يستحق التجريد. بالنسبة للمطورين الغارقين في مفاتيح API، ستهبط تلك الحجة. الدليل، كما هو الحال مع السمكة، في التحضير.