نموذج ذو 4 مليارات معلمة يعالج البيانات السريرية غير المنتظمة بإجابات في 0.15 ثانية

بيانات السلاسل الزمنية السريرية نادرًا ما تكون نظيفة. تصل العلامات الحيوية ونتائج المختبر وسجلات الأدوية على فترات غير منتظمة، مع فجوات وأختام زمنية غير متزامنة تعطل النماذج القياسية. تقدم ورقة بحثية جديدة من باحثين أكاديميين إطار عمل ClinPRISM، وهو إطار استدلال مصمم خصيصًا لهذا النوع من البيانات. يتمكن النموذج من الإجابة على أسئلة حول السلاسل الزمنية السريرية غير المنتظمة في متوسط 0.15 ثانية، باستخدام 16 رمزًا زمنيًا فقط على هيكل أساسي ذو 4 مليارات معلمة.

مشكلة عدم الانتظام

تفترض معظم نماذج السلاسل الزمنية فترات زمنية ثابتة. البيانات السريرية لا تلتزم بذلك. قد يتم تسجيل معدل ضربات قلب المريض كل دقيقة أثناء الإقامة في وحدة العناية المركزة، ثم كل ساعة، ثم لا يتم تسجيله على الإطلاق لمدة ثماني ساعات. تصل نتائج المختبر بوتيرة مختلفة. هذا التفرق وعدم التزامن يجعل من الصعب على نماذج LLM متعددة الوسائط القياسية العثور على الأدلة التي تحتاجها. غالبًا ما تتجاهل الأساليب الحالية عدم الانتظام أو تقوم بملء الفجوات، مما يؤدي إلى فقدان الإشارة في هذه العملية.

كيف يعمل ClinPRISM

يعتمد الإطار على ثلاثة مكونات. أولاً، مشفر متعدد المقاييس يدرك عدم الانتظام يلتقط الأدلة السريرية المتناثرة عبر درجات زمنية مختلفة. ثانيًا، مقطر الأدلة الزمنية يضغط تلك التمثيلات في عدد صغير من الرموز التي يمكن لـ LLM التعامل معها. ثالثًا، استراتيجية محاذاة تدريجية تقوم بتعيين المسارات غير المنتظمة بشكل تسلسلي في فضاء التضمين النصي لـ LLM. درب الفريق ClinPRISM على 30,000 سلسلة زمنية سريرية مقترنة بأوصاف متعددة المقاييس، بالإضافة إلى 41,000 مثال لضبط التعليمات تغطي 11 مهمة. الهيكل الأساسي لـ LLM يحتوي على 4 مليارات معلمة، وهو اختيار متعمد لتكلفة النشر.

الكفاءة والدقة

يصل ClinPRISM إلى أداء متطور على معيار التقييم المحجوز، حسبما ذكرت الورقة. الميزانية المحددة بـ 16 رمزًا تحافظ على سرعة الاستدلال: 0.15 ثانية لكل سؤال. هذه السرعة ذات صلة بسير العمل السريري في الوقت الفعلي حيث يحتاج الطبيب أو نظام المراقبة إلى إجابة قبل الصفير التالي. تركز الأعمال الحديثة الأخرى حول الاستدلال الطبي متعدد الوسائط، مثل مناهج التعلم المعزز الواعي بالخطوات، على تحسين عملية الاستدلال نفسها من خلال توزيع ائتماني أفضل. يعالج ClinPRISM عنق زجاجة مختلف: تمثيل المدخلات. يمكن لخطي العمل هذين أن يكمل كل منهما الآخر.

ماذا يعني ذلك للذكاء الاصطناعي السريري

نموذج ذو 4 مليارات معلمة يعمل في أقل من ثانية على بيانات غير منتظمة يفتح إمكانيات لدعم القرار بجانب السرير. تتطلب العديد من أنظمة الذكاء الاصطناعي السريري اليوم إعدادات بنية تحتية ثقيلة مع خوادم كبيرة. تشير كفاءة الرموز في ClinPRISM إلى أنه يمكن تشغيله على أجهزة الحافة، على الرغم من أن الورقة تذكر فقط معايير جانب الخادم. وفورات التكلفة ليست نقدية فقط: الإجابات الأسرع تعني عبئًا معرفيًا أقل على الأطباء الذين ينتظرون النموذج. الورقة متاحة على arXiv مع توقع توفر الكود والبيانات من خلال صفحة المشروع.