الذكاء الاصطناعي ومشكلات العالم الصعبة · الفيزياء · arXiv · 2026-10-22

إلى أي مدى يمكن تقطير النماذج الأساسية لوسم الجتات بكفاءة؟

العنوان الأصلي: How Far Can Foundation Models Be Distilled for Efficient Jet Tagging?

تفحص هذه الدراسة مدى إمكانية تقطير نماذج الأساس في شبكات صغيرة لوسم النفاثات في المصادم الهدروني الكبير، حيث تفرض التجارب حدودًا صارمة على تكلفة الاستدلال. وقد جرى تقطير ستة معلمين تتفاوت في البنية والتناظر والتدريب المسبق، ومنها نموذجان من نماذج الأساس، في خمسة طلاب صغار، وحقق كل معلم تحسّنًا لدى كل طالب، ويعتمد المكسب بصورة رئيسية على قوة المعلم. ويتفوق نموذج L-GATr-slim المقطَّر بـ 20 ألف معامل على كل واسم نفاثات منشور دُرِّب من الصفر، وبجزء يسير من تكلفة استدلال المعلمين، وبألفي معامل يوازي ParT، وهو نموذج يفوقه بعدد المعاملات بألف مرة.

اقرأ المصدر الأصلي ↗

جميع العناصر →