الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-22

التخفيف من انهيار النموذج من خلال التعلم بالأحلام

العنوان الأصلي: Mitigating Model Collapse through Dreaming Learning

درس الباحثون فقدان التنوع والأداء الناجم عن التدريب المتكرر على بيانات اصطناعية، مستخدمين أطياف مؤثر الانتقال في بيئة ماركوفية مُتحكَّم بها. أدى التدريب على عينات عالية الحرارة إلى تسطيح التوزيعات المتنبَّأ بها وتخفيف الانهيار، مع قياسات طيفية داعمة على مدى 5,000 جيل، ولوحظ التخفيف أيضًا في نماذج اللغة LSTM وفي GPT-2 ذي 124 مليون معامل.

اقرأ المصدر الأصلي ↗

جميع العناصر →