AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · arXiv · 2026-10-22

ڈریمنگ لرننگ کے ذریعے ماڈل کولاپس کو کم کرنا

اصل عنوان: Mitigating Model Collapse through Dreaming Learning

محققین نے مصنوعی ڈیٹا پر بار بار تربیت کے باعث تنوع اور کارکردگی کے نقصان کا مطالعہ کیا، جس کے لیے کنٹرول شدہ Markov سیٹنگ میں transition آپریٹر اسپیکٹرا استعمال کیے گئے۔ اعلیٰ درجہ حرارت کے نمونوں پر تربیت نے پیش گوئی شدہ تقسیموں کو چپٹا کر دیا اور سقوط کو کم کیا؛ 5,000 نسلوں پر حاصل معاون اسپیکٹرل پیمائشوں نے اس کی تائید کی، اور یہ تخفیف LSTM زبان کے ماڈلز اور 124 ملین پیرامیٹر والے GPT-2 میں بھی مشاہدہ کی گئی۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →