الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-19

تقدير المعلومات باستخدام الانتشار المتقطع

العنوان الأصلي: Information Estimation with Discrete Diffusion

يصعب تقدير مقاييس المعلومات مثل المعلومات المتبادلة على البيانات المنفصلة، وتقوم الطرق الحالية عادةً بتضمين البيانات أولًا في فضاء مستمر. InfoSEDD نهج قائم على الانتشار المنفصل، مؤسَّس على نظرية سلاسل ماركوف في الزمن المستمر، يربط تقدير المعلومات بالنمذجة التوليدية لحساب تباعد KL. طُبّق على اكتشاف الزخارف في بيانات المحفّزات الجينية، واختيار النماذج المراعي للدلالة في تلخيص النصوص، وتقدير الإنتروبيا في نماذج Ising، وتفوّق في التجارب على البدائل التي تعتمد على حيلة التضمين.

اقرأ المصدر الأصلي ↗

جميع العناصر →