AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-19
ডিসক্রিট ডিফিউশন দিয়ে তথ্য অনুমান
মূল শিরোনাম: Information Estimation with Discrete Diffusion

বিচ্ছিন্ন ডেটায় মিউচুয়াল ইনফরমেশনের মতো তথ্য পরিমাপ অনুমান করা কঠিন, এবং বিদ্যমান পদ্ধতিগুলো সাধারণত প্রথমে ডেটাকে একটি অবিচ্ছিন্ন স্থানে এমবেড করে। InfoSEDD হলো একটি বিচ্ছিন্ন ডিফিউশন-ভিত্তিক পদ্ধতি, যা অবিচ্ছিন্ন-সময় মার্কভ চেইন তত্ত্বের উপর প্রতিষ্ঠিত এবং KL ডাইভারজেন্স গণনার জন্য তথ্য অনুমানকে জেনারেটিভ মডেলিংয়ের সাথে যুক্ত করে। এটি জেনেটিক প্রোমোটার ডেটায় মোটিফ আবিষ্কার, টেক্সট সারসংক্ষেপে শব্দার্থ-সচেতন মডেল নির্বাচন এবং আইজিং মডেলে এনট্রপি অনুমানে প্রয়োগ করা হয়েছে, এবং পরীক্ষায় এটি এমবেডিং কৌশলের উপর নির্ভরশীল বিকল্পগুলোকে ছাড়িয়ে গেছে।