AI এবং বিশ্বের কঠিন সমস্যাগুলো · পদার্থবিজ্ঞান · arXiv · 2026-10-22

দক্ষ জেট ট্যাগিংয়ের জন্য ফাউন্ডেশন মডেলগুলিকে কতদূর ডিস্টিল করা যায়?

মূল শিরোনাম: How Far Can Foundation Models Be Distilled for Efficient Jet Tagging?

Large Hadron Collider-এ জেট ট্যাগিংয়ের জন্য ফাউন্ডেশন মডেলগুলোকে ছোট নেটওয়ার্কে কতদূর ডিস্টিল করা যায় তা গবেষণাটি পরীক্ষা করে দেখে, যেখানে পরীক্ষণগুলো ইনফারেন্স খরচের ওপর কঠোর সীমা আরোপ করে। স্থাপত্য, প্রতিসাম্য ও প্রি-ট্রেনিংয়ে ভিন্ন, দুটি ফাউন্ডেশন মডেলসহ ছয়টি টিচারকে পাঁচটি ছোট স্টুডেন্টে ডিস্টিল করা হয়, এবং প্রতিটি টিচারই প্রতিটি স্টুডেন্টের উন্নতি ঘটায়, যে লাভ মূলত টিচারের শক্তির ওপর নির্ভর করে। 20 হাজার প্যারামিটারবিশিষ্ট একটি ডিস্টিলকৃত L-GATr-slim টিচারদের ইনফারেন্স খরচের এক ক্ষুদ্র অংশে স্ক্র্যাচ থেকে প্রশিক্ষিত প্রকাশিত প্রতিটি জেট ট্যাগারকে ছাড়িয়ে যায়, আর দুই হাজার প্যারামিটার দিয়ে এটি ParT-এর সমান হয়, যেখানে ParT হলো হাজার গুণ বেশি প্যারামিটারবিশিষ্ট একটি মডেল।

মূল লেখা পড়ুন ↗

সব আইটেম →