AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-19

প্রত্যাখ্যান মানেই দৃঢ়তা নয়: অটোরিগ্রেসিভ ল্যাঙ্গুয়েজ মডেলে ক্ষতিকর পৌঁছানোযোগ্যতা পরিমাপ

মূল শিরোনাম: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models

জেলব্রেক-ভিত্তিক নিরাপত্তা মূল্যায়নে সাধারণত অ্যাটাক সাকসেস রেট (ASR) জানানো হয়, যা কেবল নমুনাকৃত আউটপুট দেখে এবং নিরাপদ উত্তরের নিচেও সম্ভাব্য থেকে যাওয়া ক্ষতিকর জেনারেশন পথগুলি এড়িয়ে যায়। লেখকেরা সীমাবদ্ধ ধারাবাহিকতা বিশ্লেষণ (bounded continuation analysis) প্রবর্তন করেছেন, যা জেনারেশনকে স্টকাস্টিক প্রক্রিয়া হিসেবে মডেল করে এবং সুনির্দিষ্ট সম্ভাব্যতাভিত্তিক মডেল চেকিং ব্যবহার করে ক্ষতিকর ধারাবাহিকতায় পৌঁছানোর সসীম-দিগন্ত সম্ভাবনা গণনা করে। চারটি ইন্সট্রাকশন-টিউনড LLM ও 100টি JailbreakBench আচরণ জুড়ে এটি এমন মডেলগুলিকে আলাদা করে যেগুলি ASR-এ অভিন্ন দেখায়, এবং রেড-টিমিংয়ের প্রচেষ্টাকে দিকনির্দেশ দিতে সাহায্য করে।

মূল লেখা পড়ুন ↗

সব আইটেম →