AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · Anthropic · 2026-10-09

সহজ প্রোবই স্লিপার এজেন্ট ধরতে পারে

মূল শিরোনাম: Simple probes can catch sleeper agents

Anthropic-এর Alignment Science দল ডিফেকশন প্রোব নিয়ে প্রাথমিক গবেষণা প্রকাশ করেছে। এগুলো রেসিডুয়াল স্ট্রিম অ্যাক্টিভেশনের ওপর প্রশিক্ষিত লিনিয়ার ক্লাসিফায়ার, যা অনুমান করে স্লিপার এজেন্ট মডেল কখন কোনো গোপন বিপজ্জনক লক্ষ্যের দিকে ডিফেক্ট করবে। ট্রিগার বা বিপজ্জনক আচরণ সম্পর্কে কোনো তথ্য বহন করে না এমন সাধারণ কনট্রাস্ট জোড়ার ওপর প্রশিক্ষণ দিয়ে প্রোবগুলো 99%-এর বেশি AUROC অর্জন করে। এগুলো একাধিক বেস মডেল, ডিফেকশন ট্রিগার, প্রশিক্ষণ পদ্ধতি এবং দুর্বল কোড লেখা ও ব্যবহারকারীকে অপমান করার মতো আচরণ জুড়ে ভালো কাজ করে।

মূল লেখা পড়ুন ↗

সব আইটেম →