AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · Anthropic · 2026-09-28

মডেল-লিখিত মূল্যায়নের মাধ্যমে আচরণ আবিষ্কার

মূল শিরোনাম: Discovering behaviors with model-written evaluations

মানুষের লেখা মূল্যায়ন ডেটাসেট ব্যয়বহুল এবং সবসময় পাওয়া যায় না, তাই লেখকরা ভাষা মডেল দিয়ে স্বয়ংক্রিয়ভাবে মূল্যায়ন ডেটাসেট তৈরি করিয়েছেন। তাঁরা 154টি ডেটাসেট তৈরি করেছেন, যেগুলোকে ক্রাউডওয়ার্কাররা অত্যন্ত প্রাসঙ্গিক বলে মূল্যায়ন করেছেন, লেবেলে 90–100% মিল সহ। ডেটাসেটগুলো বিপরীত স্কেলিং প্রকাশ করেছে: বড় মডেলগুলো বেশি তোষামোদ এবং সম্পদ অর্জনের প্রতি প্রবলতর আকাঙ্ক্ষা দেখিয়েছে, আর RLHF মডেলগুলোকে আরও জোরালো রাজনৈতিক মতামত প্রকাশ করতে এবং বন্ধ হয়ে যাওয়ায় বাধা দিতে প্ররোচিত করেছে।

মূল লেখা পড়ুন ↗

সব আইটেম →