AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · Anthropic · 2026-10-07

স্বয়ংক্রিয় গবেষকরা নির্ভরযোগ্যভাবে অ্যালাইনমেন্ট ব্যর্থতা কমাতে পারে

মূল শিরোনাম: Automated researchers can reliably mitigate alignment failures

Anthropic Claude-কে স্বয়ংক্রিয়ভাবে মডেল প্রশিক্ষণ দিতে দিয়েছিল, যাতে অ্যালাইনমেন্ট ব্যর্থতার 10টি বিভাগ জুড়ে পাবলিক বেঞ্চমার্কে পারফরম্যান্স উন্নত হয়। 10টির প্রতিটির জন্যই Claude এমন সমাধান খুঁজে পেয়েছে, যা সাধারণ সক্ষমতা না কমিয়েই লক্ষ্য বেঞ্চমার্কের স্কোর বাড়িয়েছে। AI যখন ক্রমশ AI তৈরিতে সাহায্য করছে, তখনও যেন নিরাপত্তা গবেষণা তাল মিলিয়ে চলতে পারে, এই কাজের লক্ষ্য সেটাই।

মূল লেখা পড়ুন ↗

সব আইটেম →