AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · Anthropic · 2026-09-28

মনোসেম্যান্টিসিটির দিকে

মূল শিরোনাম: Towards monosemanticity

নিউরাল নেটওয়ার্কের একক নিউরনগুলো প্রায়ই একসঙ্গে একাধিক অর্থ বহন করে, যে কারণে সেগুলো ব্যাখ্যা করা কঠিন হয়ে পড়ে। ডিকশনারি লার্নিং ব্যবহার করে গবেষকরা ৫১২টি নিউরনের একটি ট্রান্সফরমার স্তরকে ৪,০০০-এর বেশি ফিচারে বিভক্ত করেছেন, যার প্রতিটি নিউরন অ্যাক্টিভেশনের একটি প্যাটার্নের সঙ্গে সম্পর্কিত। ফিচারগুলো আলাদাভাবে ডিএনএ সিকোয়েন্স, আইনি ভাষা, HTTP রিকোয়েস্ট, হিব্রু লেখা এবং পুষ্টি-সংক্রান্ত বিবৃতির মতো বিষয় উপস্থাপন করে, যা একবারে একটি করে নিউরন দেখলে বোঝা যায় না।

মূল লেখা পড়ুন ↗

সব আইটেম →