AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · Anthropic · 2026-09-28

ট্রান্সফরমার সার্কিটের জন্য একটি গাণিতিক কাঠামো

মূল শিরোনাম: A mathematical framework for Transformer Circuits

গবেষকরা ইনডাকশন হেড কীভাবে গঠিত হয় তা অধ্যয়ন করতে ছোট, শুধু অ্যাটেনশনভিত্তিক ট্রান্সফরমারের রিভার্স-ইঞ্জিনিয়ারিং করেছেন। কাজটি দেখায় যে এগুলো হেড কম্পোজিশনের মাধ্যমে গঠিত হয়।

মূল লেখা পড়ুন ↗

সব আইটেম →