AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · arXiv · 2026-10-26

জ্যাকোবিয়ান লেন্সের একটি গাণিতিক তত্ত্ব

মূল শিরোনাম: A Mathematical Theory of the Jacobian Lens

Anthropic-এর একটি ইন্টারপ্রেটেবিলিটি টুল Jacobian lens (J-lens) ভাষা মডেলে ওয়ার্কিং-মেমরির মতো দিক শনাক্ত করেছিল, কিন্তু এই বৈশিষ্ট্যগুলো কেন শনাক্তযোগ্য ছিল তা স্পষ্ট ছিল না। লেখকেরা একটি গাণিতিক তত্ত্ব উপস্থাপন করেছেন, যা দেখায় যে J-lens অগ্রাধিকার দিয়ে সুসংগত বৈশিষ্ট্য শনাক্ত করে, যাদের বিচলন স্তরে স্তরে বিবর্ধিত হয় এবং টোকেন অবস্থান ও প্রসঙ্গ জুড়ে সামঞ্জস্যপূর্ণ থাকে। তাঁরা এটি একটি Bayes ফিল্টার এবং একটি হিডেন মার্কভ মডেল থেকে টোকেন পূর্বাভাসকারী টয় ট্রান্সফরমারে যাচাই করেছেন, যেখানে বৈশিষ্ট্যের সংগতি বদলে দেওয়া প্যারামিটার পরিবর্তন করলে J-lens-এর সাড়াও পূর্বাভাস অনুযায়ী বদলেছে।

মূল লেখা পড়ুন ↗

সব আইটেম →