AI এবং বিশ্বের কঠিন সমস্যাগুলো · তাত্ত্বিক কম্পিউটার বিজ্ঞান · Anthropic · 2026-09-28

প্রভাব ফাংশনের মাধ্যমে LLM সাধারণীকরণ

মূল শিরোনাম: LLM generalization with influence functions

এই কাজটি ইনফ্লুয়েন্স ফাংশনকে (যা অনুমান করে প্রশিক্ষণের উদাহরণগুলো একটি মডেলের আচরণকে কীভাবে প্রভাবিত করে) EK-FAC আনুমানিকীকরণ ব্যবহার করে ৫২ বিলিয়ন প্যারামিটার পর্যন্ত LLM-এর জন্য সম্প্রসারিত করেছে। এটি ঐতিহ্যবাহী এস্টিমেটরের মতো একই রকম নির্ভুলতা অর্জন করে, অথচ ইনভার্স-হেসিয়ান-ভেক্টর গুণফলের গণনাকে কয়েক মাত্রা দ্রুততর করে। লেখকেরা এটি ব্যবহার করে সাধারণীকরণের ধরন অধ্যয়ন করেছেন এবং দেখেছেন যে মূল বাক্যাংশগুলোর ক্রম উল্টে দিলে প্রভাব প্রায় শূন্যে নেমে আসে।

মূল লেখা পড়ুন ↗

সব আইটেম →