Intelligence SynthesisJAEN

الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · Anthropic · 2026-09-28

إطار رياضي لدوائر Transformer

العنوان الأصلي: A mathematical framework for Transformer Circuits

قام الباحثون بالهندسة العكسية لنماذج Transformer صغيرة تعتمد على الانتباه فقط لدراسة كيفية تشكّل رؤوس الاستقراء. يُظهر العمل أنها تتشكل من خلال تركيب الرؤوس.

اقرأ المصدر الأصلي ↗

جميع العناصر →