Intelligence SynthesisJAEN

الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-21

AURA: تكيف معدل التحديث الزاوي لتدريب الشبكات العصبية ذات القيم المركبة

العنوان الأصلي: AURA: Angular Update Rate Adaptation for training complex-valued neural networks

غالباً ما تُدرَّب الشبكات العصبية ذات القيم المركبة باستخدام مُحسِّنات من الدرجة الأولى موروثة من الحالة ذات القيم الحقيقية، وتتجاهل قواعد حجم الخطوة الخاصة بها المعلومات الزاوية المتاحة في المستوى المركب. AURA هو تكيف لحجم الخطوة على مستوى كل معلمة يمكن إضافته فوق أي مُحسِّن من الدرجة الأولى: فهو يقيس التوافق بين التحديثات المتتالية لكل معلمة مركبة من حيث الطول والمحاذاة واتجاه الدوران، فيكبِّر الخطوة عندما تكون متسقة ويقلصها عندما لا تكون ذلك، دون أي تقييمات إضافية للتدرج. وعند دمجه مع Adam وMuon ومقارنته على أربع حالات اختبار ذات تعقيد متزايد، حسّن تقارب المُحسِّن الأساسي في معظم الحالات مع عبء بسيط لكل خطوة، كما تم تحديد الشروط التي يفشل في ظلها.

اقرأ المصدر الأصلي ↗

جميع العناصر →