الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-26

حول تكميم الشبكات العصبية المتكررة المتعامدة

العنوان الأصلي: On Orthogonal Recurrent Neural Networks Quantization

تتعامل الشبكات العصبية المتكررة المتعامدة جيدًا مع الاعتماديات طويلة الأمد، لكنها تستخدم أوزانًا وتفعيلات كاملة الدقة، مما يعيق نشرها على الأجهزة المدمجة. يقترح المؤلفون شبكات عصبية متكررة شبه متعامدة مكمَّاة (QORNNs)، ويتعلمونها بالتدريب الواعي بالتكميم مع الإسقاطات المتعامدة، ويطبقون التكميم بعد التدريب على التفعيلات للحصول على حساب بأعداد صحيحة بالكامل في الحلقة المتكررة. وتُعد النماذج المكمَّاة بالكامل حاليًا البدائل الوحيدة التي تحل مهمة النسخ ذات 1000 خطوة زمنية وتتفوق على النماذج المكمَّاة الحالية في MNIST المبدّل وبعض مهام إنترنت الأشياء، وإن كانت أقل فاعلية من الشبكات المتكررة ذات البوابات مثل LSTM في مهام أخرى.

اقرأ المصدر الأصلي ↗

جميع العناصر →