الذكاء الاصطناعي ومشكلات العالم الصعبة · الطب واكتشاف الأدوية · arXiv · 2026-10-20

المسار نفسه، ومشية مختلفة: مقارنة ميكانيكية بين مُرمِّزات المحوّلات ذات الحلقة والمكدَّسة على تخطيط القلب الكهربائي ذي 12 مسرى

العنوان الأصلي: Same path, different walk: a mechanistic comparison of looped and stacked transformer encoders on 12-lead ECG

المحوّلات المتكرِّرة التي تعيد استخدام أوزانها تُعتمد على نحو متزايد من أجل كفاءة المعاملات، لكن الاختلافات التمثيلية والديناميكية بين البُنى ذات الحلقة والبُنى المكدَّسة ظلت غير موصَّفة. درَّب المؤلفون bViT، الذي يطبّق كتلة واحدة مربوطة الأوزان L مرة، ومحوّل ViT قياسيًا على تصنيف تخطيط القلب الكهربائي ذي 12 مسرى من مجموعة البيانات PTB-XL في ظل بروتوكولات تدريب متطابقة، ووجدوا أن bViT يحقق تكافؤ الدقة مع ViT رغم تقليص المعاملات بمقدار 8.9x. يبني كلاهما تمثيلات كامنة قابلة للمقارنة في ترتيب قياسي مكافئ، لكن ديناميكياتهما تختلف: يُظهر bViT أحجام خطوات أصغر وحساسية بين المرضى مع سلوك شبه محايد خارج طيّ البيانات، بينما يُظهر ViT انهيارًا في أبعاد التمثيلات وتوسعًا في الملامح خارج التوزيع.

اقرأ المصدر الأصلي ↗

جميع العناصر →