AI এবং বিশ্বের কঠিন সমস্যাগুলো · চিকিৎসা ও ওষুধ আবিষ্কার · arXiv · 2026-10-20

একই পথ, ভিন্ন হাঁটা: 12-lead ECG-তে লুপড ও স্ট্যাকড transformer এনকোডারের একটি যান্ত্রিক তুলনা

মূল শিরোনাম: Same path, different walk: a mechanistic comparison of looped and stacked transformer encoders on 12-lead ECG

নিজেদের ওজন পুনর্ব্যবহার করে এমন Recurrent Transformer প্যারামিটার দক্ষতার জন্য ক্রমবর্ধমানভাবে গৃহীত হচ্ছে, তবে লুপড ও স্ট্যাকড স্থাপত্যের মধ্যকার প্রতিনিধিত্বগত ও গতিগত পার্থক্যগুলো এতদিন চিহ্নিত হয়নি। লেখকরা bViT, যা একটি weight-tied ব্লককে L বার প্রয়োগ করে, এবং একটি স্ট্যান্ডার্ড ViT-কে PTB-XL ডেটাসেট থেকে 12-lead ECG শ্রেণিবিন্যাসে অভিন্ন প্রশিক্ষণ প্রোটোকলের অধীনে প্রশিক্ষণ দেন এবং দেখেন যে bViT 8.9x প্যারামিটার হ্রাস সত্ত্বেও ViT-এর সাথে নির্ভুলতার সমতা অর্জন করে। উভয়ই সমতুল্য ক্যানোনিকাল ক্রমে তুলনীয় লেটেন্ট প্রতিনিধিত্ব গড়ে তোলে, তবে তাদের গতিশীলতা ভিন্ন: bViT ডেটা ম্যানিফোল্ডের বাইরে প্রায়-নিরপেক্ষ আচরণসহ ছোট ধাপের আকার এবং রোগীদের মধ্যে সংবেদনশীলতা দেখায়, অন্যদিকে ViT প্রতিনিধিত্বের মাত্রা সংকুচিত হওয়া এবং বিতরণ-বহির্ভূত ফিচার সম্প্রসারণ প্রদর্শন করে।

মূল লেখা পড়ুন ↗

সব আইটেম →