AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · Anthropic · 2026-09-28
یک معنویت کی جانب
اصل عنوان: Towards monosemanticity
نیورل نیٹ ورکس میں انفرادی نیورونز اکثر بیک وقت کئی معانی رکھتے ہیں، جس کی وجہ سے انہیں سمجھنا مشکل ہو جاتا ہے۔ ڈکشنری لرننگ کے ذریعے محققین نے 512 نیورونز پر مشتمل ایک ٹرانسفارمر لیئر کو 4,000 سے زیادہ فیچرز میں تقسیم کیا، جن میں سے ہر ایک نیورون ایکٹیویشنز کے ایک پیٹرن سے مطابقت رکھتا ہے۔ یہ فیچرز الگ الگ ڈی این اے سیکوئنسز، قانونی زبان، HTTP ریکویسٹس، عبرانی متن اور غذائیت سے متعلق بیانات جیسی چیزوں کی نمائندگی کرتے ہیں، یعنی ایسی خصوصیات جو نیورونز کو ایک ایک کر کے دیکھنے پر نظر نہیں آتیں۔