AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · arXiv · 2026-10-26

جیکوبین لینس کا ایک ریاضیاتی نظریہ

اصل عنوان: A Mathematical Theory of the Jacobian Lens

جیکوبین لینس (J-lens)، Anthropic کا ایک تشریحی آلہ، نے لینگویج ماڈلز میں ورکنگ میموری جیسی سمتوں کا پتہ لگایا، لیکن یہ واضح نہیں تھا کہ یہ خصوصیات کیوں قابلِ شناخت تھیں۔ مصنفین ایک ریاضیاتی نظریہ پیش کرتے ہیں جو دکھاتا ہے کہ J-lens ترجیحی طور پر مربوط خصوصیات کی نشاندہی کرتا ہے، جن کے اضطرابات تہوں میں بڑھتے ہیں اور ٹوکن پوزیشنوں اور سیاق و سباق میں مستقل رہتے ہیں۔ انہوں نے اس کی توثیق ایک Bayes فلٹر اور ایک کھلونا ٹرانسفارمر پر کی جو ہڈن مارکوف ماڈل سے ٹوکن کی پیش گوئی کرتا ہے، جہاں خصوصیت کی ہم آہنگی بدلنے والے پیرامیٹرز کو تبدیل کرنے سے J-lens کا ردعمل پیش گوئی کے مطابق بدل گیا۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →