AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · Anthropic · 2026-09-28
मोनोसेमैन्टिसिटी की ओर
मूल शीर्षक: Towards monosemanticity
न्यूरल नेटवर्क में अलग-अलग न्यूरॉन अक्सर एक साथ कई अर्थ समेटे होते हैं, जिससे उन्हें समझना कठिन हो जाता है। डिक्शनरी लर्निंग का उपयोग करके शोधकर्ताओं ने 512 न्यूरॉन वाली एक ट्रांसफ़ॉर्मर लेयर को 4,000 से अधिक फ़ीचर में विभाजित किया, जिनमें से प्रत्येक न्यूरॉन सक्रियण के एक पैटर्न से मेल खाता है। ये फ़ीचर अलग-अलग तौर पर DNA अनुक्रम, कानूनी भाषा, HTTP अनुरोध, हिब्रू पाठ और पोषण संबंधी कथन जैसी चीज़ों को दर्शाते हैं, ऐसे गुण जो न्यूरॉन को एक-एक करके देखने पर दिखाई नहीं देते।