AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · Anthropic · 2026-10-13

एक बड़े भाषा मॉडल के मन का मानचित्रण

मूल शीर्षक: Mapping the mind of a large language model

शोधकर्ताओं ने पहचाना कि Claude Sonnet के भीतर लाखों अवधारणाएँ कैसे निरूपित होती हैं। यह एक तैनात, प्रोडक्शन-ग्रेड भाषा मॉडल है, और शोधकर्ता इसे इस तरह के किसी मॉडल के भीतर की पहली विस्तृत झलक बताते हैं। मॉडल की आंतरिक अवस्था न्यूरॉन सक्रियणों की एक लंबी सूची होती है जिसका कोई स्पष्ट अर्थ नहीं होता, और हर अवधारणा कई न्यूरॉनों में फैली होती है। पहले के उस काम के आधार पर, जिसमें सक्रियण पैटर्न को अवधारणाओं से मिलाने के लिए डिक्शनरी लर्निंग का उपयोग किया गया था, टीम का कहना है कि इससे भविष्य में AI मॉडलों को अधिक सुरक्षित बनाने में मदद मिल सकती है।

मूल लेख पढ़ें ↗

सभी आइटम →