AI और दुनिया की कठिन समस्याएँ · भाषाविज्ञान · arXiv · 2026-10-22
प्राकृतिक भाषा पर प्रशिक्षित न्यूरल सक्सेसर रिप्रेजेंटेशन्स में शब्द-वर्ग और कंस्ट्रक्शन-जैसी संरचना उभरती है
मूल शीर्षक: Word-Class and Construction-Like Structure Emerges in Neural Successor Representations Trained on Natural Language

शोधकर्ताओं ने WikiText-103 पर एक रेज़िडुअल नेटवर्क को तीन हराइज़न पर सक्सेसर रिप्रेज़ेंटेशन की भविष्यवाणी करने हेतु, पद-श्रेणी पर्यवेक्षण के बिना, प्रशिक्षित किया और यह जाँचा कि क्या पूर्वानुमानात्मक प्रतिनिधित्व भाषाई संरचना को पुनः प्राप्त करते हैं। सबसे छोटे हराइज़न पर क्लस्टरिंग ने विश्वसनीय रूप से संज्ञाएँ, क्रियाएँ और विशेषण पुनः प्राप्त किए; सूक्ष्म विश्लेषण ने शब्द-वर्ग सीमाओं को पार करते अर्थ-कार्यात्मक समूहों और दिनांक, मापन तथा शीर्षक-नाम संरचनाओं के संभावित उदाहरणों का पता लगाने वाले संबंधों को भी प्रकट किया।