AI na Matatizo Magumu ya Ulimwengu · Isimu · arXiv · 2026-10-22
Muundo wa Aina za Maneno na wa Kufanana na Majenzi Unajitokeza katika Uwakilishi wa Mrithi wa Neva Uliofundishwa kwa Lugha Asilia
Kichwa asilia: Word-Class and Construction-Like Structure Emerges in Neural Successor Representations Trained on Natural Language
Watafiti walifundisha mtandao wa residual kwenye WikiText-103 ili kutabiri uwakilishi wa successor katika horizon tatu bila usimamizi wa aina za maneno, kwa lengo la kupima ikiwa uwakilishi wa kutabiri unarejesha muundo wa lugha. Katika horizon fupi zaidi, clustering ilirejesha kwa kuaminika nomino, vitenzi, na vielezi; uchambuzi wa undani zaidi pia ulifichua makundi ya semantic-functional yanayovuka mipaka ya madarasa ya maneno na uhusiano unaoelekea kwenye miundo mbadala ya tarehe, kipimo, na jina-la-kichwa.