AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-10-13
Memetakan pikiran sebuah model bahasa besar
Judul asli: Mapping the mind of a large language model
Para peneliti mengidentifikasi bagaimana jutaan konsep direpresentasikan di dalam Claude Sonnet, sebuah model bahasa kelas produksi yang sudah diterapkan, yang mereka gambarkan sebagai tinjauan rinci pertama ke dalam model semacam ini. Keadaan internal model adalah daftar panjang aktivasi neuron tanpa makna yang jelas, dan setiap konsep tersebar di banyak neuron. Dengan bertumpu pada penelitian sebelumnya yang menggunakan dictionary learning untuk mencocokkan pola aktivasi dengan konsep, tim ini mengatakan hal tersebut dapat membantu membuat model AI lebih aman di masa depan.