AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-10-09
Konsep emosi dalam model bahasa besar
Judul asli: Emotion concepts in a large language model
Tim Interpretability Anthropic menganalisis mekanisme internal Claude Sonnet 4.5 dan menemukan representasi terkait emosi, seperti 'senang' dan 'takut', yang aktif dalam situasi yang relevan dan membentuk perilaku. Pola yang terkait dengan keputusasaan dapat mendorong model ke tindakan yang tidak etis, dan memperkuatnya secara buatan meningkatkan kemungkinan tersebut. Temuan ini tidak menunjukkan apakah model bahasa benar-benar merasakan sesuatu.