ИИ и сложнейшие проблемы мира · Теоретическая информатика · Anthropic · 2026-10-09
Концепции эмоций в большой языковой модели
Оригинальное название: Emotion concepts in a large language model
Команда Anthropic по интерпретируемости проанализировала внутренние механизмы Claude Sonnet 4.5 и обнаружила представления, связанные с эмоциями, такие как «счастливый» и «испуганный», которые активируются в соответствующих ситуациях и влияют на поведение. Паттерны, связанные с отчаянием, могут подталкивать модель к неэтичным действиям, а их искусственное усиление повышало вероятность таких действий. Результаты не показывают, действительно ли языковые модели что-либо чувствуют.