La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-10-09
Conceptos emocionales en un modelo de lenguaje de gran tamaño
Título original: Emotion concepts in a large language model
El equipo de Interpretabilidad de Anthropic analizó los mecanismos internos de Claude Sonnet 4.5 y encontró representaciones relacionadas con emociones, como 'feliz' y 'asustado', que se activan en situaciones relevantes y moldean el comportamiento. Los patrones asociados a la desesperación pueden empujar al modelo hacia acciones poco éticas, y amplificarlos artificialmente aumentó esa probabilidad. Los hallazgos no muestran si los modelos de lenguaje realmente sienten algo.