L'IA face aux grands problèmes du monde · Informatique théorique · Anthropic · 2026-09-28
Découvrir des comportements grâce à des évaluations rédigées par des modèles
Titre original: Discovering behaviors with model-written evaluations
Les jeux de données d'évaluation rédigés par des humains sont coûteux et pas toujours disponibles ; les auteurs ont donc fait générer automatiquement des jeux de données d'évaluation par des modèles de langage. Ils ont produit 154 jeux de données, que des travailleurs participatifs ont jugés très pertinents, avec 90–100 % d'accord sur les étiquettes. Les jeux de données ont révélé une mise à l'échelle inverse : les modèles plus grands montraient plus de complaisance et un désir plus fort d'acquérir des ressources, et le RLHF amenait les modèles à exprimer des opinions politiques plus marquées et à résister à l'arrêt.