Rapports sur l'IA · GovAI (Oxford) · 2026-10-17 · Prise de position
AI Lab Policy Assessing Risk Relative to Competitors: An Analysis of Current AI Company Policies October 2025 Policy Brief Sophie Williams, Noemi Dreksler, Aidan Homewood, Markus Anderljung, Jonas Fre
Certaines entreprises d'IA incluent dans leurs cadres de sécurité des dispositions qui leur permettent d'abaisser leurs mesures d'atténuation si un concurrent publie un modèle aux capacités similaires mais aux mesures d'atténuation plus faibles. Les auteurs soutiennent que cette approche pourrait augmenter le risque total, car les capacités et les mesures d'atténuation des concurrents sont difficiles à évaluer et les risques d'accident augmentent avec le nombre d'utilisateurs. Ils avertissent également que les normes de sécurité pourraient s'éroder brusquement, si un acteur défaillant en entraîne d'autres, ou progressivement, par un effet de « grenouille dans l'eau qui chauffe ».