Relatórios de IA · GovAI (Oxford) · 2026-10-17 · Posicionamento de política
Política de laboratórios de IA para avaliar riscos em relação aos concorrentes: uma análise das políticas atuais das empresas de IA Outubro de 2025 Resumo de Políticas Sophie Williams, Noemi Dreksler, Aidan Homewood, Markus Anderljung, Jonas Fre
Título original: AI Lab Policy Assessing Risk Relative to Competitors: An Analysis of Current AI Company Policies October 2025 Policy Brief Sophie Williams, Noemi Dreksler, Aidan Homewood, Markus Anderljung, Jonas Fre
Algumas empresas de IA incluem em seus frameworks de segurança disposições que lhes permitem reduzir suas mitigações caso um concorrente lance um modelo com capacidades semelhantes, mas com mitigações mais fracas. Os autores argumentam que essa abordagem pode aumentar o risco total, já que as capacidades e mitigações dos concorrentes são difíceis de avaliar e os riscos de acidentes crescem com o número de usuários. Eles também alertam que os padrões de segurança podem se deteriorar de repente, se um desertor levar outros a segui-lo, ou gradualmente, por um efeito de 'sapo na água fervente'.