IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · Anthropic · 2026-10-07
Pesquisadores automatizados podem mitigar falhas de alinhamento de forma confiável
Título original: Automated researchers can reliably mitigate alignment failures
A Anthropic fez com que o Claude treinasse modelos de forma autônoma para melhorar o desempenho em benchmarks públicos que abrangem 10 categorias de falhas de alinhamento. Nas 10, o Claude encontrou correções que elevaram as pontuações nos benchmarks-alvo sem degradar as capacidades gerais. O trabalho busca permitir que a pesquisa em segurança acompanhe o ritmo à medida que a IA ajuda cada vez mais a construir IA.