IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · arXiv · 2026-10-19
Recusa não é robustez: medindo a alcançabilidade de conteúdo nocivo em modelos de linguagem autorregressivos
Título original: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
As avaliações de segurança baseadas em jailbreak geralmente relatam a taxa de sucesso de ataque, que considera apenas as saídas amostradas e deixa passar caminhos de geração nocivos que continuam prováveis sob uma resposta segura. Os autores introduzem a análise de continuação limitada, que modela a geração como um processo estocástico e calcula a probabilidade, em horizonte finito, de alcançar uma continuação nociva usando verificação probabilística exata de modelos. Em quatro LLMs ajustados por instruções e 100 comportamentos do JailbreakBench, ela distingue modelos que parecem idênticos sob a ASR e ajuda a direcionar o esforço de red teaming.