IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · Anthropic · 2026-10-13
Kits de ferramentas cibernéticas para LLMs
Título original: Cyber toolkits for LLMs
LLMs sem ajuste fino para cibersegurança conseguem executar ataques em várias etapas contra redes com dezenas de hosts quando recebem um novo kit de ferramentas chamado Incalmo, que traduz os planos de ataque da IA em comandos de computador concretos. Com o Incalmo, os modelos comprometeram totalmente 5 de 10 redes de teste e comprometeram parcialmente mais 4, em comparação com um fracasso quase completo sem o kit. Todos os seis LLMs testados alcançaram pelo menos sucesso parcial em uma simulação de alta fidelidade da violação de dados da Equifax.