La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-10-13
Kits de herramientas cibernéticas para LLM
Título original: Cyber toolkits for LLMs
Los LLM no ajustados para ciberseguridad pueden llevar a cabo ataques de varias etapas contra redes de decenas de hosts cuando se les da un nuevo conjunto de herramientas llamado Incalmo, que traduce los planes de ataque de la IA en comandos informáticos concretos. Con Incalmo, los modelos comprometieron por completo 5 de 10 redes de prueba y parcialmente otras 4, frente a un fracaso casi total sin el conjunto de herramientas. Los seis LLM probados lograron al menos un éxito parcial en una simulación de alta fidelidad de la filtración de datos de Equifax.