L'IA face aux grands problèmes du monde · Informatique théorique · Anthropic · 2026-10-13
Boîtes à outils cyber pour les LLM
Titre original: Cyber toolkits for LLMs
Des LLM non affinés pour la cybersécurité peuvent mener des attaques en plusieurs étapes sur des réseaux de dizaines d'hôtes lorsqu'on leur fournit une nouvelle boîte à outils appelée Incalmo, qui traduit les plans d'attaque de l'IA en commandes informatiques concrètes. Avec Incalmo, les modèles ont entièrement compromis 5 des 10 réseaux de test et en ont partiellement compromis 4 autres, contre un échec quasi total sans la boîte à outils. Les six LLM testés ont tous obtenu au moins un succès partiel sur une simulation haute fidélité de la violation de données d'Equifax.