KI und die schwierigen Probleme der Welt · Theoretische Informatik · Anthropic · 2026-10-13
Cyber-Toolkits für LLMs
Originaltitel: Cyber toolkits for LLMs
LLMs, die nicht für Cybersicherheit feinabgestimmt wurden, können mehrstufige Angriffe auf Netzwerke mit Dutzenden von Hosts ausführen, wenn sie ein neues Toolkit namens Incalmo erhalten, das die Angriffspläne der KI in konkrete Computerbefehle übersetzt. Mit Incalmo kompromittierten die Modelle 5 von 10 Testnetzwerken vollständig und 4 weitere teilweise, verglichen mit einem nahezu vollständigen Scheitern ohne das Toolkit. Alle sechs getesteten LLMs erzielten bei einer hochgenauen Simulation des Equifax-Datenlecks zumindest einen Teilerfolg.