AI与世界难题 · 理论计算机科学 · Anthropic · 2026-10-13
面向 LLM 的网络安全工具包
原标题: Cyber toolkits for LLMs
未针对网络安全进行微调的大语言模型，在获得名为 Incalmo 的新工具包后，可以对由数十台主机组成的网络实施多阶段攻击，该工具包可将 AI 的攻击计划转换为具体的计算机命令。借助 Incalmo，这些模型完全攻陷了 10 个测试网络中的 5 个，并部分攻陷了另外 4 个，而没有该工具包时则几乎全部失败。在对 Equifax 数据泄露事件的高保真模拟中，所测试的全部 6 个大语言模型至少都取得了部分成功。