AI 與世界的難題 · 理論資訊科學 · Anthropic · 2026-10-13
供 LLM 使用的網路安全工具組
原標題: Cyber toolkits for LLMs
未針對資安進行微調的大型語言模型（LLM），在獲得名為 Incalmo 的新工具包後，能夠對由數十台主機組成的網路發動多階段攻擊；該工具包會將 AI 的攻擊計畫轉譯為具體的電腦指令。使用 Incalmo 時，模型完全攻陷了 10 個測試網路中的 5 個，並部分攻陷另外 4 個；相較之下，沒有該工具包時幾乎全數失敗。在對 Equifax 資料外洩事件的高擬真模擬中，所測試的六個 LLM 全都至少取得部分成功。