AIが解く世界の難問 · 計算機科学の理論 · Anthropic · 2026-10-13
LLM向けサイバー攻撃ツールキット
原題: Cyber toolkits for LLMs
サイバーセキュリティ向けに微調整されていないLLMでも、専用ツールキット「Incalmo」を与えると、数十台のホストからなるネットワークへの多段階攻撃を成功させられることが示された。Incalmoは、AIの攻撃計画を実際のコンピュータコマンドに変換する役割を担う。テストネットワーク10件のうち5件を完全に、4件を部分的に侵害し、ツールキットなしではほぼ全面的に失敗した。Equifaxの情報漏えい事件を模した高精度シミュレーションでも、評価した6種類のLLMすべてが少なくとも部分的に成功した。