ИИ и сложнейшие проблемы мира · Теоретическая информатика · Anthropic · 2026-10-13
Кибернабор инструментов для LLM
Оригинальное название: Cyber toolkits for LLMs
LLM, не дообученные для кибербезопасности, способны проводить многоэтапные атаки на сети из десятков хостов, если дать им новый инструментарий Incalmo, который переводит планы атак ИИ в конкретные компьютерные команды. С Incalmo модели полностью скомпрометировали 5 из 10 тестовых сетей и частично ещё 4, тогда как без инструментария почти всегда терпели неудачу. Все шесть протестированных LLM добились как минимум частичного успеха в высокоточной симуляции утечки данных Equifax.