AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-10-13
Perangkat siber untuk LLM
Judul asli: Cyber toolkits for LLMs
LLM yang tidak di-fine-tune untuk keamanan siber dapat melakukan serangan multitahap pada jaringan berisi puluhan host ketika diberi perangkat baru bernama Incalmo, yang menerjemahkan rencana serangan AI menjadi perintah komputer konkret. Dengan Incalmo, model tersebut sepenuhnya membobol 5 dari 10 jaringan uji dan membobol sebagian 4 jaringan lainnya, dibandingkan kegagalan nyaris total tanpa perangkat tersebut. Keenam LLM yang diuji mencapai setidaknya keberhasilan parsial pada simulasi berfidelitas tinggi dari pembobolan data Equifax.