AI na Matatizo Magumu ya Ulimwengu · Sayansi ya kompyuta ya kinadharia · Anthropic · 2026-10-13
Cyber toolkits for LLMs
LLM ambazo hazijarekebishwa mahsusi kwa usalama wa mtandao zinaweza kutekeleza mashambulizi ya hatua nyingi kwenye mitandao yenye wenyeji kadhaa zikipewa zana mpya iitwayo Incalmo, inayotafsiri mipango ya mashambulizi ya AI kuwa amri halisi za kompyuta. Kwa kutumia Incalmo, modeli zilidukua kikamilifu mitandao 5 kati ya 10 ya majaribio na kudukua kwa sehemu mingine 4, ikilinganishwa na kushindwa karibu kabisa bila zana hiyo. LLM zote sita zilizojaribiwa zilipata angalau mafanikio ya sehemu kwenye simulizi ya uaminifu wa juu ya uvunjaji wa data wa Equifax.