AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · Anthropic · 2026-10-13

LLM के लिए साइबर टूलकिट

मूल शीर्षक: Cyber toolkits for LLMs

साइबर सुरक्षा के लिए फ़ाइन-ट्यून न किए गए LLM भी दर्जनों होस्ट वाले नेटवर्कों पर बहु-चरणीय हमले कर सकते हैं, यदि उन्हें Incalmo नामक एक नया टूलकिट दिया जाए, जो AI की हमला योजनाओं को ठोस कंप्यूटर कमांड में बदल देता है। Incalmo के साथ, मॉडलों ने 10 में से 5 परीक्षण नेटवर्कों को पूरी तरह और 4 और को आंशिक रूप से compromise कर लिया, जबकि टूलकिट के बिना लगभग पूर्ण विफलता रही। परीक्षण किए गए सभी छह LLM ने Equifax डेटा उल्लंघन के उच्च-निष्ठा सिमुलेशन पर कम से कम आंशिक सफलता प्राप्त की।

मूल लेख पढ़ें ↗

सभी आइटम →