AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · Anthropic · 2026-10-13

LLMs کے لیے سائبر ٹول کٹس

اصل عنوان: Cyber toolkits for LLMs

سائبر سیکیورٹی کے لیے فائن ٹیون نہ کیے گئے LLMs درجنوں ہوسٹس کے نیٹ ورکس پر کثیر مرحلہ حملے کر سکتے ہیں جب انہیں Incalmo نامی نیا ٹول کٹ دیا جائے، جو AI کے حملے کے منصوبوں کو ٹھوس کمپیوٹر کمانڈز میں تبدیل کرتا ہے۔ Incalmo کے ساتھ، ماڈلز نے 10 میں سے 5 ٹیسٹ نیٹ ورکس کو مکمل طور پر اور مزید 4 کو جزوی طور پر compromise کر لیا، جبکہ ٹول کٹ کے بغیر تقریباً مکمل ناکامی ہوئی۔ آزمائے گئے تمام چھ LLMs نے Equifax ڈیٹا بریچ کی اعلیٰ مطابقت والی سمولیشن پر کم از کم جزوی کامیابی حاصل کی۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →