Отчёты по ИИ · GovAI (Oxford) · 2026-10-17 · Позиция по политике
AI Regulation Защита общества от злоупотребления ИИ: когда оправданы ограничения возможностей? Март 2023 Markus Anderljung, Julian Hazell Системы искусственного интеллекта (ИИ) будут всё чаще
Оригинальное название: AI Regulation Protecting Society from AI Misuse: When are Restrictions on Capabilities Warranted? March 2023 Markus Anderljung, Julian Hazell Artificial intelligence (AI) systems will increasingly be
По мере роста возможностей систем ИИ их всё чаще будут использовать для причинения вреда, например для автоматизации мошенничества или создания вредоносных поддельных изображений. В статье утверждается, что ограничения возможностей оправданы, когда других мер недостаточно, потенциальный вред высок, а целенаправленное вмешательство возможно. Предлагается таксономия и концептуальная схема, основанная на шагах, необходимых для того, чтобы злоупотребление привело к вреду, и она применяется к прогнозированию новых токсинов, созданию вредоносных изображений и автоматизации целевого фишинга.