AI レポート · GovAI (Oxford) · 2026-10-17 · 政策提言
AIの悪用から社会を守る：能力への制限が正当化されるのはいつか
原題: AI Regulation Protecting Society from AI Misuse: When are Restrictions on Capabilities Warranted? March 2023 Markus Anderljung, Julian Hazell Artificial intelligence (AI) systems will increasingly be
AIシステムは能力が向上するにつれ、有害な用途に悪用されることが増えると予想される。本稿は、他の介入では不十分で、悪用の危険性が高く、能力に対して的を絞った介入が可能な場合に限り、能力への制限が正当化されると論じる。その判断のため、悪用が被害に至る過程（Misuse Chain）に着目した分類と枠組みを示し、新規毒素の予測、有害画像の作成、スピアフィッシング攻撃の自動化の三例に適用する。