AIの規制・安全・地政学 ・ 🧪 安全性の研究と評価
Help Net Security 🔗 共有用URL 11/20 06:30 UTC 🔗 共有用URL AI安全性試験で防御の穴、民間人を軍事目標と判定 — TechRepublic 🔗 共有用URL 11/20 11:51 UTC 🔗 共有用URL 米議員、AI安全の超党派議員連盟を発足 — The Record from Recorded Future News · 11/19 21:28 UTC

プロンプトインジェクション攻撃をより多く学習させたところ、AIエージェントは乗っ取られやすくなった。レッドチームの成果が大きくても、同じ攻撃の繰り返しが紛れている可能性がある。