AIの規制・安全・地政学 ・ 🚨 事故・悪用・インシデント

LLMの脱獄は不具合ではなくプロンプト層への攻撃

OrcaRouter · 10/21 11:13 UTC

脱獄は重みではなくプロンプトを書き換える攻撃である。実測された成功率や、モデルごとの単純な答えがない理由、成功率を左右する対策を解説している。

原文を読む(OrcaRouter)

和訳と要旨の一覧で見る → ・ この号を見る →