KI-Berichte · GovAI (Oxford) · 2026-10-17 · Politische Position
KI-Labor-Richtlinien zur Risikobewertung im Vergleich zu Wettbewerbern: Eine Analyse der aktuellen Richtlinien von KI-Unternehmen Oktober 2025 Policy Brief Sophie Williams, Noemi Dreksler, Aidan Homewood, Markus Anderljung, Jonas Fre
Originaltitel: AI Lab Policy Assessing Risk Relative to Competitors: An Analysis of Current AI Company Policies October 2025 Policy Brief Sophie Williams, Noemi Dreksler, Aidan Homewood, Markus Anderljung, Jonas Fre
Einige KI-Unternehmen nehmen in ihre Sicherheitsrahmenwerke Bestimmungen auf, die es ihnen erlauben, ihre Schutzmaßnahmen zu senken, wenn ein Wettbewerber ein Modell mit ähnlichen Fähigkeiten, aber schwächeren Schutzmaßnahmen veröffentlicht. Die Autoren argumentieren, dass dieser Ansatz das Gesamtrisiko erhöhen könnte, da sich die Fähigkeiten und Schutzmaßnahmen von Wettbewerbern schwer bewerten lassen und die Unfallrisiken mit der Nutzerzahl wachsen. Sie warnen außerdem, dass Sicherheitsstandards plötzlich erodieren könnten, wenn ein Abweichler andere nach sich zieht, oder allmählich durch einen „Boiling-Frog“-Effekt.