KI-Berichte · GovAI (Oxford) · 2026-10-17 · Forschungsarbeit
KI-Labor-Politik Koordinierte Pausen: Ein evaluierungsbasiertes Koordinationsschema für Entwickler von Frontier-KI September 2023 Forschungspapier Jide Alaga, Jonas Schuett Dieses Papier schlägt ein evaluierungsbasiertes Ko
Originaltitel: AI Lab Policy Coordinated Pausing: An Evaluation-Based Coordination Scheme for Frontier AI Developers September 2023 Research Paper Jide Alaga, Jonas Schuett This paper proposes an evaluation-based co
Das Papier schlägt ein evaluierungsbasiertes Koordinierungsschema für Fälle vor, in denen Entwickler von Frontier-KI feststellen, dass ihre Modelle gefährliche Fähigkeiten haben. Nach diesem Schema pausieren Entwickler die damit verbundene Arbeit, wenn ein Modell Evaluierungen nicht besteht, benachrichtigen andere Entwickler, die dasselbe tun, und setzen sie erst fort, wenn eine Sicherheitsanalyse durchgeführt und Schwellenwerte erreicht sind. Die Autoren erörtern vier Varianten, von freiwilligem Pausieren unter öffentlichem Druck bis zu gesetzlich vorgeschriebenen Evaluierungen, und kommen zu dem Schluss, dass koordiniertes Pausieren ein vielversprechender Mechanismus für aufkommende Risiken von Frontier-KI ist, auch wenn praktische und rechtliche Herausforderungen bestehen bleiben.