KI-Berichte · GovAI (Oxford) · 2026-10-17 · Forschungsarbeit
KI-Labor-Richtlinien Model Evaluation for Extreme Risks Mai 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Aktuelle Ansätze zur Entwicklung von Allzweck-
Originaltitel: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
Das Papier erklärt, warum die Bewertung von Modellen entscheidend ist, um extremen Risiken durch universell einsetzbare KI zu begegnen, die sowohl nützliche als auch schädliche Fähigkeiten haben kann. Entwickler müssen gefährliche Fähigkeiten durch „Bewertungen gefährlicher Fähigkeiten“ und die Neigung von Modellen, diese Fähigkeiten zu schädlichen Zwecken einzusetzen, durch „Alignment-Bewertungen“ identifizieren. Diese Bewertungen werden entscheidend sein, um politische Entscheidungsträger zu informieren und Entscheidungen über Training, Einsatz und Sicherheit von Modellen zu treffen.