KI-Berichte · GovAI (Oxford) · 2026-10-17 · Forschungsarbeit
Technische KI-Governance Infrastruktur für KI-Agenten Januar 2025 Forschungspapier Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Originaltitel: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Da KI-Agenten zunehmend Aufgaben in offenen Umgebungen planen und ausführen, argumentieren die Autoren, dass die bestehenden Werkzeuge nicht ausreichen, um ihre Risiken zu steuern. Sie schlagen eine „Agenten-Infrastruktur“ vor, also technische Systeme und gemeinsame Protokolle außerhalb der Agenten, die deren Interaktionen und Auswirkungen vermitteln. Die Autoren benennen drei Funktionen: Handlungen bestimmten Agenten oder Nutzenden zuzuordnen, die Interaktionen der Agenten zu gestalten und schädliche Handlungen zu erkennen und zu beheben.