KI-Berichte · GovAI (Oxford) · 2026-10-17 · Forschungsarbeit
Technische KI-Governance Sichtbarkeit von KI-Agenten Juni 2024 Forschungspapier Alan Chan, Carson Ezell, Max Kaufmann, Kevin Wei, Lewis Hammond, Herbie Bradley, Emma Bluemke, Nitarshan Rajkumar, David Krue
Originaltitel: Technical AI Governance Visibility into AI Agents June 2024 Research Paper Alan Chan, Carson Ezell, Max Kaufmann, Kevin Wei, Lewis Hammond, Herbie Bradley, Emma Bluemke, Nitarshan Rajkumar, David Krue
Da kommerzielle, wissenschaftliche, staatliche und persönliche Aufgaben zunehmend an KI-Agenten delegiert werden, können bestehende gesellschaftliche Risiken wachsen und neue entstehen. Das Papier bewertet drei Kategorien von Maßnahmen, um die Sichtbarkeit von Agenten zu erhöhen: Agentenkennungen, Echtzeitüberwachung und Aktivitätsprotokollierung. Es analysiert zudem, wie sich diese vom zentralisierten bis zum dezentralisierten Einsatz anwenden lassen, und erörtert Auswirkungen auf Datenschutz und Machtkonzentration.