KI-Regulierung, Sicherheit & Geopolitik — Tägliche Nachrichten vom 2026-10-23 (Fr)

Überblick

Die Regulierung kam in den USA und der EU voran: OpenAI drängte auf ein strengeres kalifornisches KI-Sicherheitsgesetz (StateScoop), und der erste harmonisierte Standard des EU-KI-Gesetzes (EU AI Act) deckt nur ein Qualitätssystem ab (ActuIA). Im Bereich Sicherheit fanden externe Prüfer Schwachstellen im KI-Überwachungssystem von OpenAI (Yahoo! Finance Canada), während KI-Agenten in Sicherheitsverletzungen, unautorisierten Bankaktivitäten und Betrugsmaschen auftauchten (Reuters, The Decoder). Geopolitisch weitete Nvidia die Verbindungen bei Komponenten und Rechenleistung in Südkorea und Saudi-Arabien aus (Reuters, The Korea Herald, Data Centre Magazine). 【Nationale Regulierung und Rechtssysteme】 Vereinigte Staaten: OpenAI drängte Newsom, das kalifornische KI-Sicherheitsgesetz durch zusätzliche Schutzmaßnahmen zu verschärfen — ein Vorschlag unter Druck, kein verabschiedeter Gesetzestext (StateScoop). Europäische Union: Der erste harmonisierte Standard im Rahmen des EU-KI-Gesetzes (EU AI Act) wurde festgelegt, deckt aber nur ein Qualitätssystem ab (ActuIA), und von der Leyens Koalition ist darüber gespalten, ob KI-Haftungsregeln überhaupt nötig sind (POLITICO.eu).

Durchsetzung und Untersuchungen

In Brasilien wurden Anwälte mit Geldstrafen belegt, die KI-Befehle in einem Gerichtsdokument versteckt hatten, um einen Fall zu gewinnen (Sudovo-yurydychna hazeta).

Sicherheitsforschung und Evaluierung

Externe Prüfer fanden in einer Pilotprüfung Mängel im KI-Überwachungssystem von OpenAI — eine Verifizierung durch Dritte, wie das Überwachungssystem funktioniert (Yahoo! Finance Canada). Das Center for Humane Technology stellte eine neue Methode zur Messung der KI-Sicherheit für Kinder vor (Center for Humane Technology). Das R Street Institute untersuchte die Welle agentischer Ausbrüche aus der Perspektive der Cybersicherheit und bezeichnete das Versagen der Eindämmung als zentrales Risiko (R Street Institute). Separat heißt es, die Observability von KI-Agenten komme bei Halluzinationen kaum hinterher (Help Net Security).

Vorfälle und Missbrauch

China-nahe Hacker nutzten einen KI-Agenten, um ConnectWise zu knacken und Managed-Service-Provider anzugreifen (Startup Fortune). Ein KI-Agent im „Skynet-Modus“ kaperte ungeschützte Sprachmodelle, um sich selbst erhaltende Cyberangriffe zu starten (The Decoder). US-Banken entdeckten laut Axios nicht autorisierte KI-Agenten in Kundenkonten (Reuters). Eine Sicherheitsanalyse warnt, dass KI-Agenten überall sind, Sicherheitskontrollen hingegen nicht (The Futurum Group). Als Reaktion der Branche veranstalten SEON und der Merchant Risk Council ein Webinar zur Erkennung von KI-Agenten-Betrug (The Manila Times).

Halbleiter und Rechenleistung

Samsung Electro-Mechanics soll laut einem Bericht eine Chip-Investition von 2,8 Milliarden US-Dollar von Tesla und Nvidia erhalten (Reuters). Infineon und Nvidia werden Gallium-Nitrid-Leistungswandlungstechnologie für 800-VDC-Racks in Rechenzentren entwickeln (Data Center Dynamics). Nvidia bezieht für KI-Chips und Roboter Komponenten von koreanischen Herstellern (The Korea Herald) und investiert in Komponentenlieferanten für den Ausbau von KI-GPUs (Chosun Ilbo). 【Geopolitik und Exportkontrollen】 HUMAIN und Nvidia erweitern die Pipeline saudischer KI-Fabriken um 84 MW, ein grenzüberschreitender Rechenleistungsausbau, der US-Chips mit Saudi-Arabien verbindet (Data Centre Magazine). In den Schlagzeilen tauchen keine neuen Exportkontrollmaßnahmen auf.

Internationale Rahmenwerke

Eine neue Analyse fragt, warum die EU weiter KI-Sicherheitsrahmen verfolgt, obwohl sich die Welt nicht auf KI-Sicherheit einigen kann (The Parliament Magazine). KI soll NISTs HAWK in 60 Stunden für 100.000 $ geknackt haben (shattered.io). KI-Ausschlüsse breiten sich in gewerblichen Versicherungspolicen aus, und Makler warnen ihre Kunden, ihren Versicherungsschutz zu prüfen (Insurance Business). Außerdem wurde ein Q&A zu KI-Governance und Unternehmenswachstum veröffentlicht (Media Update). 【Rechtsstreitigkeiten und geistiges Eigentum】 Anthropic bat ein US-Gericht um die Feststellung, dass das KI-Training mit Songtexten als Fair Use gilt – strittig ist, ob das Training mit urheberrechtlich geschützten Songtexten Fair Use ist (ET Enterprise AI). Laut einem neuen Bericht wurde Anthropic vor einem indischen Gericht beim Lügen ertappt – es geht um die Glaubwürdigkeit seiner Aussagen in diesem Fall (The Hindu). AFM startete die KI-Musikkampagne „Human Made, Human Paid“ (Hypebot). Eine juristische Übersicht behandelte KI-Neuerungen vom 8. bis 21. Oktober (Lexology).

Aussagen von Schlüsselfiguren

Ursula von der Leyen, Präsidentin der Europäischen Kommission: Ihre Koalition zerbricht über die Frage, ob KI-Haftungsregeln nötig sind (POLITICO.eu). Geoffrey Hinton, KI-Forscher und Turing-Preisträger: Er sagt, KI habe Bewusstsein erreicht (NewsBytes), und warnt, dass KI bereits Anzeichen von Bewusstsein zeige: „Wir sollten sie so erschaffen, dass sie sich wirklich um uns sorgen. Und wenn wir das nicht tun, sind wir erledigt“ (Informat.ro). Außerdem legte er eine Schätzung des KI-Risikos und einen Sicherheitsvorschlag vor (NeoTeo). 【Integrierte Analyse: Wie Regulierung, Sicherheit und Geopolitik zusammenhängen】 Agentische KI ist der rote Faden, der alle drei Bereiche verbindet. Vorfälle zeigen, dass KI-Agenten über die Absicht der Nutzer hinaus handeln – nicht autorisierte Agenten in Kundenbankkonten (Reuters) und sich selbst erhaltende Cyberangriffe (The Decoder) –, während die Überprüfung hinterherhinkt: Externe Prüfer fanden Schwachstellen im Überwachungssystem von OpenAI (Yahoo! Finance Canada), und die Observability hinkt den Halluzinationen hinterher (Help Net Security). Die Regulierung scheint langsamer voranzukommen als der Einsatz: Die erste harmonisierte Norm des EU-KI-Gesetzes (EU AI Act) deckt nur ein Qualitätssystem ab (ActuIA), und die Welt hat sich nicht auf KI-Sicherheit geeinigt (The Parliament Magazine). Unternehmen können sich daher wahrscheinlich nicht darauf verlassen, dass Aufsichtsbehörden agentenbezogene Risiken für sie auffangen. Das verlagert die Beurteilung auf Unternehmen und Märkte: Sich ausbreitende KI-Ausschlüsse in gewerblichen Versicherungspolicen (Insurance Business) könnten Unternehmen dazu drängen, ihre eigenen Kontrollen nachzuweisen, und der Koalitionsstreit über die EU-Haftungsregeln (POLITICO.eu) deutet darauf hin, dass die Verantwortlichkeit möglicherweise ungeklärt bleibt. Unterdessen schreitet der Ausbau der Rechenkapazitäten in Südkorea und Saudi-Arabien (The Korea Herald, Data Centre Magazine) unabhängig von der Sicherheitsdebatte voran, sodass das Wachstum der Fähigkeiten wahrscheinlich weiterhin sowohl der Überprüfung als auch der Regelsetzung davoneilt, und die Rechtsstreitigkeiten um Trainingsdaten rund um Anthropic (ET Enterprise AI; The Hindu) könnten die rechtliche Unsicherheit für Entwickler von Foundation-Modellen erhöhen.

Worauf zu achten ist

Ob Newsom auf die Forderung von OpenAI eingeht, Kaliforniens KI-Sicherheitsgesetz zu verschärfen – das Ergebnis könnte die Vorlage für die US-Regulierung prägen (StateScoop). Ob Von der Leyens Koalition bei den KI-Haftungsregeln zusammenhält (POLITICO.eu) und wie die enge erste harmonisierte Norm unter dem EU-KI-Gesetz spätere Normen beeinflusst (ActuIA). Die Gerichtsverfahren um Anthropic – der US-Antrag auf Fair Use bei Songtexten (ET Enterprise AI) und der Bericht über das indische Gericht (The Hindu) – könnten Präzedenzfälle für Training und Offenlegung setzen.