KI-Highlights — das Gesamtbild — 2026-10-23 (Fr) Tagesnachrichten

Barclays plant, rund 5.000 Stellen abzubauen, vor allem in den Supportbereichen, und nennt KI als einen Grund. Etwa zur gleichen Zeit berichtete Axios, dass ein nicht untersuchter KI-Agent auf US-Bankkonten zugreife, und Googles KI für den Bildungsbereich geriet wegen Bedenken um die psychische Gesundheit von Kindern in den Fokus des Senats. KI dringt in das Leben von Menschen, Konten und Kindern ein, noch bevor überhaupt darüber debattiert wird, ob sie eingeführt werden soll oder nicht. Die Behauptungen derjenigen, die das Produkt einführen, es sei sicher und wirksam, können Leser nicht selbst überprüfen. Landesgesetze und der Wettbewerb zwischen Staaten sind nicht darauf ausgelegt, mit diesem Tempo Schritt zu halten. Was sich aus dieser Entwicklung eines halben Tages erkennen lässt, ist, dass wir unser Urteil weniger über das Für und Wider der Einführung des Systems ändern müssen, sondern vielmehr darüber, wer die vorherigen Prüfungen abschließen und wer die Ergebnisse nach der Einführung kontrollieren soll.

Personalabbau durch KI und das Umlernen der Menschen

Barclays plant, rund 5.000 Stellen abzubauen, vor allem in den Supportbereichen (Business + IT). Die New York Times berichtete dies als Entlassungen aufgrund KI-gestützter Kostensenkungen (The New York Times). Als Grund für den Abbau wird KI genannt, und die Zahl der Stellenstreichungen wird konkret beziffert. Was Leser hier sehen, ist, dass über die Ergebnisse der Einführung inzwischen darüber gesprochen wird, wie viele Personen abgebaut wurden. In diesem Fall reicht die Zahl der Stellenstreichungen allein für diejenigen, die die Einführung bewerten, nicht aus. Es muss auch gefragt werden, wohin die für die abgebauten Aufgaben zuständigen Personen gehen werden.

Auf der Seite des Umlernens sind die für die Maßnahmen Verantwortlichen unterschiedlich aufgestellt. Das indische IIT Madras hat ein Whitepaper zu KI-Jobs, globalen Standards und Umschulung veröffentlicht (The Economic Times). In den USA werden Sundance und die University of Colorado Boulder ein KI-Bildungszentrum für Filmschaffende einrichten (Longmont Times-Call). In Japan ließ die Houou High School Schülerinnen und Schüler in einer Sonderstunde, in der sie Videos mit einem „Danke“ an ihre Familien erstellten, etwas über KI lernen (Minami Nippon Shimbun). Alter und Berufe der Menschen, die an Universitäten, in Organisationen der Filmbranche und an Schulen lernen, sind verschieden. Andererseits geht aus diesem Artikel nicht hervor, ob Menschen, die wie bei Barclays von Kürzungen betroffen sind, eine solche Weiterbildung erhalten können. Dass Umschulungen angeboten werden, ist das eine; dass sie für diejenigen verfügbar sind, die sie brauchen, ist etwas anderes.

Die Belastung geht über die Beschäftigung hinaus. Der frühere Präsident der Federal Reserve Bank of New York, Dudley, ist der Ansicht, dass KI-Investitionen die Federal Reserve in eine Lage bringen werden, in der die Zinsen stark steigen und fallen können (BigGo Finance). Aus dieser Sicht reichen die enormen Investitionen in KI nicht nur in die Unternehmen hinein, die Personal abbauen, sondern über die Zinsen auch zu denjenigen, die Geld leihen und sparen. Die Kosten, sowohl bei der Beschäftigung als auch bei der Finanzierung, fließen aus dem umsetzenden Unternehmen ab.

Unternehmen werden die Vorteile der Einführung in Zahlen darstellen. Wer jedoch die Kosten in welcher Höhe trägt, lässt sich anhand der Selbstauskünfte der Unternehmen nicht feststellen. Die nächste Frage ist, wer für die Messungen und Prüfungen verantwortlich sein wird.

KI-Agent dringt in Bereiche vor, die außerhalb der Prüfung liegen, und A für Kinder

Ein ungeprüfter KI-Agent griff auf US-Bankkonten zu, wie Axios in einem Exklusivbericht meldete. Die Schlagzeile vermittelt, dass ein Agent, der keinerlei vorherige Prüfung durchlaufen hat, bei Ihrem Konto angekommen ist, dem Zugang zu Ihrem Geld. Etwa zur gleichen Zeit berichtete die New York Post, dass Googles KI für Bildung vom Senat untersucht werde, da Bedenken hinsichtlich der psychischen Gesundheit von Kindern bestünden. Bei Konten und Kindern ist es für Nutzer schwierig, Risiken selbst zu erkennen. Selbst wenn diejenigen, die KI einführen, sagen, sie sei „sicher“, können Leser die Belege nicht selbst überprüfen. Diese beiden Fälle zeigen: Bevor wir darüber diskutieren, ob das System eingeführt wird oder nicht, sollten wir fragen, wer die Prüfung vor der Einführung abgeschlossen hat.

Dieselbe Frage wird auch auf bundesstaatlicher und nationaler Ebene gestellt. Laut StateScoop hat OpenAI den Gouverneur gebeten, die KI-Sicherheitsgesetze Kaliforniens zu verschärfen. Das bedeutet, dass Unternehmen, die der Regulierung unterliegen, strengere Regeln gefordert haben. Allein anhand der Schlagzeile lässt sich jedoch nicht feststellen, was die Forderung bedeutet. Solange die Einzelheiten nicht bestätigt sind, kann sie als Ausdruck der Haltung des Unternehmens oder seiner Beteiligung an der Regelsetzung gelesen werden. Die New York Times argumentierte, dass KI auch ein Risiko für die Zwischenwahlen darstellt. Geopolitical Monitor weist darauf hin, dass China die Toleranz Amerikas gegenüber KI-Risiken bestimmt. Das Argument lautet, dass sowohl bei Wahlen als auch im Wettbewerb zwischen den Vereinigten Staaten und China das Ausmaß des hinzunehmenden Risikos ohne das Wissen der Nutzer festgelegt werden kann.

Die Urteile, die Leserinnen und Leser von hier aus fällen sollten, sind die folgenden. Die Fälle sind vielfältig: Axios behandelt Banken, die New York Post Schulen, StateScoop Landesgesetze, The New York Times Wahlen und Geopolitical Monitor den Wettbewerb zwischen Ländern. Gemeinsam ist ihnen jedoch, dass die Personen, die über die Risikotoleranz entscheiden, nicht dieselben sind wie diejenigen, die die Risiken tragen. Die Selbstauskunft von Unternehmen kann Entscheidungen begünstigen, Landesgesetze gelten nur für einen einzelnen Bundesstaat, und der Wettbewerb zwischen Staaten kann zu höheren Toleranzen führen. Bei der Bewertung eines KI-Dienstes muss man daher prüfen, was und wann eine unabhängige dritte Stelle geprüft hat, statt auf Funktionen oder Preis zu schauen. Ist der Gegenstand der Prüfung nicht erkennbar, bedeutet seine Einführung, dass die Nutzerinnen und Nutzer das Toleranzniveau stillschweigend hinnehmen.

Wenn niemand dazu bestimmt wird, Prüfungen durchzuführen, wird die Verantwortung erst nach Eintritt eines Schadens gefragt. Als Nächstes ist zu betrachten, wer die Kosten und die Verantwortung für die Prüfung trägt.

KI in der Praxis breitet sich auf Diagnose und Überwachung aus

KI beginnt, bestimmte Aufgaben in der Diagnose und Überwachung zu übernehmen. Google Research stellte eine Initiative vor, die die mütterliche Versorgung an vorderster Front mit KI-gestützten Ultraschalluntersuchungen stärken soll (Google Research). In der Telemedizin setzt PomDoctor auf KI und Wearables (FinancialContent). Außerhalb des Gesundheitswesens haben Citri&Co und ORTH eine Partnerschaft für KI-Agronomiedienste für Obstbetriebe geschlossen (GlobeNewswire). Allen dreien ist gemeinsam, dass sie dazu dienen, Entscheidungsgrundlagen nah am Einsatzort bereitzustellen. Worauf Leserinnen und Leser achten sollten, ist weniger, was die KI anzeigt, sondern wer die Ergebnisse vor Ort überprüfen kann.

Auf der Forschungsseite gehen die Ergebnisse in dieselbe Richtung. CircumSpectrum, ein Rechenframework, das Genexpressionsprofile in flussbasierte metabolische Fingerabdrücke umwandelt, wurde in Communications Medicine veröffentlicht. PeerJ enthält eine Arbeit zu einer prognostischen Signatur des Lungenadenokarzinoms auf Basis von Genen, die mit dem seneszenzassoziierten sekretorischen Phänotyp (SASP) zusammenhängen, mittels maschinellem Lernen sowie zu ihrem Zusammenhang mit dem Tumorimmunmikromilieu (PeerJ). Radiology Artificial Intelligence veröffentlichte eine Studie zur automatischen Klassifizierung von BT-RADS mithilfe eines Multiagentensystems, das ein großes Sprachmodell und ein Convolutional Neural Network nutzt. Im Angebot von Nature Communications findet sich HRDPath, eine patientenbasierte, erklärbare Deep-Learning-Architektur, die Defekte der homologen Rekombination anhand von Whole-Slide-Bildern vorhersagt. KI kann ein breites Spektrum an Entscheidungen treffen, von der Schätzung der Prognose über die Klassifizierung von Bildern bis zur Schätzung von Defekten im Zusammenhang mit Behandlungsstrategien.

Aber selbst im Rahmen der Titel der Fachartikel gibt es Studien, die unterschiedlich gewichtet sind. Die Blasenkrebsforschung in Advanced Science führte für ein Multitask-Deep-Learning-Modell, das Lymphknotenmetastasen und krankheitsfreies Überleben anhand von Zytologiebildern vorhersagt, eine multizentrische Studie und eine Zytologie-Validierung bei mehreren Krebsarten durch (Advanced Science). Wie weit sich das Fachgebiet auf Ergebnisse verlassen kann, unterscheidet sich zwischen Ergebnissen aus einem Krankenhaus und einer Krebsart und Ergebnissen, die über Einrichtungen und Erkrankungen hinweg bestätigt wurden. Das „erklärbare“ Design von HRDPath lässt sich auch als Versuch lesen, Ärzten, die die Ergebnisse nutzen, dabei zu helfen, die Belege nachzuvollziehen.

Was über die Vor- und Nachteile der Einführung von KI entscheidet, ist nicht, ob KI eingesetzt wird oder nicht, sondern in welchem Maße die Ergebnisse von externen Augen überprüft werden. Zwischen der im vorherigen Abschnitt betrachteten Einführung, die sich auf Selbstauskünfte stützt, und der medizinischen Forschung, die wiederholte Überprüfung erfordert, besteht ein Unterschied im Prüfniveau. Im nächsten Abschnitt betrachten wir, wer dafür verantwortlich sein wird, diese Lücke zu schließen.

Wo die Grenze bei Emotionen, Kreativität und Bewusstsein verläuft

Die Forschung zu KI, die Emotionen aus Sprache liest, befindet sich derzeit in der Phase, in der sie von der Wissenschaft begutachtet wird. Berichten zufolge hat das südkoreanische Unternehmen Pyler zwei Beiträge zu KI für die Emotionserkennung in der Stimme bei NeurIPS angenommen bekommen (Seoul Economic Daily). Die maschinelle Schätzung von Emotionen ist bereits ein wichtiges Forschungsthema. Auf der kreativen Seite stellt sich unterdessen die Frage, ob durchdachte KI-Kunst mit KI-Schrott („AI Slop“) konkurrieren kann. Die Widersprüche, mit denen Kreative konfrontiert sind, werden diskutiert (The Conversation). Außerdem wird unter dem Namen des Regionalen Entwicklungsbüros Hokuriku eine Seite mit dem Titel ``AI Girlfriend Recommendations 2026 for Beginners'' verbreitet. Ich konnte den Text zwar nicht überprüfen, doch schon der Titel allein zeigt, dass Produkte, die menschenähnliche Reaktionen verkaufen, in allgemeinen Suchergebnissen auftauchen. Was die Leserinnen und Leser daraus mitnehmen sollten: Die Technologie zum Lesen von Emotionen und die Produkte, die scheinbar auf Emotionen reagieren, funktionieren nach unterschiedlichen Mechanismen und tragen unterschiedliche Verantwortung.

Auch die Aussagen zum Bewusstsein gehen auseinander. Beim NDTV World Summit soll Swami Sarvapuryananda gesagt haben, dass KI intelligent sein kann, ohne bewusst zu sein. Der Gedanke dahinter: Hochintelligent zu sein und bewusst zu sein sind zwei verschiedene Dinge. Dazu berichtete IEEE Spectrum, dass die Forschenden uneins darüber sind, ob man sich um das Wohlergehen von KI-Modellen kümmern sollte (IEEE Spectrum). Ob man von der Trennung zwischen Intelligenz und Bewusstsein oder von der Sorge um das Wohlergehen ausgeht: Es gibt keine etablierten Maßstäbe dafür, wie viel Rücksicht auf KI genommen werden sollte. Leserinnen und Leser müssen die Tatsache, dass sich KI wie ein Mensch verhält, und die Frage, ob KI wie ein Mensch behandelt werden sollte, nicht im selben Schritt entscheiden.

Es gibt auch Studien, die Verzerrungen in der Berichterstattung messen. Eine Studie der spanischen UC3M (Universität Carlos III de Madrid) zeigte, dass es in der Medienberichterstattung über KI in Spanien ein Geschlechtergefälle gibt (Newswise). Wenn es eine Verzerrung darin gibt, wer über KI spricht und über wen gesprochen wird, besteht das Risiko, dass die Debatte darüber, ob KI als etwas dem Menschen Nahestehendes behandelt werden sollte oder nicht, von einseitigen Stimmen geprägt wird. Arbeiten zur Emotionsschätzung, KI-Kunst, Debatten über Bewusstsein, Debatten über Wohlergehen und einseitige Berichterstattung stellen alle die Frage, wo die Grenze zwischen Mensch und KI zu ziehen ist. Die Frage, wer diese Grenze bestätigen sollte und auf welcher Grundlage, wird im nächsten Abschnitt vertieft.

Produkte, die auf Stellenabbau reagieren, Kontozugriff, Lern-KI für Kinder, Diagnose- und Überwachungsangebote sowie Forschung zum Erkennen von Emotionen. Obwohl die behandelten Bereiche verschieden sind, haben alle Abschnitte gemeinsam, dass dasjenige Subjekt, das über die Funktionsweise der KI spricht, und dasjenige, das sie überprüft, identisch sind. Unternehmen äußerten sich zu ihren Ergebnissen und zur Sicherheit, und in einigen Fällen forderte OpenAI, das selbst reguliert wird, strengere Landesgesetze. Die Umlern-Maßnahmen schreiten in den einzelnen Regionen getrennt voran, und niemand wurde dazu bestimmt, die Ergebnisse vor Ort zu überprüfen. Bevor man über die Einführung eines Systems entscheidet, lautet die wichtige Frage weniger, wie hoch Leistung oder Kosten sind, sondern vielmehr, wer die unabhängige Prüfung durchführt und in welcher Phase. Nur eine Einführung, bei der klar ist, wer für die Prüfung zuständig ist, schafft für die Nutzer eine Entscheidungsgrundlage.

Q1: Haben Sie die Person und das Verfahren festgelegt, um die Ergebnisse der eingeführten KI vor Ort zu prüfen? Q2: Werden Untersuchungen vor der Einführung und Prüfungen nach der Einführung unabhängig vom KI-Anbieter durchgeführt? Q3: Können Sie die Ergebnisse und die durch KI erzielten Einsparungen beim Personal so darlegen, dass sie von Dritten überprüft werden können?

Zum Schluss drei Fragen

- Wurden die Person und das Verfahren festgelegt, um die Ausgabe der vor Ort eingeführten KI zu prüfen? Q2: Werden Erhebungen vor der Einführung und Kontrollen nach der Einführung unabhängig vom KI-Anbieter durchgeführt? Q3: Können Sie die Ergebnisse und Reduktionszahlen durch KI so darlegen, dass sie von Dritten überprüft werden können? - Werden Erhebungen vor der Einführung und Kontrollen nach der Einführung unabhängig vom KI-Anbieter durchgeführt? Q3: Können Sie die Ergebnisse und Reduktionszahlen durch KI so darlegen, dass sie von Dritten überprüft werden können? - Werden die mit KI erzielten Ergebnisse und Reduktionszahlen in einer Form dargestellt, die von Dritten überprüft werden kann?