KI-Sicherheit: Vier Parteien fordern gleichzeitig Antworten── Wo sich Regeln und Gerichtsfälle überschneiden und welche Aufzeichnungen die Pharmabranche führen sollte
Video herunterladen (MP4, 14 MB)
Sollen wir die KI-Sicherheit den Unternehmen überlassen, die sie entwickeln? Am Ende werden Sie sehen, warum Sicherheit zu einer Pflicht wird, die Außenstehende anhand von Aufzeichnungen prüfen. Vier sehr unterschiedliche Akteure haben sich bewegt: eine nationale Behörde zum Verbraucherschutz, Regionalregierungen, ein Beamter, der die Finanzen einer Stadt überwacht, und eine Behörde im Ausland. Die Pharmabranche trifft seit Langem unter strengen Regeln Entscheidungen über Leben und Tod. Wenn wir KI in diese Arbeit einbringen, müssen wir wissen, auf wen wir uns verlassen können. Wir betrachten Geld, Maschinen, die bei den ihnen übertragenen Aufgaben versagen, Geschäfte zur Entwicklung von Medikamenten und die Grundlagen hinter der Auswertung von Bildern. Was kommt davon bei uns als Nutzern an?
01Regulierung und Klagen laufen zusammen
Quelle Axios ／ Santa Cruz Sentinel ／ Crain's New York ／ Technology Org
Wir beginnen außerhalb der Entwickler. Bisher erklärten die Entwickler Sicherheit in ihren eigenen Worten. Hier fragen wir, wer außerhalb des Unternehmens begann, diese Erklärung einzufordern, und wie weit.
| Schauspieler | Ziel | Was berichtet wurde |
|---|---|---|
| FTC | OpenAI, Anthropic | Dokumente zu jüngsten Sicherheitsvorfällen angefordert |
| 8 Zustände | OpenAI | Verklagt wegen mutmaßlicher Schädigung von Kindern und Täuschung von Erwachsenen |
| NYC Comptroller | Anthropic | Forderte eine Verschiebung des Börsengangs mit Verweis auf „unzählige Sicherheitsbedenken“ |
| EU | OpenAI, Anthropic | Gemeldeter erster Vollstreckungsfall nach dem AI Act |
Axios, Santa Cruz Sentinel, Crain's New York, Technology Org (10/15)
Diese Akteure könnten kaum unterschiedlicher sein. Eine Verbraucherschutzbehörde, Regionalregierungen, ein städtischer Beamter, der öffentliche Gelder hütet, und eine ausländische Stelle. Jeder handelte aus eigenem Grund, und ihr Timing überschnitt sich. Eines allein könnte als Fehltritt eines einzelnen Unternehmens abgetan werden. Zusammen deuten sie auf eine Verschiebung hin. Sicherheit wandelt sich von einem Ziel, das sich ein Unternehmen selbst setzt, zu einer von außen durchgesetzten Pflicht.
Die gewichtigste Bewegung ist, dass die Aufsichtsbehörde Unterlagen verlangt. Unterlagen vorzulegen bedeutet, schriftlich zu zeigen, was geschehen ist und wie damit umgegangen wurde. Ein mündliches Versprechen reicht nicht mehr aus. Sicherheitsarbeit wird nun daran gemessen, ob es eine nachvollziehbare Spur gibt.
Für Pharma-Teams ist das keine ferne Geschichte. Ich erwarte, dass die Arbeit, die wir Maschinen übergeben, eines Tages derselben Frage ausgesetzt sein wird. Welches Werkzeug hat was getan, was ist schiefgelaufen, und wie wurde es behoben? Führen Sie diese Spur jetzt, dann können Sie antworten, wenn Sie gefragt werden.
Externe Kontrolle verändert auch, wie Investoren diese Unternehmen sehen. Als Nächstes: was uns die vor einer Börsennotierung gezeigten Kennzahlen verraten.
02Umsatz vor dem Börsengang
Quelle Financial Times ／ Yahoo Finance ／ Investor's Business Daily ／ Bloomberg.com
Ausgerechnet das Unternehmen, das im Fokus der Kritik steht, zeigte Investoren starke Zahlen. Wie wog der Markt Ertragskraft gegen Zweifel an der Sicherheit ab? Das ist hier unsere Frage.
| Element | Was berichtet wurde | Quelle |
|---|---|---|
| Quartalsumsatz | 16,8 Mrd. $; Investoren wurde mitgeteilt, dass er um fast 50 % gestiegen sei | Financial Times |
| Cashflow | Erster positiver Cashflow unter den Entwicklern von KI-Modellen | Yahoo Finance |
| KI-Aktien | Auch nach den Umsatzberichten gefallen | Investor's Business Daily |
| Einschätzung der Analysten | Rückenwind für den Börsengang, aber kein Auftrieb für KI-Aktien | |
Der Umsatz bezieht sich auf Juli–September (Schlagzeile von Yahoo Finance)
Der Umsatz stieg stark, und angeblich flossen mehr Barmittel zu als ab. In einer Branche, die enorme Summen in die Entwicklung steckt, ist das eine bemerkenswerte Nachricht. Dennoch stiegen die Aktien verwandter Unternehmen nicht. Der Markt wertete die Stärke eines einzelnen Unternehmens nicht als gute Nachricht für die ganze Branche. Die Zahlen und die Reaktion des Marktes weisen in unterschiedliche Richtungen.
Warum diese Diskrepanz? Der Nachweis der Ertragskraft hat die Zweifel an der Sicherheit nicht ausgeräumt. Einige drängen sogar kurz vor dem Börsengang auf eine Verschiebung. Ich denke daher, dass Anleger das Risiko hinter den starken Ergebnissen einpreisen.
Aus Sicht der Pharmabranche liefert dies einen Anhaltspunkt für die Auswahl von Werkzeugen. Bei der Wahl der Maschine eines Anbieters genügt es nicht, Leistung und Preis zu vergleichen. Wie stark der Anbieter Aufsichtsbehörden und Gerichten ausgesetzt ist, entscheidet darüber, ob man dasselbe Werkzeug morgen zu denselben Bedingungen nutzen kann. Bei einem Werkzeug eines Unternehmens, das verklagt wird, können sich die Nutzungsbedingungen über Nacht ändern.
Wenn wir dieses Werkzeug dann für uns handeln lassen, wer haftet für seine Fehler? Als Nächstes: eine Maschine, der man Zahlungen anvertraut.
03Wer haftet, wenn KI für Sie einkauft
Quelle ServiceNow ／ The Verge ／ Cyber-Nachrichten
Maschinen drücken heute die Knöpfe, die früher Menschen einzeln gedrückt haben. Wer trägt den Verlust, wenn dabei ein Fehler passiert? Der Komfort kam zuerst, und die Antwort ist noch offen.
Der Weg selbst ist einfach. Ein Mensch übergibt die Aufgabe, und die Maschine geht bis zur Bezahlung. Weiter hinten können Fehler oder Datenlecks auftreten. Zu diesem letzten Schritt sagte der Chef eines Entwicklers unumwunden, dass die Firma die Verluste übernehmen würde. Die Verantwortung beginnt, sich von den Nutzern hin zu den Entwicklern zu verlagern.
Doch ein Fall mit dieser Maschine und einer gefälschten E-Mail soll die Gefahr des Delegierens gezeigt haben. Ein Versprechen, Verluste zu erstatten, zählt, beweist aber nicht, dass keine Unfälle passieren. Unterdessen hat ein anderes Unternehmen Werkzeuge ausgeweitet, die einschränken, wie Maschinen innerhalb von Unternehmen handeln. Schutz durch Versprechen oder Schutz durch Design.
In der Pharmabranche werden Maschinen eines Tages Bestellungen aufgeben. Prüfen Sie im Vertrag zwei Dinge, bevor es um Entschädigungsversprechen geht. Können Sie die Maschine stoppen, und gibt es ein Protokoll dessen, was sie getan hat? Geld kann einen Verlust ausgleichen. Es kann die Folgen für Patienten oder Partner nicht rückgängig machen.
Worte des Versprechens und Geld, das tatsächlich fließt, sind zweierlei. Als Nächstes: wie man die einem Geschäft beigefügten Summen liest, um Arzneimittel zu finden.
04Drei Beträge in einem KI-Wirkstoffforschungsdeal
Quelle AstraZeneca ／ Reuters ／ BioSpace ／ Yahoo Finance
Ein einziger Deal, doch verschiedene Berichte nannten unterschiedliche Summen. Die Frage ist nicht, wie groß die Summe ist, sondern woraus sie besteht.
| Betragsart | Gemeldeter Betrag | Nature |
|---|---|---|
| Betrag in der Schlagzeile | $1.86 Milliarden | Großer Pharma-Deal mit insitro. Bloomberg und andere |
| Höchstbetrag | Bis zu 1,5 Mrd. $ | Kein fester Betrag. Vergütung abhängig vom Ergebnis |
| Vorabbetrag | 40 Mio. $ | Unterzeichnungszahlung. Der Teil, dessen Zahlung sicher ist |
| Bei einem Börsengang aufgenommen | 150 Mio. $ | KI-Wirkstoffentwickler Iambic. Getrennt von Partnerschaftszahlungen |
Ziele: Leber- und Herzerkrankungen (MASH, Kardiomyopathie usw.). Beträge wie in den Originalberichten angegeben
Die größte Zahl stammte aus einigen Schlagzeilen. Darunter liegt eine Obergrenze, die nur bei Erfolg gezahlt wird. Was sicher den Besitzer wechselt, wirkt wie nur die kleine erste Zahlung. Die Lücke zwischen beiden beträgt mehr als eine Größenordnung. Geld, das ein anderes Unternehmen durch einen Börsengang eingenommen hat, wird ebenfalls gezeigt, aber die Partner zahlen es nicht. Wer sich nur die Schlagzeilenzahl merkt, wird diesen Deal falsch einschätzen.
Die gedeckelte Summe wird in Teilbeträgen gezahlt, jeweils wenn die Forschung eine Phase abschließt. Wird eine Phase verfehlt, wird nichts gezahlt. Für den Zahler vermeidet das, für Ergebnisse zu zahlen, die nie eintreten. Die große Schlagzeilenzahl ist nur das Maximum, falls alles gut läuft.
Pharmateams lesen Deals im Arbeitsalltag bereits auf diese Weise. Doch wenn KI im Spiel ist, verbreitet sich die Schlagzeilenzahl meist unverändert. Wenn Sie eine Investition im Unternehmen erläutern, trennen Sie die erste Zahlung von der Obergrenze. Allein das hält die Erwartungen im Rahmen.
Nach dem Geld folgt die Frage, wie verlässlich das eigene Urteil der Maschine ist. Als Nächstes: wie eine Maschine, die medizinische Bilder liest, mit ihren Grundlagen umgeht.
05Belege bei KI, die Röntgenbilder liest
Einer Maschine, die medizinische Bilder liest, vertraut man nicht allein deshalb, weil sie die richtige Antwort gibt. Beruht eine richtige Antwort auf falschen Gründen, wird sie beim nächsten Patienten danebenliegen. Hier versucht ein Team, einer Maschine beizubringen, ihre Begründungen auszuwählen.
Die Studie trennt zwei Urteile. Das eine ist, ob man nach Unterstützung suchen soll. Das andere ist, Werte wegzulassen, die nicht zum Bild passen. Auch menschliche Ärztinnen und Ärzte misstrauen einem Messwert, der dem Bild vor ihnen widerspricht. Die Maschine lernt diesen gesunden Menschenverstand Stück für Stück.
Belohnung nur bei Richtigkeit freigeben
Bewertungen für Messkonsistenz und Werkzeugkosten gehen nur an Verläufe, deren Diagnose korrekt war.
Schulungsmaterial
Rad-CoT entwickelt, das Tool-Call-Logs mit berichtsartigem Schlussfolgern kombiniert, auf Basis des Basismodells Qwen3-VL-8B.
Noch nicht von Fachkollegen begutachtet
Ein arXiv-Preprint. Die Zusammenfassung nennt nicht, mit welchem Vergleich die berichteten Verbesserungen gemessen werden.
Punkte für die Zwischenschritte gibt es nur, wenn die endgültige Antwort stimmt. Würde man den Prozess hinter falschen Antworten bewerten, könnte das plausible Fehler antrainieren. Dennoch haben externe Fachleute diese Arbeit noch nicht geprüft. Die Zusammenfassung verschweigt zudem, was sie übertroffen hat.
Für die Pharmabranche überschneidet sich das mit der Arzneimittelsicherheit. Entscheidend ist weniger die Schlussfolgerung als die Frage, ob die Maschine zeigen kann, worauf sie sich gestützt hat. Lassen sich ihre Grundlagen nachvollziehen, hilft diese Spur denen, die sie prüfen, und den Aufsichtsbehörden, die danach fragen.
Während die Forschung nach Belegen verlangt, arbeiten Maschinen bereits im Feld. Als Nächstes: die Orte, an denen Medikamente gefunden und geliefert werden.
06An der Pharma-Front
Quelle Google DeepMind ／ Pulse 2.0 ／ Quiver Quantitative
Bisher haben wir von Entwicklern und Regulierungsbehörden gehört. Wie weit sind Maschinen bereits in die Arbeit der Pharmabranche selbst vorgedrungen? Die heutigen Nachrichten zeigen einen Teil der Antwort.
Suche nach antimikrobiellen Peptiden
Der offizielle Blog von Google DeepMind beschrieb den Einsatz von Google Antigravity, um die Suche nach antimikrobiellen Peptiden zu beschleunigen.
KI-Plattform für Lieferketten
ParkourSC hat Quartic übernommen. Ziel ist eine KI-Plattform für Lieferketten in den Biowissenschaften; die Schlagzeile nennt keinen Preis.
Kandidat aus einem gemeinsamen Programm
Aus einer KI-gestützten Zusammenarbeit mit Recursion soll der Partner und Arzneimittelhersteller seine Option auf den ersten Entwicklungskandidaten ausgeübt haben.
Die heutigen Entwicklungen verteilen sich vom Beginn der Arzneimittelentwicklung bis zu dem Punkt, an dem Medikamente die Patienten erreichen. Kandidaten finden, entscheiden, ob man einen übernimmt, und Medikamente bewegen. Die Maschine ist nicht länger nur ein Werkzeug des Labors. Am schwersten wiegt, dass ein Partnerunternehmen beschließt, einen aus gemeinsamer Forschung hervorgegangenen Kandidaten zu übernehmen. Die Pharmaseite hat einen von der Maschine ausgewählten Kandidaten für Zeit und Geld wert befunden.
Die Übernahme bedeutet, dass der Arzneimittelhersteller eine im Vertrag gesicherte Option nutzt. Von da an ist die weitere Entwicklung seine eigene Aufgabe. Die Entscheidung gilt daher als Zeichen, dass sich der Vorschlag der Maschine die Investition lohnt. Ein von der Maschine ausgewählter Kandidat hat einen menschlichen Test bestanden.
Auch Maschinen, die in die Lieferphase eintreten, verdienen Aufmerksamkeit. Wenn die Versorgung stockt, erreichen die Medikamente die Patienten nicht mehr. In Forschung wie Versorgung bleibt dieselbe Frage bestehen. Wer prüft das Urteil der Maschine, und wer kann sie stoppen?
Hinter den auffälligen Meldungen bleibt die Frage, wer die Maschine stoppt. Zum Schluss ein paar Geschichten, die leicht übersehen werden.
07Was übersehen wird
Quelle Die New York Times ／ South China Morning Post ／ Android Authority
Unsere letzten Geschichten wirken klein neben Regelwerken und Gerichtsverfahren. Doch sie liegen näher am Arbeitsalltag der Nutzer. Weil sie sich hinter den großen Nachrichten verstecken, könnten sie die Arbeit von morgen härter treffen.
Fehlverhalten durch einen Insider
Die NYT berichtete, dass ein OpenAI-Ingenieur, dem vorgeworfen wird, einen Bug eingeschleust zu haben, die saudische Seite beraten hatte.
Eine KI, die anhält – und das Geld erstattet
DeepSeek hatte einen weiteren größeren Ausfall von etwa 5 Stunden und leistete Rückerstattungen und Entschädigungen. Berichten zufolge mindestens der 18. in diesem Jahr.
Ankündigung eines 4-fachen Preises
Google hat Berichten zufolge Gemini-Abonnenten per E-Mail über eine Änderung informiert, die ihren Preis auf das Vierfache erhöht.
Ein von einem Insider eingeschleuster Fehler, ein Dienst, der immer wieder ausfällt, ein Preis, der plötzlich springt. Bei keinem davon geht es darum, wie klug die Maschine ist. Dennoch schaden sie denen, die Arbeit anvertraut haben. Geld zurück nach jedem Ausfall ersetzt nicht die Arbeit, die während des Ausfalls verloren ging. Fehlverhalten von innen lässt sich durch äußere Abwehr nicht verhindern. Nutzer können die internen Kontrollen eines Anbieters nicht einsehen. Sicherheit ist mehr als korrekte Antworten. Ich denke, sie bedeutet auch, verfügbar zu bleiben, loyal zu bleiben und die Bedingungen stabil zu halten.
Was, wenn ein in die Pharmaarbeit integriertes Werkzeug eines Morgens ausfällt? Wenn sich der Preis ändert, kann man zu einem anderen Werkzeug wechseln? Wie weit kann man den Menschen im Inneren des Anbieters vertrauen? Anwender können diese Pläne schon heute festlegen, ohne auf Nachrichten zur Regulierung zu warten. Mit vorbereiteten Antworten geht die Arbeit weiter. Es ist dasselbe Denken wie bei der Vorbereitung auf eine Unterbrechung der Arzneimittelversorgung.
Äußere Regeln und Fehlschläge vor unseren Augen führten zur selben Frage. Auch Nutzerinnen und Nutzer können die Aufgabe, die Sicherheit zu prüfen, nicht abgeben.
Werden der Umfang der FTC und der Zeitpunkt des Börsengangs offengelegt?
Das vollständige Transkript öffnen
Einführung
Sollen wir die KI-Sicherheit den Unternehmen überlassen, die sie entwickeln? Am Ende werden Sie sehen, warum Sicherheit zu einer Pflicht wird, die Außenstehende anhand von Aufzeichnungen prüfen. Vier sehr unterschiedliche Akteure haben sich bewegt: eine nationale Behörde zum Verbraucherschutz, Regionalregierungen, ein Beamter, der die Finanzen einer Stadt überwacht, und eine Behörde im Ausland. Die Pharmabranche trifft seit Langem unter strengen Regeln Entscheidungen über Leben und Tod. Wenn wir KI in diese Arbeit einbringen, müssen wir wissen, auf wen wir uns verlassen können. Wir betrachten Geld, Maschinen, die bei den ihnen übertragenen Aufgaben versagen, Geschäfte zur Entwicklung von Medikamenten und die Grundlagen hinter der Auswertung von Bildern. Was kommt davon bei uns als Nutzern an?
KAP. 01 Regulierung und Klagen laufen zusammen
Wir beginnen außerhalb der Entwickler. Bisher erklärten die Entwickler Sicherheit in ihren eigenen Worten. Hier fragen wir, wer außerhalb des Unternehmens begann, diese Erklärung einzufordern, und wie weit.Diese Akteure könnten kaum unterschiedlicher sein. Eine Verbraucherschutzorganisation, Regionalregierungen, ein städtischer Beamter, der öffentliche Gelder schützt, und ein ausländisches Gremium. Jeder handelte aus eigenem Grund, und ihre Zeitpunkte überschnitten sich. Einer allein ließe sich als Versäumnis einer einzelnen Firma abtun. Zusammen deuten sie auf eine Verschiebung hin. Sicherheit wandelt sich von einem Ziel, das sich eine Firma selbst setzt, zu einer Pflicht, die von außen durchgesetzt wird.Der gewichtigste Schritt ist, dass die Aufsichtsorganisation Unterlagen verlangt. Unterlagen auszuhändigen bedeutet, schriftlich darzulegen, was geschehen ist und wie damit umgegangen wurde. Ein mündliches Versprechen genügt nicht mehr. Sicherheitsarbeit wird nun danach beurteilt, ob es eine Dokumentationsspur gibt.Für Pharmateams ist das keine ferne Geschichte. Ich erwarte, dass Arbeit, die wir Maschinen übergeben, eines Tages derselben Frage ausgesetzt sein wird. Welches Werkzeug hat was getan, was ist schiefgelaufen, und wie wurde es behoben?
Behalten Sie diese Spur jetzt, dann können Sie antworten, wenn Sie gefragt werden. Externe Prüfung verändert auch, wie Investoren diese Unternehmen sehen. Als Nächstes: was uns die Zahlen verraten, die vor einer Börsennotierung gezeigt werden.
KAP. 02 Umsatz vor dem Börsengang
Ausgerechnet das Unternehmen, das im Fokus der Kritik steht, zeigte Investoren starke Zahlen. Wie wog der Markt Ertragskraft gegen Zweifel an der Sicherheit ab?Das ist hier unsere Frage.Der Umsatz wuchs stark, und es soll mehr Geld hereingekommen als hinausgeflossen sein. In einer Branche, die enorme Summen in die Entwicklung steckt, ist das eine auffällige Nachricht. Dennoch stiegen die Aktien verwandter Unternehmen nicht. Der Markt wertete die Stärke eines einzelnen Unternehmens nicht als gute Nachricht für die gesamte Branche. Die Zahlen und die Reaktion des Marktes weisen in unterschiedliche Richtungen.Warum diese Lücke?
Der Nachweis der Ertragskraft hat die Zweifel an der Sicherheit nicht ausgeräumt. Manche fordern sogar eine Verschiebung kurz vor dem Börsengang. Ich denke daher, dass Anleger das Risiko hinter den starken Ergebnissen einpreisen. Aus Sicht der Pharmabranche liefert das einen Hinweis für die Auswahl von Werkzeugen. Wer die Maschine eines Anbieters wählt, kommt mit einem Vergleich von Leistung und Preis nicht aus. Wie stark der Anbieter Aufsichtsbehörden und Gerichten ausgesetzt ist, entscheidet darüber, ob man dasselbe Werkzeug morgen noch zu denselben Bedingungen nutzen kann. Bei einem Werkzeug eines verklagten Unternehmens können sich die Nutzungsbedingungen über Nacht ändern. Und wenn wir dieses Werkzeug für uns handeln lassen: Wer haftet dann für seine Fehler?
Als Nächstes: eine Maschine, der man Zahlungen anvertraut.
KAP. 03 Wer haftet, wenn KI für Sie einkauft
Maschinen drücken heute die Knöpfe, die früher Menschen einzeln gedrückt haben. Wer trägt den Verlust, wenn dabei ein Fehler passiert?Der Komfort kam zuerst, und die Antwort ist noch offen.Der Weg selbst ist einfach. Ein Mensch übergibt die Aufgabe, und die Maschine geht bis zur Bezahlung. Weiter hinten können Fehler oder Datenlecks auftreten. Zu diesem letzten Schritt sagte der Chef eines Entwicklers unumwunden, die Firma werde die Verluste übernehmen. Die Verantwortung beginnt, sich von den Nutzern zu den Entwicklern zu verlagern.Doch ein Fall mit dieser Maschine und einer gefälschten E-Mail zeigte Berichten zufolge die Gefahr der Delegation. Ein Versprechen, Verluste zu erstatten, ist wichtig, aber es beweist nicht, dass keine Unfälle passieren. Unterdessen erweiterte eine andere Firma Werkzeuge, die das Handeln von Maschinen in Unternehmen begrenzen. Schutz durch Versprechen oder Schutz durch Design.In der Pharmabranche werden Maschinen eines Tages Bestellungen aufgeben. Prüfen Sie im Vertrag vor jedem Entschädigungsversprechen zwei Dinge. Können Sie die Maschine stoppen, und gibt es ein Protokoll dessen, was sie getan hat?
Geld kann einen Verlust ausgleichen. Es kann die Folgen für Patienten oder Partner nicht rückgängig machen. Worte des Versprechens und Geld, das tatsächlich fließt, sind zweierlei. Als Nächstes: wie man die an einen Deal geknüpften Summen liest, um Medikamente zu finden.
KAP. 04 Drei Beträge in einem KI-Wirkstoffforschungsdeal
Ein einziger Deal, doch verschiedene Berichte nannten unterschiedliche Summen. Die Frage ist nicht, wie groß die Summe ist, sondern woraus sie besteht.Die größte Zahl stammte aus einigen Schlagzeilen. Darunter liegt eine Obergrenze, die nur gezahlt wird, wenn Ergebnisse eintreten. Was sicher den Besitzer wechselt, wirkt wie nur die kleine erste Zahlung. Die Lücke zwischen beiden beträgt mehr als eine Größenordnung. Auch Geld, das ein anderes Unternehmen durch einen Börsengang eingesammelt hat, wird gezeigt, doch die Partner zahlen es nicht. Wer sich nur die Zahl aus der Schlagzeile merkt, wird diesen Deal falsch einschätzen.Die gedeckelte Summe wird in Teilen gezahlt, jedes Mal, wenn die Forschung eine Stufe erreicht. Wird eine Stufe verfehlt, wird nichts gezahlt. Für den Zahlenden vermeidet das, für Ergebnisse zu zahlen, die nie eintreten. Die große Zahl in der Schlagzeile ist nur das Maximum, falls alles gut läuft.Pharma-Teams lesen Deals im Arbeitsalltag bereits auf diese Weise. Doch sobald KI im Spiel ist, verbreitet sich die Zahl aus der Schlagzeile tendenziell unverändert. Wenn Sie eine Investition intern erklären, trennen Sie die erste Zahlung von der Obergrenze. Allein das dämpft die Erwartungen. Nach dem Geld kommt die Frage, wie belastbar das Urteil der Maschine selbst ist. Als Nächstes: wie eine Maschine, die medizinische Bilder liest, mit ihren Begründungen umgeht.
KAP. 05 Belege für KI, die Röntgenbilder liest
Einer Maschine, die medizinische Bilder liest, vertraut man nicht allein deshalb, weil sie die richtige Antwort gibt. Beruht eine richtige Antwort auf falschen Gründen, wird sie beim nächsten Patienten danebenliegen. Hier versucht ein Team, einer Maschine beizubringen, ihre Begründungen auszuwählen.Die Studie trennt zwei Entscheidungen. Die eine ist, ob nach Belegen gesucht werden soll. Die andere ist, Werte wegzulassen, die nicht zum Bild passen. Auch menschliche Ärzte misstrauen einer Befundung, die dem Bild vor ihnen widerspricht. Die Maschine lernt diesen gesunden Menschenverstand Stück für Stück.Punkte für die Zwischenschritte werden nur vergeben, wenn die endgültige Antwort richtig ist. Würde man den Prozess hinter falschen Antworten bewerten, könnte das plausible Fehler antrainieren. Dennoch haben externe Fachleute diese Arbeit noch nicht geprüft. Auch die Zusammenfassung lässt aus, was sie übertroffen hat.Für die Pharmabranche überschneidet sich das mit der Arzneimittelsicherheit. Entscheidend ist weniger das Ergebnis als die Frage, ob die Maschine zeigen kann, worauf sie sich gestützt hat. Wenn sich ihre Begründungen nachverfolgen lassen, hilft diese Spur denjenigen, die sie prüfen, und den Aufsichtsbehörden, die danach fragen. Während die Forschung nach Begründungen fragt, arbeiten Maschinen bereits im Einsatz. Als Nächstes: die Orte, an denen Arzneimittel gefunden und ausgeliefert werden.
KAP. 06 An der Pharma-Front
Bisher haben wir von Entwicklern und Regulierungsbehörden gehört. Wie weit sind Maschinen in die eigentliche Arbeit der Pharmabranche vorgedrungen? Die heutigen Nachrichten zeigen einen Teil der Antwort. Die heutigen Entwicklungen verteilen sich vom Beginn der Arzneimittelherstellung bis zu dem Punkt, an dem Medikamente die Patienten erreichen: Kandidaten finden, entscheiden, ob man einen übernimmt, und Medikamente transportieren. Die Maschine ist nicht länger nur ein Werkzeug des Labors. Am schwersten wiegt die Entscheidung eines Partnerunternehmens, einen aus gemeinsamer Forschung hervorgegangenen Kandidaten zu übernehmen. Die Pharmaseite hielt einen maschinell ausgewählten Kandidaten für ihre Zeit und ihr Geld wert. Die Übernahme bedeutet, dass der Arzneimittelhersteller eine im Vertrag gesicherte Option nutzt. Von da an ist die weitere Entwicklung seine eigene Aufgabe. Die Entscheidung lässt sich daher als Zeichen lesen, dass sich der Vorschlag der Maschine als Investition lohnt. Ein maschinell ausgewählter Kandidat hat einen menschlichen Test bestanden. Auch das Vordringen von Maschinen in die Auslieferungsphase verdient Aufmerksamkeit. Wenn die Versorgung stockt, erreichen Medikamente die Patienten nicht mehr. In Forschung und Versorgung bleibt dieselbe Frage bestehen: Wer prüft das Urteil der Maschine, und wer kann sie stoppen?
Hinter den auffälligen Meldungen bleibt die Frage, wer die Maschine stoppt. Zum Schluss ein paar Geschichten, die leicht übersehen werden.
KAP. 07 Was übersehen wird
Unsere letzten Geschichten wirken klein neben Regelwerken und Gerichtsverfahren. Doch sie liegen näher am Arbeitsalltag der Nutzer. Weil sie sich hinter den großen Nachrichten verstecken, könnten sie die Arbeit von morgen härter treffen.Ein von einem Insider eingeschleuster Fehler, ein Dienst, der immer wieder ausfällt, ein Preis, der plötzlich in die Höhe springt. Bei keinem davon geht es darum, wie klug die Maschine ist. Trotzdem treffen sie diejenigen, die Arbeit aus der Hand gegeben haben. Geld zurück nach jedem Ausfall ersetzt nicht die Arbeit, die während des Ausfalls verloren ging. Fehlverhalten von innen lässt sich nicht durch äußere Abwehr verhindern. Nutzer können die internen Kontrollen eines Anbieters nicht einsehen. Sicherheit ist mehr als richtige Antworten. Ich denke, sie bedeutet auch, verfügbar zu bleiben, loyal zu bleiben und die Bedingungen stabil zu halten. Was, wenn ein in die Pharma-Arbeit eingebundenes Tool eines Morgens ausfällt?
Wenn sich der Preis ändert, können Sie dann zu einem anderen Tool wechseln?Wie weit kann man den Menschen im Inneren des Builders vertrauen?Nutzer können diese Pläne schon heute festlegen, ohne auf Neuigkeiten zur Regulierung zu warten. Mit bereitliegenden Antworten geht die Arbeit weiter. Es ist derselbe Gedanke wie bei der Vorbereitung auf einen Abriss der Arzneimittelversorgung. Äußere Regeln und die Ausfälle direkt vor uns führten zur selben Frage. Auch Nutzer können die Aufgabe, die Sicherheit zu prüfen, nicht abgeben.
Zusammenfassung
Die Ereignisse des Tages wiesen alle in dieselbe Richtung. Sicherheit kann nicht allein auf dem Versprechen eines Entwicklers beruhen. Sie hält, wenn Außenstehende nachfragen und Nutzer weiter prüfen. Morgen erfahren wir vielleicht, wie weit die Anfrage der Aufsichtsbehörde reicht und wie sich der Börsengangsplan entwickelt. Dann können wir schärfer fassen, wie wir Werkzeuge auswählen und welche Aufzeichnungen wir in unseren Unternehmen führen.
- KAP. 01Axios「Exklusiv: Die FTC hat von KI-Giganten Unterlagen zu jüngsten Sicherheitsvorfällen verlangt」 axios.com
- KAP. 01Santa Cruz Sentinel「Bundesstaaten verklagen KI-Riesen OpenAI und werfen dessen beliebtem Chatbot vor, Kindern zu schaden und Erwachsene zu täuschen」 santacruzsentinel.com
- KAP. 01Crain's New York「Rechnungsprüfer drängt Anthropic angesichts „zahlreicher Sicherheitsbedenken“ zur Verschiebung des Börsengangs」 crainsnewyork.com
- KAP. 01Technology Org「EU eröffnet erstes Durchsetzungsverfahren nach dem AI Act gegen OpenAI und Anthropic」 technology.org
- KAP. 02Financial Times「Anthropic teilt Investoren vor dem Börsengang mit: Quartalsumsatz steigt um fast 50% auf 16,8 Mrd. $」 ft.com
- KAP. 02Yahoo Finance「Update: Marktgerüchte: Anthropic-Umsatz erreicht im 3. Quartal 16,8 Mrd. $, KI-Modellentwickler mit positivem Cashflow」 finance.yahoo.com
- KAP. 02Investor's Business Daily「Warum Berichte über Anthropics Umsatz die Sorgen um KI-Aktien verstärken」 investors.com
- KAP. 02Bloomberg.com「Anthropic-Ergebnisse könnten dem Börsengang helfen, nicht aber dem KI-Handel, sagen Analysten」 bloomberg.com
- KAP. 03ServiceNow「ServiceNow treibt sein operatives Rahmenwerk für Unternehmens-KI mit AI Passport und erweiterten Governance-Funktionen voran」 newsroom.servicenow.com
- KAP. 03The Verge「Elon Musk verspricht, Sie „schadlos zu halten“, falls Grok einen Kauf vermasselt oder Ihre Kreditkarte preisgibt.」 theverge.com
- KAP. 03Cyber-Nachrichten「Abgefangene Phishing-E-Mail des Grok-Bots zeigt Risiken von KI-Agenten auf」 cybernews.com
- KAP. 04AstraZeneca「AstraZeneca kündigt neue strategische Zusammenarbeit mit insitro an, um mit fortschrittlichen KI-Systemen transformative Therapeutika für schwer behandelbare kardiometabolische Erkrankungen zu entwickeln」 astrazeneca.com
- KAP. 04Reuters「AstraZeneca schließt KI-Wirkstoffforschungsdeal mit insitro über 40 Mio. $」 reuters.com
- KAP. 04BioSpace「AstraZeneca baut Arbeit zu MASH und Herz-Kreislauf mit KI-Partnerschaft mit insitro im Umfang von bis zu 1,5 Mrd. $ aus」 biospace.com
- KAP. 04Yahoo Finance「Iambic, ein Spezialist für KI-Wirkstoffforschung, nimmt bei einem Börsengang 150 Mio. $ ein」 finance.yahoo.com
- KAP. 05X-Ragent: Werkzeugunterstütztes Reinforcement Learning für evidenzbasiertes Schlussfolgern an Thorax-Röntgenbildern（「X-Ragentはこの二つを分けて学習させる後学習の枠組みで、診断が正しかった軌跡にだけ過程の評価を与える報酬を使う。」）
- KAP. 06Google DeepMind「Die Suche nach antimikrobiellen Peptiden mit Google Antigravity beschleunigen」 deepmind.google
- KAP. 06Pulse 2.0「ParkourSC übernimmt Quartic, um eine einheitliche KI-Plattform für Lieferketten in den Life Sciences zu starten」 pulse2.com
- KAP. 06Quiver Quantitative「Recursion Pharmaceuticals gibt bekannt: Sanofi übt Option auf ersten Entwicklungskandidaten aus der KI-gestützten Zusammenarbeit aus」 quiverquant.com
- KAP. 07Die New York Times「OpenAI-Ingenieur, dem das Einschleusen eines Fehlers vorgeworfen wird, beriet Saudis」 nytimes.com
- KAP. 07South China Morning Post「DeepSeek erleidet erneut einen größeren Ausfall, während das Unternehmen Nutzern Rückerstattungen anbietet」 scmp.com
- KAP. 07Android Authority「Google informiert Gemini-Abonnenten jetzt per E-Mail über eine Änderung, die sie 4-mal mehr kosten wird」 androidauthority.com
Verwendete Artikel
Die heutigen verwandten Berichte
- KI-Tagesnachrichten 16. Oktober 2026
- KI & Wirtschaft News 16. Oktober 2026
- KI & Finanzen News 16. Oktober 2026
Die Sprecherstimme ist synthetische Sprache. Der Inhalt stützt sich ausschließlich auf die Artikel dieser Website vom selben Tag. Jede Ausgabe durchläuft vor der Veröffentlichung sieben Prüfungen auf einfache Sprache. Das heißt, bekannte Verständnishindernisse werden unter einem Schwellenwert gehalten — es ist keine Garantie für Verständlichkeit.