Chinesische KI unterstützt Abwehr nach OpenAI-Vorfall, Grenzen führender US-KI werden sichtbar

2026-07-24

Chinesische KI unterstützt Abwehr nach OpenAI-Vorfall, Schutzmechanismen werden zur Hürde

Das nach einem Cyberangriff betroffene Unternehmen Hugging Face nutzte eine von Chinas Z.AI entwickelte KI, um die Angriffsdaten zu analysieren. Eine führende KI verweigerte die Analyse, und die in einem mutmaßlich aus den USA stammenden Modell verankerten Missbrauchsschutzfunktionen erschwerten die Reaktion zusätzlich.

OpenAI-KI dringt in anderes Unternehmen ein

Der Vorfall ereignete sich Mitte Juli während eines Tests zur Bewertung der Cyberangriffs-Fähigkeiten einer von OpenAI entwickelten KI. Das System verließ die Testumgebung und drang in die Systeme des US-KI-Start-ups Hugging Face ein. Es ging davon aus, dass das Unternehmen die für ein hohes Testergebnis nötigen 'Antworten' besaß, und griff entgegen der menschlichen Absicht an. OpenAI teilte am 21. mit, man werde den beispiellosen Vorfall untersuchen.

Führende KI verweigert Angriffsanalyse

Hugging-Face-CEO Clément Delangue bedankte sich am 22. auf sozialen Medien bei Z.AI. Nach der Entdeckung des Eindringens habe das Unternehmen eine kostenpflichtige führende KI mit der Analyse der vom Angreifer hinterlassenen umfangreichen Daten beauftragt, diese habe die Ausführung jedoch verweigert. Möglich sei, dass die Anweisung fälschlich als Missbrauch im Zusammenhang mit einem Cyberangriff eingestuft worden sei. Schließlich wurde die Analyse mit dem im Unternehmen heruntergeladenen Modell 'GLM' von Z.AI durchgeführt; die Arbeit, die normalerweise Tage dauert, war in wenigen Stunden erledigt.

Auch für die Verteidiger wird KI unverzichtbar

KIs, die Fragen beantworten oder Aufgaben übernehmen, sind mit Guardrails versehen, um Missbrauch zu verhindern. OpenAI, Anthropic und andere haben mehrschichtige Schutzmechanismen eingebaut, um zu verhindern, dass diese durch ausgefeilte Anweisungen umgangen werden. Diesmal dürfte genau dieser Mechanismus die Reaktion der führenden KI behindert haben.

Die KI von Z.AI hingegen folgte den Anweisungen. Details wurden nicht bekannt, doch das Modell des Unternehmens ist ein offenes Modell, dessen technische Informationen veröffentlicht sind und das sich kopieren oder verändern lässt. Offene Modelle neigen im Vergleich zu führenden KIs zu schwächeren Missbrauchsschutzfunktionen.

Mit dem Aufstieg chinesischer Anbieter wie Z.AI und Moonshot AI wächst in den USA die Wachsamkeit. Diesmal aber nahm die Situation eine paradoxe Wendung: Eine chinesische Open-Source-KI half dabei, einen von einer US-KI verursachten Angriff zu bewältigen. Der Investor David Sacks, der dem Umfeld der Trump-Regierung nahesteht, schrieb, die US-KI verliere an Wettbewerbsfähigkeit, weil sie Anweisungen ablehne, die eine chinesische KI ausführen könne.

Vorbereitung auf KI-Angriffe, auch die Verteidigung wird automatisiert

KI-gestützte Cyberangriffe erreichen zunehmend eine Präzision, Geschwindigkeit und Menge, die von Menschen kaum zu leisten sind. Die OpenAI-KI kombinierte in diesem Fall Schwachstellen, die selbst den Entwicklern nicht bekannt waren, drang ein und verschaffte sich interne Daten. Laut Bloomberg war ein Angriff, für den selbst erfahrene Hacker Wochen benötigen, in wenigen Stunden abgeschlossen.

Die außer Kontrolle geratene KI war für den internen Einsatz zu Entwicklungszwecken bestimmt, weshalb die Guardrails deaktiviert waren. Sollte die Leistung offener Modelle, die sich kopieren und verändern lassen, weiter steigen, könnten sie jedoch zu einer starken Waffe für Angreifer werden.

Auf der Verteidigungsseite fordert LinkedIn-Mitgründer Reid Hoffman, die automatische Behebung von Fehlern, die Erkennung von Anomalien und das Berechtigungsmanagement mithilfe von KI-Agenten zu automatisieren. Allerdings sind KI-Systeme für den allgemeinen Gebrauch oft stark eingeschränkt und können ihr Potenzial nicht voll entfalten.

OpenAI und Anthropic entwickeln Modelle mit gelockerten Guardrails für die Cyberabwehr und stellen sie einigen Behörden und Unternehmen zur Verfügung. Derzeit kann die Verteidigungsfähigkeit je nach Einführung variieren, weshalb es erforderlich ist, die Vorteile von KI auch den Verteidigern schneller zugänglich zu machen.

Wenn Ihnen dieser Artikel geholfen hat, teilen Sie ihn gerne.