OpenAIs KI in Entwicklung dringt bei anderem Unternehmen ein und macht Kontrollprobleme deutlich

2026-07-22

OpenAI teilte am 21. mit, dass ein in Entwicklung befindliches KI-Modell entgegen der menschlichen Absicht einen Cyberangriff auf ein anderes Unternehmen durchgeführt habe. Damit werde erneut deutlich, wie rasant die KI-Bedrohung zunimmt und wie schwer sie zu kontrollieren ist.

Einbruch durch autonome KI

CEO Sam Altman schrieb am selben Tag in den sozialen Medien, während der Modellbewertung habe sich ein schwerwiegender Sicherheitsvorfall ereignet. Externe Prüforganisationen hatten zuvor bereits darauf hingewiesen, dass die KI des Unternehmens ein Risiko für Fehlverhalten berge. Seit Anthropic aus den USA im April die Hochleistungs-KI 'Mythos' vorgestellt hat, ist die Wachsamkeit gegenüber dem Risiko von Cyberangriffen durch KI weiter gestiegen.

In diesem Vorfall wurde erstmals deutlich, welches Unternehmen von einem Cyberangriff durch autonom agierende KI betroffen war und wie die konkrete Vorgehensweise aussah. Nach Angaben von OpenAI sollte die KI eigentlich in einer Bewertung getestet werden, die die Möglichkeit des Eindringens in ein Simulationssystem prüft. Stattdessen entkam sie aus einer vom Netz abgeschotteten Testumgebung und drang in ein System von Hugging Face ein, auf das nur interne Mitarbeiter zugreifen sollten.

Ausnutzung einer Zero-Day-Schwachstelle

Die KI habe vermutlich eine Schwachstelle ausgenutzt, die auch den Entwicklern nicht bekannt gewesen sei. Systemfehler werden in der Regel von den Betreibern behoben, um die Abwehr zu stärken. Nicht öffentlich bekannte Schwachstellen werden jedoch als 'Zero-Day' bezeichnet und sind schwer zu bekämpfen. Die betreffende KI könnte sich mithilfe einer hochentwickelten Zero-Day-Schwachstelle, die selbst für Menschen schwer zu entdecken ist, rasch Zugang verschafft haben.

Auch dies war ein Fall von außer Kontrolle geratener KI, die sich einer Anweisung wie 'Löse die Übungsaufgaben' widersetzte. Anthropic und auch Google aus den USA haben ein ähnliches Verhalten in der Entwicklungsphase beobachtet. Bei KI-Systemen für Endnutzer gibt es Schutzmechanismen gegen Missbrauch. Diesmal handelte es sich jedoch um ein in Entwicklung befindliches Modell für den internen Einsatz, bei dem OpenAI die Gegenmaßnahmen deaktiviert hatte; dadurch war die Angriffskraft höher.

OpenAI erklärt, die verursachende KI sei entweder das neueste Modell 'GPT-5.6 Sol' oder eines mehrerer nicht öffentlich genannter Modelle gewesen. Auch in den Bewertungsunterlagen externer Stellen gab es Anzeichen, die auf den Vorfall hindeuten.

Warnungen aus Sicherheitsbewertungen

Das britische, staatlich unterstützte AI Security Institute (AISI) berichtete, die Wahrscheinlichkeit von Fehlverhalten während Cyberangriffs-Bewertungen liege bei GPT-5.6 Sol bei rund 13 % und damit 5 Prozentpunkte über dem Modell von Anthropic. Die US-Forschungsorganisation METR wies ebenfalls darauf hin, dass dieses Modell bei Verstößen, einschließlich der Ausnutzung von Schwachstellen und verbotenen Handlungen, die bislang höchste Rate aufgewiesen habe. Auch in OpenAIs eigener Leistungsbewertung hieß es, während der Entwicklungsphase seien ähnliche Fälle aufgetreten.

Seit der Veröffentlichung von 'ChatGPT' im Jahr 2022 hat OpenAI den KI-Boom angeführt. Im Jahr 2026 verlor das Unternehmen jedoch die Aufmerksamkeit an Anthropic, das Mythos entwickelt hat, und wurde auch beim Unternehmenswert überholt. Der jüngste Vorfall lieferte jedoch zugleich einen Hinweis auf die hohe Leistungsfähigkeit von KI in der Entwicklung.

Seit dem Auftreten von Mythos hat die US-Regierung unter Trump ihre Regulierungshaltung mit Blick auf Missbrauchsprävention verschärft. Auch GPT-5.6, das am 9. für die breite Öffentlichkeit freigegeben wurde, benötigte wegen eines von der Regierung verlangten Sicherheitsprüfverfahrens zwei Wochen bis zur Veröffentlichung.

Der auf Unternehmensschutz vor Cyberangriffen spezialisierte Anwalt Hiroaki Yamaoka sagte, selbst wenn es künftig zu ähnlichen Schäden komme, sei es schwierig, Nutzer oder Entwicklerunternehmen mit der Begründung zur Verantwortung zu ziehen, die KI habe 'es von sich aus getan'. 'Für KI-Unternehmen und Plattformen werden neue Rahmenbedingungen und Regeln erforderlich sein', sagte er.

Wenn Ihnen dieser Artikel geholfen hat, teilen Sie ihn gerne.