Anthropic und OpenAI dringen auf strengere Regulierung angesichts von KI-Risiken

2026-06-05

Maßnahmen gegen ein Entgleisen der KI gefordert

Anthropic und OpenAI haben erklärt, um das Risiko eines außer Kontrolle geratenen Einsatzes von künstlicher Intelligenz (KI) zu begrenzen, seien eine vorübergehende Aussetzung oder Verlangsamung der Entwicklung sowie eine strengere staatliche Aufsicht wirksam. Vor dem Hintergrund des beschleunigten KI-Fortschritts wird immer deutlicher, dass die Entwickler selbst die Notwendigkeit von Bremsmaßnahmen betonen.

Sorge vor Selbstverbesserung und Kontrollverlust

In einem am 4. veröffentlichten Blogbeitrag wies Anthropic darauf hin, es sei wünschenswert, den technologischen Fortschritt bewusst zu verlangsamen und so Zeit für Gegenmaßnahmen zu gewinnen. Mit Blick auf China und andere Länder hieß es, falls ein Rahmen für internationale Koordination geschaffen werden könne, damit Staaten nicht auf eigene Faust vorpreschen, sei die bewusste Verzögerung der Entwicklung fortschrittlicher KI eine sinnvolle Option.

Das Unternehmen veröffentlicht sein leistungsstarkes KI-Modell 'Claude Mythos' aus Gründen der Missbrauchsprävention nicht für die breite Öffentlichkeit. Es warnt, dass ein beschleunigter Leistungszuwachs dazu führen könnte, dass Menschen die Sicherheit nicht mehr ausreichend kontrollieren können und die Gefahr eines Entgleisens der KI steigt. Zudem verwies das Unternehmen auf die Möglichkeit einer 'Selbstverbesserung', bei der KI auch ohne menschliches Eingreifen eigene Verbesserungen vorantreibt.

In den USA hat die Einführung von Mythos auch zu einem Kurswechsel in der bisher bei KI-Regulierung zurückhaltenden Trump-Regierung geführt. Am 2. unterzeichnete Präsident Trump einen Erlass, der die Entwicklungsunternehmen zur Zusammenarbeit auffordert, damit die Regierung die Sicherheit der führenden KI-Systeme vor deren Veröffentlichung prüfen kann.

Am selben Tag begrüßte Anthropic den Erlass und erklärte, dies sei 'ein wichtiger Schritt zur Stärkung der KI-Führungsrolle der Vereinigten Staaten'. Auch Sam Altman, Vorstandschef von OpenAI, bewertete dies auf X (ehemals Twitter) als 'ausgewogen zwischen Förderung der Entwicklung und Regulierung'.

Rufe nach stärkerer staatlicher Aufsicht

In einem am 2. veröffentlichten politischen Vorschlag forderte OpenAI eine Stärkung des staatlichen KI-Zentrums 'AI Standards and Innovation Center' (CAISI), das für die Bewertung modernster KI zuständig ist. Während der Präsidialerlass die Prüfungen freiwillig vorsieht, verlangte das Unternehmen eine verbindliche Regelung, da 'freiwillige Maßnahmen der Unternehmen unzureichend' seien.

Altman besuchte am folgenden 3. das Weiße Haus und traf dort Regierungsvertreter sowie einflussreiche Abgeordnete der Republikaner und Demokraten. In dem politischen Vorschlag war auch die Notwendigkeit staatlicher Regulierung auf Bundesebene genannt worden, sodass er diese Ansicht möglicherweise direkt übermittelt hat.

Ziel: Sorgen vor dem Börsengang in diesem Jahr zerstreuen

Anthropic und OpenAI stehen als Rivalen im Wettbewerb um die Entwicklung hochmoderner KI-Modelle und die Gewinnung von Kunden. Dass beide dennoch auf die Notwendigkeit von Bremsen dringen, steht im Zusammenhang mit der wachsenden Sorge vor negativen Auswirkungen von KI auf die Gesellschaft.

In den USA wächst parallel zur Verbreitung von KI vor allem unter jüngeren Menschen die Sorge um Arbeitsplätze, und es gibt auch Klagen, die KI nehme Menschen die Arbeit weg. Mit dem Erscheinen des leistungsstarken Mythos haben zudem die Bedenken hinsichtlich Cyberangriffen zugenommen.

Beide Unternehmen streben noch in diesem Jahr einen Börsengang an. Während sie die Entwicklung von KI maßgeblich vorangetrieben haben, verstärken sie zugleich ihre Bemühungen um mehr Governance, um gesellschaftliche Sorgen zu mildern.

Anthropic hat seit seiner Gründung den Schwerpunkt auf Sicherheit gelegt und unterstützt auch mit Blick auf die US-Zwischenwahlen im November weiterhin Kandidaten, die eine KI-Regulierung befürworten. Allerdings sehen einige Regierungsvertreter in den Regulierungsforderungen des Unternehmens auch den Versuch, den Aufstieg von Wettbewerbern zu bremsen.

Auch OpenAI veröffentlicht fortlaufend Sicherheitsmaßnahmen und politische Vorschläge. Im April legte das Unternehmen einen Vorschlag vor, der höhere Steuern für Reiche und Unternehmen sowie die Ausweitung der Vier-Tage-Woche fördern soll, um Arbeitslosigkeit und soziale Unruhen einzudämmen. Im Mai legte das Unternehmen Dokumente zu seinem Risikomanagementsystem offen und machte auch seine Strategie im Umgang mit einzelstaatlichen und ausländischen Regelungen bekannt.

Darüber hinaus forderten Altman und andere am 3. Juni den US-Kongress auf, entsprechende Gesetze zu verabschieden, da Maßnahmen zum Schutz vor der Entwicklung biologischer Waffen wie Krankheitserregern mithilfe von KI unzureichend seien. Sie veröffentlichten einen gemeinsamen Brief zusammen mit dem CEO von Anthropic, Dario Amodei, sowie führenden Unternehmensvertretern wie Demis Hassabis, dem Leiter der KI-Sparte von Google.

Wenn Ihnen dieser Artikel geholfen hat, teilen Sie ihn gerne.