Amazon meldete der Regierung Missbrauchsrisiken zu Anthropic-Regeln

2026-06-14

Im Fall des US-Regierungsverbots für die Auslandsbereitstellung der fortschrittlichen KI 'Claude Mythos' und anderer Modelle wurde bekannt, dass Führungskräfte von Amazon.com die Regierung im Vorfeld auf Missbrauchsrisiken des Modells hingewiesen hatten.

Sorge über eine Lücke in den Schutzmaßnahmen

Laut der US-Zeitung Wall Street Journal (WSJ) und anderen Quellen verfügte Amazon über Informationen zu einer 'Lücke', die sich durch geschickte Formulierung von Anweisungen dazu nutzen ließ, Schutzmaßnahmen zu umgehen. Bei Gesprächen zwischen Tech-Unternehmen und Regierungsvertretern habe Amazon-CEO Andy Jassy diese Bedenken angesprochen.

Die Regierung prüfte zunächst, ob das Modell tatsächlich missbraucht werden konnte, und sprach dann mit Anthropic. Am 12. setzte sie das Modell auf die Exportkontrollliste und legte fest, dass die Bereitstellung im Ausland sowie an Ausländer verboten wird.

Einstellung der Bereitstellung und Konflikt

Anthropic stoppte nach der Verbotsentscheidung der Regierung am 12. weltweit die Bereitstellung von 'Claude Mythos' sowie der neuesten Version des verbraucherorientierten KI-Modells 'Fable', das die gleiche Leistung bietet. Eine andere, leistungsschwächere KI bleibt nutzbar.

Als das Unternehmen Mythos im April vorstellte, beschränkte es die Nutzung wegen des hohen Missbrauchsrisikos etwa für Cyberangriffe auf bestimmte Unternehmen und Behörden. Nach Einführung von Schutzmaßnahmen wurde das Modell am 9. unter dem Namen Fable erst kürzlich für die Allgemeinheit freigegeben.

Anthropic widersprach am 12. und erklärte in einer Mitteilung, die Lücke sei geringfügig und es gebe keine Sicherheitsprobleme. Die Entscheidung der Regierung, das Modell unter ein Exportverbot zu stellen, sei 'missverstanden' worden.

Unterschiedliche Reaktionen in der Branche

Laut dem US-Nachrichtenportal Axios übermittelten ab dem 11. auf Bitte Amazons mehr als fünf Unternehmen der Regierung ähnliche Bedenken. Der Regierungsbeamte David Sacks sagte am 13. auf X, der früheren Plattform Twitter, die Regierung habe gefordert, die Lücke zu schließen oder das KI-Modell nicht öffentlich zugänglich zu machen; Anthropic-CEO Dario Amodei sei dem jedoch nicht nachgekommen.

Amazon teilte der Nikkei mit, als Cloud-Gigant mit vielen Unternehmen sowie Behörden und Kommunen als Kunden sei es nicht ungewöhnlich, dass Regierungsstellen um Ratschläge zu Sicherheitsrisiken baten. Auch wenn es Beratungen gebe, würden Details nicht veröffentlicht.

Beziehung zwischen Amazon und Anthropic

Amazon ist ein wichtiger Anteilseigner von Anthropic und kündigte im April eine zusätzliche Beteiligung von bis zu 25 Milliarden Dollar an. Anthropic bietet seine KI-Modelle über Amazons Cloud AWS an und nutzt für Entwicklung und Betrieb auch von Amazon eigens entwickelte KI-Halbleiter.

Anthropic wurde 2021 gegründet und stellt 'sichere KI' in den Vordergrund. Auf Basis des KI-Modells 'Claude' hat das Unternehmen die Nutzung für Firmen ausgeweitet, etwa mit Code-Generierungstools für die Programmierung. Der Unternehmenswert erreichte 965 Milliarden Dollar, und am 1. reichte das Unternehmen einen Prospekt für einen Börsengang ein.

Mit der US-Regierung steht das Unternehmen wegen des militärischen Einsatzes von KI im Konflikt; im Februar stufte das Verteidigungsministerium Anthropic als Sicherheitsrisiko in der Lieferkette ein. Anthropic verklagte die US-Regierung im März, das Verfahren läuft weiter.

Wenn Ihnen dieser Artikel geholfen hat, teilen Sie ihn gerne.