Anthropic stoppt Spitzen-KI nach Eingriff der US-Regierung
Das US-Unternehmen Anthropic hat am 12. die Bereitstellung seiner Spitzen-KI 'Claude Mythos' und anderer Angebote gestoppt. Grund ist ein Eingriff der US-Regierung auf Grundlage der Exportkontrollvorschriften, die aus Sicherheitsgründen die Nutzung durch Ausländer unterbinden will. Inmitten wachsender Bedeutung von KI für Cyberabwehr trat damit der Konflikt zwischen dem führenden Entwickler und der US-Regierung offen zutage.
Mythos und Fable gestoppt
Anthropic teilte am selben Tag mit, die Bereitstellung von Mythos für die Cyberabwehr sowie der für Endnutzer gedachten KI 'Fable' einzustellen. Beide Modelle gehören zur Spitze der Branche; Mythos wurde von rund 200 Unternehmen und Organisationen in etwa 15 Ländern genutzt, darunter Japan und die USA, während Fable von Verbrauchern und Unternehmen eingesetzt wurde. Modelle mit geringerer Leistung, darunter 'Opus', werden weiter angeboten.
Nach Angaben des Unternehmens ging am 12. ein Schreiben der Regierung ein, das die Einstellung der Nutzung von Mythos und Fable durch Ausländer anordnete. Es habe sich um eine Aufforderung gehandelt, die Nutzung durch alle Ausländer in den USA und im Ausland sowie durch die eigenen ausländischen Mitarbeiter zu unterbinden. Daraufhin sei die Bereitstellung nicht nur für Ausländer, sondern für Kunden weltweit gestoppt worden.
Seltene Anordnung zum Stopp der Bereitstellung
Dass die US-Regierung nach der Veröffentlichung eines Modells, einer zentralen KI-Technologie, mithilfe von Exportkontrollen dessen Bereitstellung untersagt, ist ungewöhnlich. Angesichts steigender gesellschaftlicher Risiken durch den Missbrauch fortschrittlicher KI griff die US-Regierung zu einem weitreichenden Schritt. Hintergrund des Eingriffs ist auch, dass die Technik militärisch nutzbar ist und KI zunehmend zu einer strategischen Ressource des Staates wird.
Mythos gilt als besonders gut darin, Schwachstellen in Systemen aufzuspüren. Sollte die Nutzung lange unterbrochen bleiben, könnte dies die weltweiten Bemühungen zur Cyberabwehr verzögern. Regierungen, Finanzinstitute und Infrastrukturunternehmen hatten solche Hochleistungs-KI genutzt, um Defekte in bestehenden Systemen rasch zu beheben.
Ob die Vorgängerversion 'Mythos Preview' ebenfalls von der Aussetzung betroffen ist, ist unklar. Japans drei Megabanken und Hitachi hatten erst kürzlich damit begonnen, das Modell einzusetzen. Finanzministerin Satsuki Katayama schrieb auf X, ehemals Twitter: 'Der derzeit zwischen den Finanzministerien Japans und der USA vereinbarte Stand hat sich nicht verändert.'
Eingriff nach Veröffentlichung verschärft den Konflikt
Anthropic hatte Mythos im April vorgestellt, hielt das Modell wegen seiner hohen Leistungsfähigkeit aber aus eigener Entscheidung zunächst von der Öffentlichkeit fern, weil es Missbrauchsrisiken etwa für Cyberangriffe befürchtete. Die Trump-Regierung hatte bislang die Förderung der KI-Entwicklung betont und Regulierung eher zurückhaltend betrachtet, seit dem Aufkommen fortschrittlicher KI aber Kurskorrekturen in Richtung eines weniger zurückhaltenden Vorgehens vorgenommen.
Nach mehreren Gesprächen mit der US-Regierung weitete das Unternehmen am 2. Juni den Kreis der Nutzer von Mythos auch auf Japan und andere Länder aus. Nach zusätzlichen Sicherheitsvorkehrungen stellte es am 9. Fable vor. Diesmal war es jedoch gerade Fable, bei dem die Regierung eine 'Schwachstelle' beanstandete, über die Sicherheitsmaßnahmen umgangen und das Modell für Cyberangriffe missbraucht werden könne. Das war der Auslöser für die Aussetzung.
Anthropic wies dies zurück, erklärte, der Schweregrad des Missbrauchs sei gering und es gebe keine Sicherheitsprobleme, und sagte, man teile die Einschätzung der Regierung nicht. Das Unternehmen sprach von einem 'Missverständnis' und erklärte zugleich, eine möglichst baldige Wiederaufnahme der Bereitstellung anzustreben.
Auch das US-Verteidigungsministerium an Exportkontrollen beteiligt
Seit April hat Anthropic häufig Kontakt zu Regierungsvertretern wie US-Finanzminister Scott Bessent und anderen Spitzen des Kabinetts gehalten. Nach Angaben von Beteiligten wurde auch Fable vor seiner Veröffentlichung von einer dem US-Handelsministerium unterstehenden Behörde auf Sicherheit überprüft. Da KI jedoch eine Technologie mit militärischem Nutzungspotenzial ist, sind auch andere Behörden, darunter das US-Verteidigungsministerium, an den Exportkontrollen beteiligt.
Das Weiße Haus hatte sich schon zuvor skeptisch gegenüber der Nutzung der fortschrittlichen KI von Anthropic durch ausländische Unternehmen gezeigt. Hinter dieser Haltung dürften Sorgen stehen, etwa mit Blick auf China, im KI-Wettlauf an Boden zu verlieren, sowie der Wunsch, Rechenressourcen vorrangig in den USA einzusetzen. US-Präsident Donald Trump unterzeichnete am 2. eine Verordnung, wonach die US-Regierung die Sicherheit fortschrittlicher KI vorab prüft. Der Eingriff nach der Veröffentlichung kam jedoch auch für das Unternehmen überraschend.
Ein Verhältnis mit Sprengstoff von Anfang an
Anthropic und die US-Regierung lagen schon länger im Streit. Wegen eines Konflikts um den Einsatzbereich von KI für das US-Militär nannte das Verteidigungsministerium das Unternehmen im Februar ausdrücklich als Sicherheitsrisiko für die Lieferkette. Nachdem die Verhandlungen scheiterten, erklärte Trump zwischenzeitlich, man werde das Unternehmen aus der gesamten Bundesregierung ausschließen.
Das Unternehmen verklagte die US-Regierung im März, das Verfahren läuft bis heute. Auch innerhalb der Regierung und unter Investoren aus Trumps Umfeld gibt es Stimmen, die das Unternehmen mit Skepsis betrachten, weil es sich stark für strengere Regulierung einsetzt. Für das schnell wachsende Anthropic wird der Regierungseingriff zu einem neuen Geschäftsrisiko. Sollte das Unternehmen zu Änderungen an seinen Diensten gezwungen werden, könnte das Kunden kosten.
Anthropic beantragte am 1. einen Börsengang und treibt den Ausbau seines KI-Geschäfts für Firmenkunden voran. Die Unfähigkeit, modernste Modelle anzubieten, ist ein strategischer Rückschlag. Gary Marcus, emeritierter Professor an der New York University, sagte mit Blick auf die Entscheidung, selbst ausländischen Mitarbeitern die Nutzung zu untersagen: 'Das könnte die Aktivitäten von Anthropic zum Stillstand bringen, es ist eine Überreaktion der Regierung. Das wirkt sich negativ auf die KI-Industrie in den USA aus.'
Wenn Ihnen dieser Artikel geholfen hat, teilen Sie ihn gerne.