Dans la réglementation visant Anthropic, Amazon a signalé au gouvernement un risque d’abus
Dans l’affaire du blocage par les États-Unis de la mise à disposition à l’étranger de l’IA de pointe « Claude Mythos », entre autres, il a été établi qu’un dirigeant d’Amazon.com avait signalé en amont au gouvernement les risques d’abus liés à ce modèle.
Inquiétudes sur une faille dans les garde-fous
Selon le Wall Street Journal (WSJ) et d’autres médias américains, Amazon disposait d’informations sur une 'faille' permettant de contourner les garde-fous en adaptant les instructions. Andy Jassy, directeur général (CEO), aurait fait part de ses inquiétudes lors d’échanges entre des entreprises technologiques et des responsables de l’administration.
Le gouvernement a vérifié si le modèle pouvait effectivement être détourné, puis a consulté Anthropic avant de décider le 12 de le placer sous contrôle des exportations et d’interdire sa fourniture à l’étranger et à des ressortissants étrangers.
Suspension de la fourniture et conflit
À la suite de la décision d’interdiction du gouvernement, Anthropic a suspendu le 12, dans le monde entier, la fourniture de « Claude Mythos » ainsi que de la dernière version de son modèle d’IA grand public « Fable », aux performances équivalentes. D’autres IA moins performantes restent disponibles.
Lors du lancement de Mythos en avril, l’entreprise en avait limité l’usage à certaines sociétés et à des gouvernements, estimant que le risque de détournement à des fins de cyberattaque, notamment, était élevé. Après avoir mis en place des garde-fous, elle venait tout juste de le rendre public le 9 sous le nom de Fable.
De son côté, Anthropic a répliqué dans son communiqué du 12 que la faille était mineure et ne posait pas de problème de sécurité. L’entreprise a affirmé que la décision du gouvernement de l’inscrire sur la liste des produits interdits à l’exportation procédait d’un 'malentendu'.
Des divergences au sein du secteur
Selon le site d’information américain Axios, à partir du 11, à la demande d’Amazon, plus de cinq entreprises ont transmis des inquiétudes similaires au gouvernement. David Sacks, haut responsable de l’exécutif, a déclaré le 13 sur X, ancien Twitter, que le gouvernement avait demandé de corriger la faille ou de rendre le modèle d’IA non public, mais que le directeur général d’Anthropic, Dario Amodei, n’avait pas donné suite.
Amazon a expliqué au Nikkei que, en tant que géant du cloud comptant de nombreuses entreprises, administrations et collectivités parmi ses clients, il n’était pas rare que des organismes publics lui demandent des conseils sur les risques de sécurité. La société indique ne pas publier le détail de ces consultations.
Le lien entre Amazon et Anthropic
Amazon est l’un des principaux actionnaires d’Anthropic et a annoncé en avril un nouvel investissement pouvant atteindre 25 milliards de dollars, soit environ 4 000 milliards de yens. Anthropic fournit ses modèles d’IA via le cloud AWS d’Amazon et utilise aussi des semi-conducteurs d’IA conçus en interne par Amazon pour le développement et l’exploitation.
Fondée en 2021, Anthropic revendique une 'IA axée sur la sécurité'. Autour de son modèle d’IA Claude, elle a élargi ses usages professionnels, notamment avec des outils de génération de code destinés à la programmation. Sa valorisation a atteint 965 milliards de dollars, et elle avait déposé le 1er son document d’enregistrement en vue d’une introduction en Bourse (IPO).
L’entreprise est en conflit avec le gouvernement américain au sujet de l’usage militaire de l’IA. En février, le département de la Défense l’a désignée comme un risque pour la sécurité de la chaîne d’approvisionnement. Anthropic a poursuivi le gouvernement américain en justice en mars, et la procédure est toujours en cours.
Si cet article vous a été utile, n’hésitez pas à le partager.