Face au risque d’emballement de l’IA, Anthropic et OpenAI appellent à un durcissement de la réglementation

2026-06-05

Des mesures pour contenir un éventuel emballement de l’IA

Anthropic et OpenAI ont estimé qu’une pause temporaire du développement, un ralentissement de son rythme et un renforcement de la surveillance publique seraient efficaces pour limiter les risques d’emballement de l’intelligence artificielle (IA). Alors que l’évolution de l’IA s’accélère, les entreprises qui la développent mettent de plus en plus en avant la nécessité de mesures de freinage.

Auto-amélioration et craintes de dérive

Dans un billet publié le 4, Anthropic a indiqué qu’il serait souhaitable de ralentir volontairement les progrès technologiques afin de disposer du temps nécessaire pour y faire face. En visant notamment la Chine, la société a jugé qu’il serait utile de retarder volontairement le développement de l’IA de pointe si un cadre de coopération internationale pouvait être mis en place pour éviter une course en avant entre les pays.

Le groupe n’a pas rendu public son modèle d’IA hautes performances Claude Mythos, invoquant la prévention des usages abusifs. Il avertit que si les gains de performance s’accélèrent, les humains pourraient ne plus être en mesure de contrôler la sécurité, ce qui accroîtrait le risque de dérive de l’IA. Il a également évoqué la possibilité d’une 'auto-amélioration', c’est-à-dire la capacité pour l’IA d’améliorer elle-même ses propres performances sans intervention humaine.

Aux États-Unis, l’arrivée de Mythos a entraîné une évolution de la position de l’administration Trump, jusque-là prudente sur la réglementation de l’IA. Le 2, le président Trump a signé un décret présidentiel demandant aux entreprises de développement de coopérer afin que le gouvernement puisse vérifier la sécurité des IA les plus avancées avant leur mise à disposition du public.

Le même jour, Anthropic a salué ce décret, le qualifiant de 'pas important pour renforcer le leadership américain dans l’IA'. Sam Altman, directeur général d’OpenAI, a lui aussi estimé sur X, anciennement Twitter, que l’équilibre entre promotion du développement et réglementation était respecté.

Des appels à renforcer la surveillance publique

Dans une proposition de politique publiée le 2, OpenAI a appelé à renforcer les moyens du centre gouvernemental chargé d’évaluer les IA de pointe, le 'Centre pour les standards et l’innovation en IA' (CAISI). Le décret présidentiel prévoit que ces évaluations soient facultatives, mais l’entreprise a demandé qu’elles deviennent obligatoires, jugeant que 'les efforts volontaires des entreprises sont insuffisants'.

M. Altman s’est rendu à la Maison Blanche le lendemain, le 3, où il a rencontré des responsables gouvernementaux ainsi que des élus influents des partis républicain et démocrate. La proposition de politique évoquait aussi la nécessité d’introduire une réglementation fédérale, ce qui pourrait avoir été directement transmis à ces interlocuteurs.

Objectif : rassurer avant une IPO cette année

Anthropic et OpenAI sont rivales dans le développement de modèles d’IA de pointe et dans la conquête de clients. Pourtant, si les deux groupes plaident pour l’existence de freins, c’est aussi parce que les inquiétudes concernant les effets négatifs de l’IA sur la société se renforcent.

Aux États-Unis, parallèlement à la diffusion de l’IA, l’inquiétude sur l’emploi s’étend, en particulier chez les jeunes, et des critiques émergent selon lesquelles l’IA leur prendrait des postes. L’arrivée du puissant Mythos alimente aussi les craintes d’attaques informatiques.

Alors qu’elles visent une introduction en Bourse cette année, les deux sociétés, qui ont joué un rôle moteur dans le développement de l’IA, renforcent leur discours en faveur d’une gouvernance accrue afin d’apaiser les inquiétudes de la société.

Anthropic, qui a mis l’accent sur la sécurité dès sa création, continue de soutenir les candidats favorables à la réglementation de l’IA en vue des élections de mi-mandat américaines de novembre. Certains responsables gouvernementaux estiment toutefois que ses demandes de régulation visent aussi à freiner l’essor de concurrents.

OpenAI publie elle aussi régulièrement des mesures de sécurité et des propositions de politique publique. En avril, elle a présenté des pistes visant à lutter contre le chômage et les troubles sociaux, notamment un alourdissement de la fiscalité sur les ménages aisés et les entreprises, ainsi qu’une extension de la semaine de quatre jours. En mai, elle a rendu publiques par écrit ses structures de gestion des risques et précisé sa stratégie de réponse aux réglementations des États américains et de l’étranger.

Le 3 juin, M. Altman et d’autres ont en outre demandé au Congrès américain de légiférer, estimant que les mesures visant à empêcher la mise au point d’armes biologiques, telles que des agents pathogènes conçus à l’aide de l’IA, étaient insuffisantes. Une lettre a été publiée conjointement avec des dirigeants de grandes entreprises, dont Dario Amodei, directeur général d’Anthropic, et Demis Hassabis, responsable de la division IA de Google.

Si cet article vous a été utile, n’hésitez pas à le partager.