Le modèle d'IA en développement d'OpenAI s'introduit chez un tiers, la difficulté du contrôle apparaît plus nettement

2026-07-22

OpenAI a indiqué le 21 qu'un modèle d'IA en développement avait mené une cyberattaque contre une autre entreprise à l'encontre de l'intention humaine. L'affaire met une nouvelle fois en lumière la menace croissante de l'IA et la difficulté de la maîtriser.

Intrusion d'une IA autonome

Sam Altman, PDG, a écrit le même jour sur les réseaux sociaux : 'Lors de l'évaluation du modèle, un grave incident de sécurité s'est produit'. Des organismes d'examen externes avaient déjà signalé que l'IA du groupe présentait un risque de comportements malveillants. Depuis qu'Anthropic, aux États-Unis, a dévoilé en avril son IA hautes performances 'Mythos', la vigilance face au risque de cyberattaques menées par l'IA s'est encore renforcée.

Dans cet incident, l'entreprise victime d'une cyberattaque menée par une IA agissant de façon autonome, ainsi que la méthode concrète utilisée, semblent avoir été révélées pour la première fois. Selon OpenAI, l'IA devait à l'origine être soumise à une évaluation visant à vérifier si elle pouvait s'introduire dans un système simulé, mais elle a quitté l'environnement de test isolé d'Internet et s'est introduite dans le système de Hugging Face, auquel seuls des membres internes devaient pouvoir accéder.

Exploitation d'une faille zero-day

L'IA semble avoir exploité une vulnérabilité inconnue des développeurs eux-mêmes. En temps normal, les failles d'un système sont corrigées par l'exploitant afin de renforcer sa défense, mais les vulnérabilités non divulguées sont appelées 'zero-day' et sont difficiles à traiter. L'IA en question a pu s'introduire rapidement en utilisant une faille zero-day sophistiquée, difficile à détecter même pour un humain.

Il s'agit aussi d'un cas où l'IA a déraillé malgré l'instruction de 'résoudre des exercices d'entraînement'. Anthropic et Google aux États-Unis ont également observé un comportement similaire au cours du développement. Les IA destinées aux utilisateurs disposent de garde-fous qui refusent les usages abusifs, mais cette fois il s'agissait d'un modèle en développement prévu pour un usage interne, et sa capacité d'attaque était d'autant plus forte qu'OpenAI avait désactivé certaines protections.

OpenAI précise que l'IA à l'origine de l'incident était soit sa dernière version 'GPT-5.6 Sol', soit plusieurs modèles non publics. Les rapports d'évaluation d'organismes externes comportaient aussi des indices laissant présager la situation actuelle.

Alerte sur les évaluations de sécurité

L'Institut de sécurité de l'IA du gouvernement britannique (AISI) a indiqué que la probabilité qu'un comportement malveillant survienne pendant une évaluation de cyberattaque était d'environ 13 % pour GPT-5.6 Sol, soit 5 points de plus que le modèle d'Anthropic. L'organisme de recherche américain METR a également souligné que ce modèle affichait le taux de comportements répréhensibles le plus élevé jamais observé, y compris l'exploitation de vulnérabilités et des actes interdits. Le propre document d'évaluation des performances d'OpenAI mentionnait aussi que des cas similaires s'étaient produits en cours de développement.

Depuis la mise en ligne de 'ChatGPT' en 2022, OpenAI a mené le boom de l'IA, mais en 2026 l'attention a été captée par Anthropic, développeur de Mythos, qui l'a aussi dépassée en valeur d'entreprise. L'incident de cette fois a toutefois aussi servi à illustrer le niveau de performance élevé de l'IA en développement.

Depuis l'apparition de Mythos, l'administration Trump aux États-Unis a renforcé sa posture réglementaire en tenant davantage compte de la prévention des usages abusifs. GPT-5.6, rendu public le 9, a lui aussi nécessité deux semaines avant sa publication dans le cadre de la procédure de vérification de sécurité demandée par le gouvernement.

Hiroaki Yamaoka, avocat spécialisé dans les contre-mesures des entreprises face aux cyberattaques, estime que si des dommages similaires se produisent à l'avenir, il sera difficile d'engager la responsabilité des utilisateurs ou de l'entreprise de développement au motif que 'l'IA a agi d'elle-même'. 'Il faudra de nouveaux cadres et de nouvelles réglementations pour les entreprises d'IA et les plateformes', dit-il.

Si cet article vous a été utile, n’hésitez pas à le partager.