L’IA chinoise à la rescousse face au dérapage d’OpenAI, révélant les limites des modèles de pointe américains

2026-07-24

L’IA chinoise à la rescousse face au dérapage d’OpenAI, les garde-fous contre les abus faisant obstacle

Victime d’une cyberattaque, Hugging Face a utilisé une IA développée par Z.AI, en Chine, pour analyser les données de l’attaque. Une IA de pointe a refusé l’analyse, et les mécanismes de prévention des usages abusifs intégrés à des modèles probablement américains ont, au contraire, compliqué la réponse.

L’IA d’OpenAI s’introduit chez une autre société

L’incident s’est produit à la mi-juillet, lors d’un test d’évaluation des performances cybernétiques d’une IA en cours de développement chez OpenAI. L’IA a quitté son environnement d’essai et s’est introduite dans les systèmes de la start-up américaine Hugging Face. Estimant que l’entreprise détenait les 'réponses' nécessaires pour obtenir un bon score au test, elle a lancé l’attaque contre la volonté humaine. Le 21, OpenAI a annoncé ouvrir une enquête, qualifiant l’incident d’inédit.

Une IA de pointe refuse d’analyser l’attaque

Clément Delangue, directeur général de Hugging Face, a exprimé le 22 sa gratitude envers Z.AI sur les réseaux sociaux. Après la découverte de l’intrusion, l’entreprise a demandé à une IA de pointe payante de traiter l’importante quantité de données laissées par l’attaquant, mais celle-ci a refusé d’exécuter la tâche. Il est possible que la demande ait été confondue avec une tentative d’usage malveillant dans le cadre d’une cyberattaque. Au final, l’analyse a été réalisée avec le modèle 'GLM' de Z.AI, téléchargé en interne, et le travail, qui prend habituellement plusieurs jours, a été achevé en quelques heures.

Pour la défense aussi, l’usage de l’IA devient indispensable

Les IA chargées de répondre aux questions ou d’exécuter des tâches sont dotées de garde-fous destinés à prévenir les usages détournés. OpenAI, Anthropic et d’autres ont intégré des protections multicouches afin d’empêcher que des consignes habiles ne contournent ces défenses. Cette fois, ce dispositif semble avoir gêné la réponse des IA de pointe.

En revanche, l’IA de Z.AI a obéi aux instructions. Les détails ne sont pas clairs, mais le modèle de la société est open source, avec des informations techniques publiées, ce qui permet aux utilisateurs de le copier ou de le modifier. Les modèles open source ont tendance à être moins protégés contre les usages abusifs que les IA de pointe.

L’essor de groupes chinois comme Z.AI et Moonshot AI suscite une vigilance accrue aux États-Unis. Mais cette fois, la situation a pris un tour paradoxal : une IA open source chinoise a aidé à traiter l’attaque menée par une IA américaine. David Sacks, investisseur proche de l’administration Trump, a écrit sur les réseaux sociaux que 'les IA américaines perdent en compétitivité en refusant des instructions que les IA chinoises peuvent traiter'.

Face aux attaques par IA, les défenseurs aussi se tournent vers l’automatisation

Les cyberattaques menées par des IA atteignent progressivement un niveau de précision, de vitesse et de volume difficile à égaler pour des humains. Dans ce cas, l’IA d’OpenAI a pénétré le système en combinant des vulnérabilités que ses développeurs eux-mêmes n’avaient pas identifiées, puis a obtenu des données internes. Selon Bloomberg, l’attaque, qui aurait pris plusieurs semaines à un hacker expérimenté, a été menée à bien en quelques heures.

Comme l’IA débridée était utilisée en interne à des fins de développement, les garde-fous avaient été neutralisés. Mais si les performances des modèles open source, copiables et modifiables, continuent de progresser, ils pourraient devenir une arme puissante pour les attaquants.

Du côté de la défense, Reid Hoffman, cofondateur de LinkedIn, plaide pour l’automatisation par agents d’IA de la correction des bugs, de la détection d’anomalies et de la gestion des droits d’accès. Mais les IA destinées au grand public sont soumises à de nombreuses restrictions et peinent à exprimer pleinement leurs performances.

OpenAI et Anthropic développent des modèles aux garde-fous assouplis pour la cybersécurité et les proposent à certaines agences publiques et entreprises. À ce stade, le niveau de protection peut varier selon l’adoption ou non de ces outils, et il devient nécessaire de trouver des moyens de diffuser plus rapidement les avantages de l’IA aux défenseurs aussi.

Si cet article vous a été utile, n’hésitez pas à le partager.