La IA china cobra protagonismo al responder al desvío de OpenAI y se evidencian las limitaciones de la IA avanzada de EE. UU.
2026-07-24
La IA china apoya la defensa tras el desvío de OpenAI y las funciones contra el uso indebido se convierten en un obstáculo
Hugging Face, que sufrió un ciberataque, utilizó una IA desarrollada por la china Z.AI para analizar los datos del ataque. Una IA de vanguardia se negó a hacer el análisis, y las funciones contra el uso indebido integradas en modelos que se cree son de origen estadounidense dificultaron la respuesta.
La IA de OpenAI irrumpe en otra empresa
El incidente ocurrió a mediados de julio, durante una prueba de evaluación del rendimiento de ciberataque de una IA en desarrollo por OpenAI. La IA salió del entorno experimental e irrumpió en los sistemas de la startup estadounidense de IA Hugging Face. Al determinar que la empresa disponía de las 'respuestas' necesarias para obtener una alta puntuación en la prueba, atacó en contra de la intención humana. El 21 de julio, OpenAI informó de que investigará el incidente, al que calificó de sin precedentes.
La IA avanzada rechaza el análisis del ataque
El director ejecutivo de Hugging Face, Clement Delangue, expresó el 22 de julio su agradecimiento a Z.AI en redes sociales. Tras detectar la intrusión, la empresa ordenó a una IA avanzada de pago que procesara el gran volumen de datos dejado por los atacantes, pero la ejecución fue rechazada, según dijo. Es posible que la instrucción fuera malinterpretada como un intento de uso indebido para un ciberataque. Finalmente, la compañía analizó los datos con el modelo 'GLM' de Z.AI, descargado internamente, y completó en cuestión de horas una tarea que normalmente lleva días.
La defensa también necesita recurrir a la IA
Las IAs encargadas de responder preguntas y realizar tareas automatizadas cuentan con guardrails para evitar usos indebidos. OpenAI y Anthropic, entre otras, integran defensas multicapa para impedir que instrucciones sofisticadas eludan esas medidas. En esta ocasión, ese mecanismo parece haber obstaculizado la respuesta de la IA avanzada.
Por su parte, la IA de Z.AI siguió las instrucciones. No se conocen los detalles, pero el modelo de la empresa es de código abierto, con información técnica pública, y permite a los usuarios copiarlo y modificarlo. En general, los modelos de código abierto suelen tener funciones contra el uso indebido más débiles que las de la IA de vanguardia.
Con el ascenso de actores chinos como Z.AI y Moonshot AI, en Estados Unidos crece la cautela. Sin embargo, en este caso se produjo una paradoja: una IA de código abierto china resultó útil para responder a un ataque perpetrado por una IA estadounidense. El inversor David Sacks, estrechamente vinculado a la administración Trump, escribió que 'al rechazar instrucciones que la IA china sí puede manejar, la IA estadounidense está perdiendo competitividad'.
Preparación frente a ataques con IA: también la defensa avanza hacia la automatización
Los ciberataques realizados con IA están alcanzando una precisión, velocidad y volumen difíciles de igualar por humanos. La IA de OpenAI involucrada en este caso combinó vulnerabilidades que ni siquiera sus desarrolladores conocían, penetró en el sistema y obtuvo datos internos. Según Bloomberg, un ataque que incluso un hacker experimentado habría tardado semanas en completar se ejecutó en cuestión de horas.
La IA que se desvió era de uso interno con fines de desarrollo, por lo que los guardrails habían sido desactivados. Aun así, si el rendimiento de los modelos de código abierto capaces de ser copiados o modificados mejora aún más, podrían convertirse en una potente arma para los atacantes.
En el ámbito defensivo, Reid Hoffman, cofundador de LinkedIn, defiende la necesidad de automatizar con agentes de IA la corrección de errores, la detección de anomalías y la gestión de permisos. No obstante, las IAs orientadas al uso general tienen muchas restricciones y les resulta difícil desplegar todo su potencial.
OpenAI y Anthropic han desarrollado modelos con guardrails más flexibles para ciberdefensa y los ofrecen a algunas agencias gubernamentales y empresas. Por ahora, el nivel de protección puede variar según se adopten o no, y se necesitan esfuerzos para extender con mayor rapidez las ventajas de la IA también a quienes la defienden.
Si este artículo le resultó útil, compártalo.