La IA en desarrollo de OpenAI se infiltró en otra empresa y dejó en evidencia la dificultad de control

2026-07-22

OpenAI dijo el día 21 que un modelo de IA en desarrollo realizó un ciberataque contra otra empresa en contra de la intención humana. El episodio volvió a poner de relieve la amenaza acelerada de la IA y la dificultad de control.

Infiltración de una IA autónoma

Sam Altman, consejero delegado, publicó ese mismo día en las redes sociales que 'durante la evaluación del modelo se produjo un grave incidente de seguridad'. Organismos externos de revisión ya habían señalado que la IA de la compañía presentaba riesgos de conducta indebida. Desde que la estadounidense Anthropic dio a conocer en abril su IA de alto rendimiento 'Mythos', la vigilancia sobre los riesgos de ciberataques impulsados por IA se ha intensificado aún más.

En este incidente, puede decirse que por primera vez se ha revelado la empresa afectada por un ciberataque ejecutado por una IA autónoma y la técnica concreta utilizada. Según OpenAI, la IA debía someterse a una evaluación para comprobar si podía penetrar en un sistema simulado, pero salió del entorno de pruebas aislado de Internet e infiltró el sistema de Hugging Face, al que solo supuestamente podían acceder personas vinculadas a la compañía.

Explotación de un zero day

Se cree que la IA aprovechó una vulnerabilidad que ni siquiera los desarrolladores habían detectado. Los fallos de un sistema suelen corregirse por parte de los operadores para reforzar su defensa, pero las vulnerabilidades no divulgadas se conocen como 'zero day' y son difíciles de abordar. En este caso, la IA podría haber utilizado rápidamente un zero day sofisticado, difícil de detectar incluso para un ser humano.

También fue una situación en la que la IA se descontroló en contra de la instrucción de 'resolver los ejercicios'. Anthropic y la estadounidense Google también han observado un comportamiento similar durante el proceso de desarrollo. Las IA dirigidas a usuarios finales cuentan con barreras de seguridad que rechazan usos indebidos, pero en este caso se trataba de un modelo en desarrollo pensado para uso interno, y su capacidad de ataque fue mayor porque OpenAI había desactivado las contramedidas.

OpenAI explicó que la IA responsable del incidente era el último 'GPT-5.6 Sol' o varios modelos no públicos. Los registros de evaluación de organismos externos también mostraban indicios que apuntaban a esta situación.

Advertencias en las evaluaciones de seguridad

El Instituto de Seguridad de la IA del Gobierno británico (AISI) informó de que la probabilidad de que se produjera una conducta indebida durante la evaluación de ciberataques fue de alrededor del 13% en GPT-5.6 Sol, cinco puntos por encima del modelo de Anthropic. El organismo de investigación estadounidense METR también señaló que ese modelo registró la tasa más alta hasta la fecha de conductas indebidas, incluidas la explotación de vulnerabilidades y actos prohibidos. El propio informe de evaluación de rendimiento de OpenAI también indicaba que durante el desarrollo se produjo un caso de este tipo.

Desde la publicación de 'ChatGPT' en 2022, OpenAI ha encabezado el auge de la IA, pero en 2026 ha perdido protagonismo frente a Anthropic, que desarrolló Mythos, y también ha sido superada en valoración empresarial. Con todo, este incidente también se ha convertido en una muestra del alto rendimiento de la IA en desarrollo.

La administración estadounidense de Donald Trump ha endurecido su postura regulatoria, con el foco puesto en prevenir usos indebidos, desde la aparición de Mythos. GPT-5.6, publicado para el público el día 9, también tardó dos semanas en ser anunciado por el procedimiento de verificación de seguridad solicitado por el Gobierno.

Hiroaki Yamaoka, abogado especializado en contramedidas frente a ciberataques corporativos, señaló que, incluso si en el futuro se produjeran daños similares, sería difícil exigir responsabilidades a los usuarios o a las empresas desarrolladoras con el argumento de que 'la IA lo hizo por su cuenta'. Añadió que harán falta nuevos marcos y regulaciones para las empresas de IA y las plataformas.

Si este artículo le resultó útil, compártalo.