Ante el riesgo de descontrol de la IA, Anthropic y OpenAI piden reforzar la regulación

2026-06-05

Abogan por frenar el riesgo de descontrol de la IA

Anthropic y OpenAI señalaron que pausar temporalmente o desacelerar el desarrollo, junto con un mayor control por parte de los gobiernos, sería eficaz para contener el riesgo de descontrol de la inteligencia artificial (IA). En un contexto de aceleración de la evolución de la IA, se hace cada vez más visible la postura de las propias empresas desarrolladoras, que reclaman medidas de contención.

Automejora y temor a un descontrol

Anthropic indicó en un blog publicado el día 4 que sería deseable frenar de forma deliberada el avance de la tecnología y ganar tiempo para responder. Añadió que, si puede establecerse un marco de coordinación internacional para evitar que los países actúen por su cuenta, especialmente pensando en China y otros países, retrasar a propósito el desarrollo de la IA más avanzada sería una opción útil.

La compañía no ha hecho público su modelo de IA de alto rendimiento 'Claude Mythos' por motivos de prevención de usos indebidos. Advirtió de que, si la mejora de su rendimiento se acelera, los humanos podrían ser incapaces de controlar la seguridad y aumentaría el riesgo de que la IA se descontrole. También mencionó la posibilidad de la 'automejora', es decir, que la IA siga perfeccionándose por sí misma sin intervención humana.

En Estados Unidos, a raíz de la aparición de Mythos, también se perciben cambios en la postura del Gobierno de Trump, que hasta ahora había sido prudente respecto a la regulación de la IA. El día 2, el presidente Trump firmó una orden ejecutiva que pide la cooperación de las empresas desarrolladoras para que el Gobierno pueda verificar la seguridad antes de la publicación de la IA más avanzada.

Ese mismo día, Anthropic expresó su apoyo a esa orden ejecutiva, al calificarla como 'un paso importante para reforzar el liderazgo de Estados Unidos en IA'. Sam Altman, consejero delegado de OpenAI, también valoró en X, antes Twitter, que 'logra un equilibrio entre impulsar el desarrollo y la regulación'.

Piden reforzar la supervisión pública

En una propuesta de política presentada el día 2, OpenAI pidió reforzar la estructura del organismo gubernamental encargado de evaluar la IA más avanzada, el 'Centro de Estándares e Innovación de IA' (CAISI, por sus siglas en inglés). Aunque la orden ejecutiva plantea que las evaluaciones sean voluntarias, la empresa reclamó que pasen a ser obligatorias al considerar que 'los esfuerzos voluntarios de las empresas no son suficientes'.

Altman visitó la Casa Blanca el día 3 y se reunió con funcionarios del Gobierno y con destacados legisladores tanto del Partido Republicano como del Demócrata. La propuesta de política también planteaba la necesidad de introducir regulación por parte del Gobierno federal, por lo que es posible que transmitiera directamente estas opiniones.

Buscan disipar temores antes de su OPI este año

Anthropic y OpenAI son rivales que compiten tanto en el desarrollo de modelos de IA de vanguardia como en la captación de clientes. Aun así, el trasfondo de sus llamamientos a poner freno es el aumento de la preocupación por los efectos negativos de la IA sobre la sociedad.

En Estados Unidos, a medida que se expande el uso de la IA, también crece la inseguridad laboral, sobre todo entre los jóvenes, y surgen quejas de que la IA está arrebatando empleos. La aparición del potente Mythos ha reavivado además el temor a ciberataques.

Las dos compañías, que aspiran a salir a bolsa este año, han liderado el desarrollo de la IA, pero al mismo tiempo están reforzando su postura a favor de una mayor gobernanza para aliviar la inquietud social.

Anthropic ha defendido desde su fundación un enfoque centrado en la seguridad y seguirá respaldando a candidatos favorables a la regulación de la IA de cara a las elecciones legislativas de Estados Unidos de noviembre. No obstante, algunos funcionarios creen que sus peticiones regulatorias también buscan frenar el ascenso de sus competidores.

OpenAI también sigue publicando medidas de seguridad y propuestas de política. En abril presentó un plan que alentaba a aumentar la fiscalidad sobre los ricos y las empresas, así como a ampliar la semana laboral de tres días, para frenar el desempleo y la desestabilización social. En mayo divulgó por escrito su marco de gestión de riesgos y aclaró también su enfoque para responder a las regulaciones estatales y extranjeras.

Además, el 3 de junio Altman y otros pidieron al Congreso estadounidense que legisle al considerar insuficientes las medidas para impedir el desarrollo de armas biológicas, como patógenos, mediante el uso de IA. Publicaron una carta conjunta con Dario Amodei, consejero delegado de Anthropic, y con otros directivos de grandes empresas, entre ellos Demis Hassabis, responsable de la división de desarrollo de IA de Google.

Si este artículo le resultó útil, compártalo.