Amazon comunica al Gobierno el riesgo de uso indebido en la regulación de Anthropic
En el caso en que el Gobierno de Estados Unidos prohibió la oferta en el extranjero de la IA avanzada 'Claude Mythos' y otros modelos, se supo que un directivo de Amazon.com había informado con antelación a las autoridades sobre el riesgo de uso indebido de ese modelo.
Preocupación por una laguna en las medidas de seguridad
Según el Wall Street Journal (WSJ) y otros medios estadounidenses, Amazon tenía información sobre una 'laguna' que permitiría eludir las medidas de seguridad si se ajustaban los mensajes de instrucciones. En una reunión entre empresas tecnológicas y altos cargos de la Administración, el consejero delegado Andy Jassy habría trasladado la preocupación.
El Gobierno verificó primero si realmente podía ser explotado de forma indebida y, tras hablar con Anthropic, el día 12 decidió clasificar ese modelo como sujeto a control de exportaciones y prohibir su suministro al extranjero y a extranjeros.
Suspensión del suministro y choque
Anthropic, tras la decisión de prohibición del Gobierno, suspendió el día 12 en todo el mundo el suministro de 'Claude Mythos' y de la última versión de 'Fable', un modelo de IA para el público general con un rendimiento equivalente. Sigue siendo posible utilizar otra IA de menor capacidad.
Cuando la empresa presentó Mythos en abril, limitó su uso a determinadas empresas y gobiernos al considerar elevado el riesgo de que pudiera ser utilizado indebidamente para ciberataques y otros fines. Tras aplicar medidas de seguridad, acababa de lanzarlo al público el día 9 bajo el nombre de Fable.
Por su parte, Anthropic respondió en un comunicado el día 12 que la laguna era menor y que no había problemas de seguridad. Sostuvo que la decisión del Gobierno de incluirlo en la prohibición tenía 'un malentendido'.
Diferencias de tono en el sector
Según el sitio de noticias estadounidense Axios, desde el día 11 más de cinco empresas transmitieron al Gobierno preocupaciones similares a petición de Amazon. David Sacks, alto cargo del Gobierno, dijo el día 13 en X, antes Twitter, que el Gobierno pidió corregir la laguna o mantener el modelo de IA fuera de la vista del público, pero que el consejero delegado de Anthropic, Dario Amodei, no accedió.
Amazon explicó a Nikkei que, como gran empresa de la nube con muchos clientes entre compañías y gobiernos y administraciones locales, no es raro que organismos públicos le pidan asesoramiento sobre riesgos de seguridad. Añadió que, aunque haya consultas, no divulga los detalles.
Relación entre Amazon y Anthropic
Amazon es uno de los principales accionistas de Anthropic y en abril anunció una inversión adicional de hasta 25.000 millones de dólares, unos 4 billones de yenes. Anthropic ofrece sus modelos de IA a través de AWS, la nube de Amazon, y para su desarrollo y operación también utiliza semiconductores de IA diseñados por Amazon.
Anthropic, fundada en 2021, se presenta como una empresa de 'IA centrada en la seguridad'. Con el modelo de IA 'Claude' como eje, ha ampliado su uso empresarial, incluidos generadores de código para programación. Su valor empresarial ha alcanzado 965.000 millones de dólares, y el día 1 presentó el folleto para una oferta pública inicial (OPI).
La compañía mantiene una disputa con el Gobierno de Estados Unidos por el uso militar de la IA. En febrero, el Departamento de Defensa la designó como un riesgo para la seguridad de la cadena de suministro. Anthropic demandó al Gobierno estadounidense en marzo, y el litigio sigue en curso.
Si este artículo le resultó útil, compártalo.