Amazon comunicou ao governo risco de uso indevido na regulação da Anthropic
No caso em que o governo dos EUA proibiu a oferta internacional da IA avançada 'Claude Mythos' e de outros sistemas, descobriu-se que executivos da Amazon.com haviam informado previamente ao governo sobre o risco de uso indevido desse modelo.
Preocupação com brechas nas salvaguardas
Segundo o Wall Street Journal (WSJ) e outros veículos dos EUA, a Amazon tinha informações sobre uma 'brecha' que permitiria contornar as salvaguardas com ajustes nas instruções. Em uma reunião entre empresas de tecnologia e autoridades do governo, o CEO Andy Jassy teria manifestado a preocupação.
Depois de verificar se o modelo poderia de fato ser usado de forma indevida, o governo negociou com a Anthropic e, no dia 12, definiu que o modelo passaria a ser classificado como item de controle de exportação, proibindo sua oferta no exterior e a estrangeiros.
Suspensão da oferta e confronto
A Anthropic, após a decisão de proibição do governo, suspendeu no dia 12, em todo o mundo, a oferta de 'Claude Mythos' e da versão mais recente de 'Fable', um modelo de IA voltado ao público em geral com desempenho equivalente. Outras IAs de desempenho inferior continuam disponíveis.
Ao lançar o Mythos em abril, a empresa havia limitado seu uso a algumas empresas e governos, alegando alto risco de uso indevido em ataques cibernéticos e outros fins. Após aplicar salvaguardas, havia acabado de disponibilizá-lo ao público em 9 de abril sob o nome Fable.
Por outro lado, em comunicado no dia 12, a Anthropic contestou, afirmando que a brecha era pequena e que não havia problema de segurança. A empresa disse que havia 'um equívoco' na decisão do governo de incluir o modelo na proibição.
Diferenças dentro do setor
Segundo o site de notícias Axios, a partir do dia 11, mais de cinco empresas, a pedido da Amazon, levaram ao governo preocupações semelhantes. Em 13 de abril, o alto funcionário do governo David Sacks afirmou no X, antigo Twitter, que o governo havia pedido que a brecha fosse corrigida ou que o modelo de IA fosse mantido fora do público, mas o CEO da Anthropic, Dario Amodei, não atendeu.
A Amazon disse ao Nikkei que, como uma grande empresa de nuvem com muitos clientes entre empresas e governos e administrações locais, não é incomum que órgãos governamentais peçam orientações sobre riscos de segurança. A empresa afirma que não divulga detalhes mesmo quando há consultas.
Relação entre Amazon e Anthropic
A Amazon é uma das principais acionistas da Anthropic e, em abril, anunciou um aporte adicional de até 25 bilhões de dólares, cerca de 4 trilhões de ienes. A Anthropic oferece seus modelos de IA por meio da nuvem AWS da Amazon e também usa semicondutores de IA projetados pela própria Amazon no desenvolvimento e na operação.
Fundada em 2021, a Anthropic adota o lema de 'IA com foco em segurança'. Com o modelo de IA Claude como eixo, a empresa ampliou o uso corporativo, incluindo ferramentas de geração de código para programação. Seu valor de mercado chegou a 965 bilhões de dólares, e em 1º de abril apresentou o prospecto para uma oferta pública inicial (IPO).
A empresa mantém disputa com o governo dos EUA em torno do uso militar da IA. Em fevereiro, o Departamento de Defesa classificou a companhia como risco de segurança na cadeia de suprimentos. A Anthropic processou o governo dos EUA em março, e a ação judicial ainda está em andamento.
Se este artigo foi útil para você, compartilhe-o.