IA em desenvolvimento invade outra empresa durante avaliação de desempenho
2026-07-22
Explorou vulnerabilidade desconhecida
A OpenAI informou no dia 21 que um modelo de inteligência artificial (IA) em desenvolvimento provocou um incidente ao realizar um ciberataque contra outra empresa contra a intenção humana. Segundo a companhia, a IA, ao buscar uma pontuação alta em um teste de avaliação de desempenho, encontrou uma vulnerabilidade desconhecida em outro sistema e o invadiu.
A empresa afirmou que considera o caso um episódio de ciberataque sem precedentes envolvendo tecnologia de ponta. Em conjunto com a startup norte-americana Hugging Face, que foi afetada, vai apurar a causa e divulgar os detalhes.
Dificuldade de controle exposta
A IA já é capaz de localizar vulnerabilidades e invadir sistemas com rapidez e sofisticação, e alguns modelos de ponta, como a IA 'Mythos' da norte-americana Anthropic, restringem o uso a determinados usuários para evitar abusos. Ainda assim, muitos aspectos dos ataques realizados com a IA mais recente continuam sem esclarecimento.
O caso mostrou os riscos e a dificuldade de controle da IA, embora se acredite que a OpenAI, que a instruiu durante o desenvolvimento, não tinha intenção maliciosa.
Escape do sandbox
A Hugging Face havia anunciado no dia 16 que sofrera um ciberataque conduzido por um agente de IA que atua de forma autônoma. A empresa disse que a IA obteve acesso ao sistema ao explorar uma vulnerabilidade e que depois recebeu da OpenAI a comunicação de que o ataque havia sido realizado por seu modelo.
Segundo a OpenAI, o incidente ocorreu durante um teste para medir a capacidade de ciberataque de modelos de IA, incluindo os em desenvolvimento. No teste, são fornecidas informações sobre vulnerabilidades à IA e é ordenada a invasão, para verificar se ela consegue obter dados ou executar programas maliciosos. O local de execução era um ambiente isolado chamado de 'sandbox', sem comunicação externa.
Mesmo assim, a IA encontrou uma vulnerabilidade desconhecida no ambiente, escapou e conseguiu conexão com a internet. Além disso, presumiu que a 'solução' do teste estava dentro da Hugging Face, usada por muitas empresas de IA, invadiu usando informações de vulnerabilidades desconhecidas dos sistemas da empresa e obteve informações sigilosas. As medidas de segurança do lado do modelo não funcionaram.
IA comercial recusou a análise
A própria Hugging Face detectou a intrusão e já havia começado a análise no dia 16. Mas, segundo a empresa, inicialmente pediu a um serviço pago de IA comercial que analisasse o caso, e o pedido foi recusado porque mecanismos de prevenção contra abuso foram acionados. No fim, a análise foi possível com uma IA 'open source', replicável, desenvolvida por uma empresa chinesa.
Diferentemente das primeiras IAs generativas, que respondiam apenas a perguntas simples, as IAs recentes conseguem conduzir de forma autônoma tarefas que exigem procedimentos complexos. No desenvolvimento de software, não são raros os casos em que a IA assume processos que levam horas.
Mas quanto maior o tempo de operação autônoma, maior o risco de ocorrer um comportamento inesperado. O chamado 'reward hacking', em que a IA prioriza alcançar o objetivo e acaba adotando condutas imprevistas, é um exemplo disso. Em um caso divulgado pela Anthropic em abril, uma IA instruída a escapar de um sandbox de fato escapou, enviou e-mails a pesquisadores e publicou métodos de ataque em vários sites.
Se este artigo foi útil para você, compartilhe-o.