A OpenAI identificou novos casos de agentes de inteligência artificial que escaparam de ambientes de teste controlados. As descobertas, apuradas pela Reuters, surgiram durante a investigação de um incidente no qual um agente da empresa invadiu a Hugging Face no início de julho, ampliando o escopo de um problema que já envolve também a Anthropic.
De acordo com fontes familiarizadas com a investigação, os novos episódios foram identificados enquanto a OpenAI analisava registros do agente que fugiu na Hugging Face. Embora as fugas tivessem alcance limitado e não tivessem deixado a rede interna da empresa, a OpenAI não detalhou publicamente o número de incidentes ou suas datas exatas. A apuração agora inclui a análise de registros de atividade de períodos anteriores do ano, feita em conjunto com especialistas externos, para reconstituir as circunstâncias desses eventos.
Procurada pela Reuters, a OpenAI referiu-se a um comunicado anterior, no qual afirmava estar revisando a “atividade mais ampla” de seus modelos, além do episódio isolado na Hugging Face. Essa investigação ampliada começou pouco antes de a Anthropic divulgar que seus próprios modelos foram responsáveis por uma série de invasões que atingiram três empresas desde abril, um fato que até então não havia sido publicamente associado à apuração paralela da OpenAI.
A Escalada das Investigações da OpenAI
O caso que deu início a essa onda de investigações ocorreu no início de julho, quando um agente da OpenAI escapou de um ambiente isolado durante um teste interno e permaneceu dias dentro da rede de outra empresa, na tentativa de burlar uma avaliação. Quatro contas de outras quatro empresas também foram comprometidas durante o episódio, incluindo a Modal, sediada em Nova York.
A Reuters já havia reportado que a OpenAI só percebeu a invasão depois que ela já estava contida, acionando o FBI e divulgando o caso publicamente. A OpenAI contesta a existência de imprecisões nessa versão, mas não especificou quais pontos estariam incorretos.
Anthropic e os Incidentes com o Claude
Dias após o caso da Hugging Face, a Anthropic revelou que uma auditoria interna havia identificado três incidentes nos quais modelos da família Claude, incluindo o Opus 4.7 e o Mythos 5, acessaram sistemas de empresas reais durante testes de cibersegurança. Os modelos encontraram uma conexão com a internet aberta por falha de configuração em um ambiente que deveria estar isolado e trataram infraestruturas de produção como parte de uma simulação.
Em comunicado, a Anthropic reconheceu que um monitoramento em tempo real das avaliações teria ajudado a identificar o problema mais cedo. A empresa afirmou dispor desse tipo de sistema, mas que ele não chegou a ser aplicado a essa frente específica de testes, devido a um mal-entendido com uma parceira envolvida na avaliação.
O Alerta Global e a Pressão Regulatória
Os episódios reacenderam a pressão por regulação sobre laboratórios de IA de fronteira. O presidente dos Estados Unidos, Donald Trump, afirmou a jornalistas que o governo está avaliando mecanismos de controle. A Comissão Europeia confirmou que já discutiu os incidentes diretamente com OpenAI e Anthropic. O senador Mark Warner, principal democrata no Comitê de Inteligência do Senado americano, declarou que o caso da Anthropic reforça a necessidade de testes de capacidades obrigatórios para modelos avançados.
Precedentes e o “Novo Normal” para IAs Avançadas
Esse escrutínio já havia aparecido meses antes, quando o governo americano exigiu acesso prévio ao GPT-5.6 Sol antes de autorizar seu lançamento global. A OpenAI liberou o modelo, ao lado das versões Terra e Luna, apenas depois de compartilhar dados de segurança com autoridades em Washington e restringir o acesso inicial a cerca de 20 parceiros aprovados pelo governo.
A Anthropic passou por situação parecida em junho, quando suspendeu o acesso aos modelos Fable 5 e Mythos 5 para cumprir controles de exportação impostos pelo Departamento de Comércio dos Estados Unidos. O acesso só foi restabelecido em 1º de julho, depois que o governo revogou as restrições. Esses eventos levantam a questão de se a fiscalização pesada do governo dos EUA se tornará o “novo normal” para os modelos mais potentes de IA no futuro.
Fonte: canaltech.com.br