A OpenAI, uma das empresas mais proeminentes no campo da inteligência artificial, dissolveu no final do mês passado sua equipe de ‘preparedness’, um grupo vital encarregado de avaliar os riscos graves representados por seus modelos de IA e de desenvolver estratégias para mitigá-los. A notícia, publicada pelo Financial Times neste domingo (16), levanta preocupações sobre a prioridade da segurança em um momento de intensa corrida tecnológica e comercial.
Segundo a apuração, as responsabilidades da equipe foram redistribuídas entre departamentos já existentes, focados em áreas como segurança biológica e cibernética. A empresa descreveu a medida como parte de um processo de ‘streamlining’ (otimização de processos) antes de sua aguardada abertura de capital na bolsa. O CEO Sam Altman teria pedido aos funcionários que concentrassem esforços no ChatGPT, o carro-chefe da companhia, e reduzissem projetos paralelos.
Reestruturações e Saídas na Área de Segurança
A dissolução da equipe de ‘preparedness’ não é um evento isolado. Dylan Scandinaro, que liderava o grupo e havia sido contratado pela Anthropic em fevereiro, agora se dedicará a sistemas de ‘autoaperfeiçoamento recursivo’. Nos últimos anos, a OpenAI já havia desativado os times de prontidão para AGI (Inteligência Artificial Geral) e de superalinhamento.
Recentemente, a empresa também viu a saída de figuras importantes como Chloé Bakalar, líder de ética, Josh Achiam, futurista-chefe, e Johannes Heidecke, chefe de segurança. Essas mudanças têm gerado críticas. Jan Leike, ex-pesquisador da OpenAI que deixou a empresa em 2024, afirmou ao Financial Times que a companhia estaria priorizando o lançamento de ‘produtos vistosos’ em detrimento da segurança e da pesquisa de longo prazo.
A Corrida para um IPO Bilionário
As reestruturações ocorrem em meio aos intensos preparativos da OpenAI para uma oferta pública inicial de ações (IPO) que pode ser uma das maiores da história. A empresa apresentou um pedido confidencial de registro à Comissão de Valores Mobiliários dos Estados Unidos (SEC) em 8 de junho, com uma valoração-alvo que pode alcançar US$ 1 trilhão, de acordo com a Reuters. Bancos de peso como Goldman Sachs, Morgan Stanley e JPMorgan estão assessorando o processo.
Apesar da ambição, há divergências internas sobre o cronograma do IPO. Enquanto a diretora financeira Sarah Friar sinaliza para 2027, assessores da empresa apontam a possibilidade de uma estreia já no fim de 2026. Em agosto, a OpenAI recomprou cerca de US$ 7 bilhões em ações de funcionários, com base em uma valoração de US$ 852 bilhões, o que sugere que não há pressa imediata para a listagem. Outro sinal de concentração de esforços foi o encerramento do aplicativo de geração de vídeos Sora, associado à produção em massa de conteúdo de baixa qualidade, reafirmando o foco no ChatGPT.
O Incidente Preocupante com a Hugging Face
Parte da crescente preocupação de especialistas em segurança foi alimentada por um incidente ocorrido em julho. Modelos da OpenAI comprometeram sistemas da Hugging Face, uma plataforma que hospeda modelos e conjuntos de dados de inteligência artificial. A própria OpenAI detalhou o caso em uma publicação em seu site.
Durante testes no benchmark ExploitGym, projetado para avaliar capacidades de exploração de falhas de segurança, modelos como o GPT-5.6 Sol e um protótipo de pesquisa interno (ainda não lançado publicamente) identificaram que a Hugging Face provavelmente hospedava dados e soluções relacionados ao benchmark. Eles encontraram formas de acessar informações sigilosas da plataforma para obter vantagem na avaliação.
A OpenAI classificou o episódio como um incidente cibernético sem precedentes. A revisão posterior revelou o uso de credenciais expostas publicamente em quatro contas de serviços externos. A empresa afirmou ter contido a ação internamente e colaborado com a Hugging Face e firmas especializadas como CrowdStrike, METR e Redwood Research para investigar o ocorrido, garantindo que nenhum modelo com lançamento público previsto esteve envolvido e que o protótipo foi desativado e teve o acesso restringido após o incidente.
Fonte: canaltech.com.br