Uma investigação chocante do Tech Transparency Project (TTP) revelou que a Meta veiculou mais de 350 anúncios contendo material de abuso sexual infantil (CSAM) gerado ou manipulado por inteligência artificial em suas plataformas, incluindo Facebook e Instagram, desde o final de 2025. O caso é alarmante, pois os conteúdos não eram meras publicações de usuários, mas sim anúncios pagos que, surpreendentemente, conseguiram passar pelos rigorosos sistemas de análise da Meta, que afirma revisar imagens, vídeos, textos e destinos de links antes da veiculação.
Anúncios Usavam Fotos Reais de Crianças e IA
Segundo o TTP, a maioria das peças identificadas seguia um padrão perturbador: imagens de crianças ou adolescentes eram utilizadas e, em seguida, ferramentas de IA criavam vídeos com conteúdo sexual explícito. Pesquisadores conseguiram rastrear fotos reais de menores que haviam sido previamente publicadas em redes sociais, sites e bancos de imagens. Um dos casos mais graves envolvia uma fotografia oficialmente divulgada por uma família real europeia, que foi transformada em material abusivo. Além disso, imagens de adolescentes com perfis públicos nas próprias plataformas da Meta foram exploradas, permitindo até a associação da imagem do anúncio à identidade real de uma vítima.
A maior parte desses anúncios direcionava os usuários para aplicativos de geração ou manipulação de imagens e vídeos por IA. Cerca de 300 das 350 peças identificadas estavam ligadas a esse tipo de ferramenta, muitas delas com desenvolvedores ou conexões com empresas chinesas.
Falha na Moderação da Meta e Reação da Empresa
Os anúncios deveriam ter sido barrados pelos mecanismos de moderação da Meta, que possui políticas específicas contra exploração sexual infantil e utiliza sistemas automatizados para análise. Contudo, o TTP identificou 332 anúncios que conseguiram passar pelo processo de revisão. Em 1º de setembro, mais da metade ainda estava ativa na Biblioteca de Anúncios da Meta. Somente após os pesquisadores compartilharem suas descobertas com a empresa, os 149 anúncios restantes foram removidos.
A investigação também apontou um problema na classificação dos anúncios. Em 113 casos, a Meta havia inicialmente registrado violações relacionadas a conteúdo adulto ou outras políticas, sem indicar que havia material envolvendo crianças. Essas classificações foram alteradas após a intervenção do TTP. A revista WIRED também documentou casos de anúncios denunciados que permaneceram ativos por dias, um deles alcançando mais de 330 visualizações antes de ser removido.
Milhares de Usuários Expostos ao Conteúdo Abusivo
Os dados da Biblioteca de Anúncios revelam que as campanhas de abuso alcançaram mais de 29 mil contas na União Europeia e cerca de 7 mil no Reino Unido. Embora a ferramenta da Meta não forneça métricas detalhadas para todos os países, o TTP identificou 262 anúncios veiculados nos Estados Unidos, 120 na Austrália e 84 na Índia. Essa estimativa pode ser conservadora, dada a limitação dos dados da plataforma.
Em resposta à WIRED, a Meta afirmou que muitos dos anúncios já haviam sido removidos e que a maioria teve menos de 200 impressões. A empresa também declarou ter recebido menos de US$ 5 mil em pagamentos relacionados às peças identificadas. A Meta reiterou que não tolera aplicativos de ‘nudificação’ ou qualquer forma de exploração infantil, seja com material real ou gerado por IA, e que ‘criminosos mudam constantemente as estratégias para escapar dos sistemas de detecção’.
Apple, Google e Autoridades Agem Após a Denúncia
A investigação não se limitou à Meta, estendendo-se aos aplicativos promovidos pelos anúncios. A WIRED identificou quase 50 apps relacionados às campanhas nas lojas da Apple e do Google. Ambas as empresas agiram rapidamente, informando que removeram os aplicativos associados à investigação. A Apple afirmou ter tomado medidas contra os desenvolvedores envolvidos, enquanto o Google declarou ter retirado os apps identificados e aplicado outras restrições contra ferramentas de ‘nudificação’.
O episódio também gerou forte reação de autoridades. Parlamentares e órgãos reguladores dos Estados Unidos e da Austrália anunciaram que estão analisando o caso, enquanto a Meta já enfrenta outras disputas relacionadas à proteção de crianças em suas plataformas, adicionando mais um capítulo preocupante à sua trajetória.
Fonte: canaltech.com.br