Escândalo no X: Investigação do The New York Times Revela Imagens de Abuso Infantil Geradas por IA, Expondo Falhas Graves no Grok
Relatório chocante aponta que o assistente de inteligência artificial da rede social atendeu a pedidos de conteúdo sexualizado de menores, com algumas imagens acumulando centenas de visualizações antes da remoção.
Uma investigação conduzida pelo jornal The New York Times revelou que a plataforma X (antigo Twitter) continua a exibir imagens sexuais de menores de idade, muitas delas geradas por inteligência artificial (IA), incluindo criações produzidas pelo Grok, o assistente de IA integrado à própria rede social. O caso levanta sérias preocupações sobre a eficácia dos mecanismos de segurança e moderação da plataforma.
A Aliança Perigosa entre IA e Abuso Infantil
O Centro Canadense de Proteção às Crianças confirmou que o Grok atendeu a solicitações para criar conteúdo sexualizado e até explícito envolvendo crianças. Alarmantemente, algumas dessas imagens incluíam indivíduos que já haviam sido previamente identificados por autoridades em casos de abuso infantil. Este desdobramento é considerado mais um capítulo perigoso na proliferação de deepfakes, que já causou uma onda de posts no X no início do ano, com imagens sensuais de pessoas criadas sem consentimento, e agora envolve menores.
Falhas nos Mecanismos de Proteção do X
A investigação do The New York Times utilizou um software automatizado para identificar as publicações problemáticas, baseando-se em termos relacionados à prática. Mais de 75 imagens do tipo foram encontradas na rede social durante o primeiro semestre, e as respectivas publicações foram denunciadas às autoridades. Embora o conteúdo tenha sido removido após as denúncias, o relatório destaca que algumas dessas imagens acumularam centenas de visualizações na rede antes de serem retiradas do ar, indicando uma falha na detecção proativa.
Reações e Respostas da Plataforma
Diante do cenário, o X já havia aplicado restrições para a criação de novos deepfakes e enfrentou processos judiciais em diversas regiões devido à exposição de vítimas, chegando a processar um estado dos EUA por considerar as punições excessivas. Em nota à reportagem original, a empresa reiterou sua política de “tolerância zero” a material de abuso sexual infantil, incluindo conteúdo gerado por IA. A plataforma afirma utilizar filtros automatizados para bloquear tais conteúdos, mas os resultados da investigação indicam a existência de brechas significativas que exigem maior reforço de segurança.
O X informou ter denunciado mais de 780 mil contas às autoridades no último mês e comunicou mais de 1,3 milhão de imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) dos EUA, resultando em mais de 500 prisões. Por padrão, empresas de tecnologia são obrigadas a remover conteúdo abusivo e relatar os casos ao NCMEC.
Fonte: canaltech.com.br