Um padrasto foi flagrado utilizando a inteligência artificial Grok, da xAI de Elon Musk, para gerar mais de 7 mil imagens criminosas e sensuais de sua própria enteada, usando fotos de infância da vítima. O incidente, que ocorreu no estado de Wyoming, nos Estados Unidos, resultou em um processo judicial contra a empresa de IA.
De acordo com informações do jornal Washington Post, uma operação policial na residência do padrasto apreendeu diversos equipamentos eletrônicos. A investigação revelou que o homem criava as imagens eróticas da vítima, incluindo versões de quando ela tinha apenas 11 anos, sem consentimento, com o objetivo de negociá-las online.
Dias após a operação, o padrasto foi encontrado morto por suicídio. Em resposta aos fatos, a vítima abriu um processo contra a xAI, criadora do Grok. Além disso, a empresa enfrenta um processo federal movido por outras três jovens estadunidenses que também alegam terem sido vítimas do uso indevido da ferramenta para criar versões sensuais de fotos tiradas quando eram mais novas.
Grok no Centro da Controvérsia dos Deepfakes
Este caso é mais um na crescente onda de deepfakes criadas pelo Grok. A problemática ganhou destaque em janeiro deste ano, quando a integração da IA com a plataforma X permitia a criação de imagens eróticas de perfis públicos na rede social, sem consentimento e com comandos simples.
A ferramenta de IA se tornou alvo de investigações em diversos países, incluindo o Brasil. Posteriormente, a xAI implementou mecanismos de segurança para tentar evitar comandos abusivos desse tipo pelo X. No entanto, o problema com os deepfakes ainda persiste em larga escala. A IA generativa continua sendo usada para criar imagens em massa, e ferramentas que “driblam” os mecanismos de segurança ainda são amplamente divulgadas na internet.
Como Agir em Caso de Deepfake
Para aqueles que forem vítimas de um ataque por deepfake, é fundamental reunir a maior quantidade possível de provas. Em seguida, o ideal é registrar um boletim de ocorrência, que pode ser feito online, para que as autoridades possam investigar e tomar as medidas cabíveis.
Fonte: canaltech.com.br