Em um cenário digital cada vez mais dominado por imagens geradas por inteligência artificial, o especialista em forense digital Hany Farid, professor da Universidade da Califórnia em Berkeley, está usando uma abordagem surpreendente para desmascarar deepfakes: a física e a geometria. Com mais de duas décadas de experiência na validação de mídias digitais, Farid foca em princípios fundamentais que os modelos generativos de IA ainda não conseguem replicar com exatidão matemática.
A Geometria por Trás da Autenticidade
A metodologia de Farid baseia-se na premissa de que linhas que são paralelas na realidade devem convergir para um único ponto de fuga em uma imagem. Este princípio não se aplica apenas a estruturas físicas, como ruas ou prédios, mas também à direção dos raios solares. Devido à imensa distância do Sol, seus raios chegam à Terra de forma praticamente paralela. Isso implica que as linhas que conectam um objeto à sua sombra devem se cruzar no exato mesmo ponto de fuga das demais linhas paralelas do cenário.
Enquanto uma fotografia autêntica adere rigorosamente a essa regra geométrica, imagens geradas por inteligência artificial frequentemente falham, mostrando linhas de projeção de sombras que se cruzam de maneira desordenada. Farid explica que o sistema visual humano tende a ignorar pequenas distorções, o que diminui o ímpeto das empresas de tecnologia em aperfeiçoar a física de seus modelos. No entanto, uma análise pericial rigorosa, muitas vezes com reconstruções tridimensionais, consegue expor essas inconsistências.
Outras Armas Contra a Manipulação Digital
Além da análise geométrica e física, o mercado de segurança digital explora outras soluções para combater a proliferação de mídias sintéticas. O Google, por exemplo, desenvolveu o sistema SynthID, uma ferramenta institucional que aplica uma marca-d’água digital imperceptível diretamente nos pixels de imagens, áudios e vídeos gerados por inteligência artificial. Essa tecnologia é projetada para resistir a edições comuns, como cortes ou compressões, permitindo que plataformas verifiquem a procedência do conteúdo de forma automatizada.
Outro método em ascensão envolve o uso de softwares de leitura labial automatizada para identificar deepfakes em vídeos. Ao confrontar os movimentos da boca com as frequências sonoras do áudio, essas ferramentas conseguem revelar incompatibilidades que são extremamente difíceis de serem mitigadas manualmente pelos criadores de conteúdo falso.
A Corrida Armamentista da IA Generativa
Apesar da eficácia dessas abordagens, o campo da detecção de deepfakes enfrenta um desafio constante: a rápida evolução dos modelos generativos de IA. No início, era comum encontrar falhas evidentes em imagens criadas por IA, como mãos com seis dedos ou textos ilegíveis. Contudo, os desenvolvedores corrigiram essas limitações de forma acelerada nas versões mais recentes dos softwares.
Essa rápida melhoria significa que os sinais visuais ou técnicos que são eficazes hoje podem se tornar obsoletos amanhã. Analistas de segurança digital alertam que a inovação constante nas metodologias de perícia digital é crucial para se manter um passo à frente das tecnologias de falsificação, garantindo a integridade do conteúdo online.
Fonte: canaltech.com.br