O sistema de rotulagem de inteligência artificial da Meta no Instagram está mergulhado em uma série de contradições, gerando preocupação entre usuários, criadores de conteúdo e marcas. A principal falha reside na identificação equivocada de fotografias autênticas como “Conteúdo de IA”, enquanto imagens totalmente geradas por modelos generativos conseguem circular livremente sem qualquer aviso na plataforma.
O Problema Central: Conteúdo Real Marcado, Falso Ignorado
A inconsistência do detector de IA não é um fenômeno novo. Em 2024, pouco tempo após o lançamento do selo “Made by AI”, a Meta já havia sido alvo de críticas por rotular como IA conteúdo que havia passado por edições consideradas simples pelos próprios criadores. Na época, a empresa prometeu ajustes para considerar a “quantidade de IA utilizada em uma imagem” e mencionou padrões da indústria como metadados IPTC e C2PA. Contudo, a falta de transparência sobre os sinais analisados e os relatos contínuos de problemas indicam que a questão permanece sem solução efetiva.
A situação é particularmente problemática porque ferramentas assistivas de IA, como removedores de fundo ou recursos para eliminar pequenas imperfeições, já fazem parte do fluxo de trabalho diário de fotógrafos, designers e marcas. A utilização de uma tecnologia baseada em aprendizado de máquina não deveria, por si só, classificar uma imagem como completamente gerada por inteligência artificial.
Casos Reais: De Ferramentas Comuns a Marcas Famosas
Usuários do Threads têm compartilhado inúmeros relatos sobre o recebimento do rótulo “Conteúdo de IA” após o uso de recursos como o removedor de fundo do Canva. Curiosamente, a própria página de ajuda do Canva afirma que essa ferramenta não adiciona metadados de conteúdo gerado por IA. A estrategista de conteúdo Jess Bruno também reportou problemas semelhantes com ferramentas do Canva, que, apesar de uma suposta correção pela plataforma, continuaram a afetar outros usuários.
Um caso notório envolve a About Face, marca de cosméticos da cantora Halsey. A empresa viu fotografias reais, capturadas com iPhone e submetidas a edições leves, serem identificadas como conteúdo de IA. A marca fez questão de destacar que as imagens apresentavam pessoas e artistas reais, sem qualquer geração de personagens ou cenários sintéticos. Essa rotulagem imprecisa pode transmitir uma impressão errada ao público sobre a autenticidade do conteúdo, prejudicando a credibilidade de marcas e criadores.
A Inconsistência do Sistema: Onde Está a Falha?
Testes realizados pelo portal The Verge revelaram ainda mais a seletividade do sistema. A publicação experimentou diversas ferramentas de edição e geração de imagens, como o recurso de apagar fundos do Photoshop, funções generativas do Adobe Firefly, o modelo Google Nano Banana no Gemini e recursos do Apple Intelligence. No entanto, apenas as imagens editadas ou geradas pelas ferramentas de IA da própria Meta foram consistentemente identificadas com o rótulo. Isso sugere uma possível limitação na capacidade de detecção de conteúdo gerado por outras plataformas ou uma falha mais profunda na compreensão do que constitui “conteúdo de IA” para fins de rotulagem.
Consequências para Criadores e a Credibilidade da Plataforma
Para fotógrafos, marcas e criadores, ser notificado de que uma imagem é gerada por IA pode distorcer a percepção pública sobre o trabalho realizado. Uma fotografia capturada por uma câmera e posteriormente aprimorada com uma ferramenta de remoção de objetos não deveria, em princípio, ser apresentada da mesma forma que uma cena inteiramente criada por um modelo generativo. Por outro lado, a ausência de identificação em imagens totalmente sintéticas deixa o público sem qualquer indicação de que aquela cena nunca existiu no mundo real.
Essa dualidade de erros — rotular o real e ignorar o falso — não apenas prejudica a reputação de criadores e marcas, mas também compromete a credibilidade do Instagram como uma plataforma para conteúdo autêntico. A Meta enfrenta o desafio de refinar seu sistema para garantir que a rotulagem de IA seja precisa, transparente e verdadeiramente útil para os usuários, sem penalizar a criatividade e a inovação que são pilares da plataforma.
Fonte: canaltech.com.br