A Anthropic, desenvolvedora do modelo de linguagem Claude, revelou uma nova marca d’água destinada a identificar se um texto foi processado por sua inteligência artificial. A iniciativa busca alinhar-se com as regras de transparência estabelecidas pelo AI Act europeu, oferecendo um indicativo de procedência do conteúdo. No entanto, especialistas alertam que essa tecnologia não deve ser interpretada como uma prova irrefutável de autoria da IA, especialmente após intervenções humanas.
Um Sinal de Proveniência, Não Uma Prova Final
Anderson Soares, fundador do Centro de Excelência em Inteligência Artificial da Universidade Federal de Goiás (CEIA-UFG), explica que a marca d’água deve ser compreendida como um “sinal de proveniência ou de transparência probabilística”, e não como uma prova isolada. Isso significa que, embora a técnica possa sugerir a participação do Claude na produção de um conteúdo, ela não consegue distinguir, por si só, um texto integralmente gerado pela IA de outro que foi primariamente escrito por uma pessoa e apenas revisado ou aprimorado com o modelo.
Essa distinção é crucial em cenários de contestação, como suspeitas de plágio, fraudes acadêmicas ou disseminação de desinformação. “Você pode ter uma suspeita, mas transformar essa suspeita em uma prova é algo muito mais complexo. Em um contexto criminal, por exemplo, seria extremamente difícil utilizar esse tipo de mecanismo como prova isolada”, ressalta Soares. Ele enfatiza que o uso mais adequado da tecnologia é complementar outros métodos de verificação, pois não se trata de um “detector forense à prova de adversários”.
Como a Marca d’Água Funciona e Seus Desafios
Diferentemente de marcas d’água em imagens, que adicionam metadados ou caracteres ocultos, o sistema da Anthropic atua modificando a fonte de aleatoriedade utilizada pelo Claude ao escolher entre palavras plausíveis durante a geração de texto. Segundo Soares, a IA mantém um “padrão estatístico nessas decisões”, que pode ser associado a uma chave privada da empresa. Isso implica que a verificação da marca d’água depende do acesso a essa chave, tornando a checagem independente de um texto específico inviável para pesquisadores ou o público em geral.
A própria Anthropic reconhece que a eficácia da ferramenta é menor em amostras curtas, onde há menos escolhas de palavras para formar o sinal estatístico. O mesmo se aplica a respostas muito factuais, correções gramaticais pontuais e códigos, contextos em que o modelo tem menos liberdade criativa para formular o conteúdo. Consequentemente, o sistema tende a ser mais eficaz em textos longos e de estilo livre, como artigos, relatórios e ensaios, onde a abundância de escolhas linguísticas pode aumentar a confiança na participação do Claude.
A Eficácia Reduzida por Edições Humanas
Um ponto crítico levantado pela Anthropic e reforçado por Anderson Soares é o impacto da edição humana na detecção da marca d’água. Enquanto edições leves podem não removê-la completamente, uma reescrita integral tem o potencial de eliminá-la por completo. No entanto, Soares adverte que o problema vai além da substituição palavra por palavra.
“Uma edição típica, como reescrever trechos, cortar parágrafos, ajustar o tom ou trocar algumas palavras já pode colocar o texto em uma zona em que a confiabilidade da detecção despenca”, avalia o especialista. Essa vulnerabilidade é particularmente relevante em fluxos de trabalho onde o texto gerado pela IA é rotineiramente editado antes de sua publicação ou compartilhamento. Assim, a marca d’água oferece maior utilidade quando o conteúdo permanece próximo à versão original gerada pelo modelo de inteligência artificial.
Fonte: canaltech.com.br