A Anthropic, desenvolvedora da inteligência artificial Claude, divulgou recentemente como funciona seu sistema de marca d’água invisível para textos gerados pela IA. A iniciativa visa aumentar a transparência sobre conteúdos produzidos artificialmente e atender às regulamentações do AI Act, a Lei de Inteligência Artificial da União Europeia.
Segundo a empresa, a tecnologia será implementada globalmente em futuros modelos e de forma gradual nos modelos antigos, sem comprometer a qualidade, criatividade ou legibilidade das respostas. Além disso, o mecanismo não acarreta custos adicionais, não exige tokens extras e não coleta informações que possam identificar o usuário ou a conversa, preservando a privacidade.
Como a marca d’água invisível do Claude funciona?
A marca d’água é incorporada durante o processo de geração do texto. Quando o Claude seleciona a próxima palavra, o sistema pode direcionar essa escolha entre termos de significado semelhante. Por exemplo, em uma frase onde “nublado” e “cinzento” poderiam ser usados, a IA utiliza uma chave específica para influenciar sutilmente a decisão.
Essa sequência de palavras escolhidas cria um padrão estatístico que pode ser posteriormente identificado. A tecnologia é baseada no SynthID-Text, um sistema desenvolvido pelo Google DeepMind, e a Anthropic planeja lançar uma API de detecção para que empresas e usuários possam verificar a probabilidade de um texto ter sido gerado pelo Claude.
Qual o impacto nos textos e usuários?
A Anthropic assegura que a marca d’água não afeta a qualidade, criatividade ou legibilidade das respostas da IA. O objetivo principal é indicar a procedência do texto, sem alterar sua propriedade legal ou a responsabilidade do usuário pelo material gerado. Isso significa que o conteúdo continua sendo propriedade do usuário, mesmo com a identificação de sua origem.
Limitações e desafios da detecção
Apesar de inovadora, a tecnologia possui algumas limitações. A detecção da marca d’água funciona melhor em textos mais longos, onde há mais oportunidades para o modelo fazer escolhas de palavras e construir o padrão estatístico. Em conteúdos curtos, códigos de programação ou textos puramente factuais, a aplicação da marca d’água pode ser reduzida ou inexistente para não comprometer a precisão.
Se a IA for usada apenas para revisar ou corrigir a gramática e pontuação de um texto humano, a marca d’água será mínima, geralmente insuficiente para detecção. No entanto, qualquer tradução gerada pelo Claude receberá a marca d’água completa, pois a IA é responsável por cada palavra do texto final.
É possível remover a marca d’água?
A tecnologia não é completamente à prova de manipulação. Pequenas edições no texto podem manter o padrão detectável. Contudo, uma reescrita completa do conteúdo tem o potencial de remover a marca d’água, tornando a detecção mais difícil ou impossível. A Anthropic continua aprimorando o sistema para equilibrar a transparência com a funcionalidade e usabilidade da IA.
Fonte: canaltech.com.br