A gigante brasileira de cosméticos Natura foi condenada por má-fé após tentar manipular sistemas de Inteligência Artificial (IA) em um processo judicial. A decisão, publicada pelo Juizado Especial Cível de Rio Negrinho, em Santa Catarina, aponta que a empresa utilizou a técnica conhecida como “prompt injection” em documentos protocolados, buscando induzir ao erro as ferramentas de IA empregadas pelo Judiciário.
O Tribunal de Justiça de Santa Catarina (TJSC) confirmou a ocorrência, mencionando que a empresa do setor de cosméticos enviou um texto com “instruções e comandos imperativos ocultos, direcionados especificamente a ludibriar, manipular e induzir o erro os sistemas automatizados de linguagem simples e inteligência artificial (IA)”. A apuração do Canaltech identificou a Natura como a ré no caso.
O episódio teve início quando uma consumidora moveu um processo contra a Natura e uma empresa de recuperação de crédito, pleiteando indenização por danos morais. A alegação era de inclusão indevida em cadastro de inadimplentes. Durante a tramitação, a Natura protocolou uma petição de especificação de provas que continha os comandos ocultos, visando enviesar a interpretação dos sistemas de IA utilizados pelos órgãos judiciais.
Diante da descoberta, a Natura foi condenada por litigância de má-fé, sendo obrigada a pagar uma multa de R$ 5 mil à vítima e a removê-la do cadastro de inadimplência. A sentença também determinou que a Ordem dos Advogados do Brasil (OAB) fosse notificada para analisar e apurar possível infração ética dos profissionais responsáveis pela redação e protocolo da petição com a manipulação.
Em resposta, a Natura informou ao Canaltech que notificou o escritório de advocacia responsável pelo caso e que tomará todas as medidas cabíveis, incluindo a implementação de treinamentos e governança sobre o uso responsável da tecnologia.
O que é ‘Prompt Injection’?
Conhecida também como injeção de prompt, essa prática consiste em inserir instruções escondidas em documentos ou dados para manipular a análise e a resposta de uma IA. Esses comandos podem ser invisíveis ao olho humano, utilizando fontes minúsculas, cores idênticas ao fundo, metadados ou instruções embutidas em imagens, mas são plenamente detectáveis e processáveis pelas máquinas.
A técnica possui diversas aplicações, algumas maliciosas. No campo da cibersegurança, ataques de prompt injection representam um risco significativo para sistemas baseados em IA, podendo levá-los a revelar informações sensíveis ou vulnerabilidades. Um exemplo prático e curioso ocorreu nos EUA, onde um professor utilizou um prompt invisível em um trabalho universitário para identificar alunos que usavam IA, exigindo que a palavra “Madagáscar” fosse inserida sem sentido no texto.
Precedentes e Riscos no Judiciário Brasileiro
O caso da Natura evidencia uma preocupação crescente no meio jurídico. Com a expansão do uso de sistemas de IA para avaliação de documentos no Poder Judiciário, a injeção de prompt abre brechas para explorações e potenciais violações éticas. “Estamos falando de uma técnica que, há poucos meses, era discutida quase exclusivamente em círculos de segurança da informação e hoje já aparece com alguma regularidade no cotidiano do Judiciário brasileiro”, explica Paulo Vidigal, advogado especialista em direito digital, privacidade e proteção de dados, ao Canaltech.
O Brasil já registra precedentes onde a manipulação de IA em processos resultou em condenações por litigância de má-fé e conduta grave contra a dignidade da justiça. Alguns órgãos já estão equipados com softwares de IA capazes de identificar essas tentativas de fraude. Marcelo Inoue Cárgano, também especialista em direito digital e proteção de dados, ressalta que o problema não reside na inteligência artificial em si, mas em seu uso indevido para deturpar os sistemas. “A ilicitude não decorre propriamente do uso da IA em si (tanto pelo advogado como pelo magistrado), mas da tentativa deliberada de manipular sistemas tecnológicos empregados pelo Judiciário por meio de comandos ocultos, em afronta aos deveres de boa-fé e lealdade processual”, complementa Cárgano.
Fonte: canaltech.com.br