Uma nova e sofisticada campanha maliciosa, batizada de “Reprompt”, está utilizando o Microsoft Copilot para roubar dados de usuários de forma praticamente invisível. A descoberta foi feita por pesquisadores de cibersegurança da Varonis, que alertam para a capacidade do ataque em sequestrar sessões legítimas da ferramenta de inteligência artificial (IA) da Microsoft e extrair informações sensíveis a partir da aplicação de comandos corrompidos.
Como o ‘Reprompt’ Engana Usuários
O ataque “Reprompt” se destaca por sua astúcia. Ele consegue contornar as configurações de segurança do Copilot através de um alerta corrompido, mas camuflado em uma URL aparentemente verdadeira. Dessa forma, os cibercriminosos obtêm acesso ao sistema sem que a vítima precise realizar ações como clicar em links maliciosos. Além disso, o ataque dispensa o uso de plugins ou outras estratégias complexas, acessando o histórico de conversas do usuário e outros dados pessoais com base apenas nas permissões já concedidas à ferramenta.
As Três Técnicas Por Trás do Roubo de Dados
As investigações da Varonis revelaram que o “Reprompt” se concretiza por meio de três técnicas principais. A primeira explora os comandos do Copilot, especificamente o parâmetro “q” presente na URL, que é executado automaticamente ao carregar a página. Hackers podem inserir instruções maliciosas nesse parâmetro, enviando uma URL comprometida que faz com que o Copilot execute ações danosas sem o conhecimento do usuário. Esse processo leva a uma “injeção de prompts” que estabelece um canal contínuo de troca de dados entre a IA e os servidores dos criminosos.
As outras duas técnicas envolvem requisições de dados. A “requisição dupla” tira proveito do fato de que as medidas de segurança contra vazamentos de dados na IA são aplicadas apenas na requisição inicial, permitindo que ações repetidas burlem essas proteções. Já a “requisição em cadeia” consiste no envio constante de instruções ao Copilot a partir do sistema comprometido. Como cada resposta gerada é usada para promover a próxima requisição, ocorre uma exfiltração frequente e silenciosa de informações sensíveis, tornando-a extremamente difícil de ser detectada.
Um Perigo Furtivo e Indetectável
A natureza furtiva do ataque “Reprompt” é um de seus maiores perigos. Devido às estratégias empregadas, as ações maliciosas são praticamente invisíveis aos olhos do usuário e, mais preocupante, indetectáveis por muitas ferramentas de segurança. Os pesquisadores da Varonis alertam que esses sistemas muitas vezes não conseguem identificar o problema ou interferir durante o processo de exfiltração, justamente pela forma como as instruções são enviadas ao Copilot.
Microsoft Reage: Atualização de Segurança Já Disponível
A boa notícia é que a Microsoft já está ciente da vulnerabilidade. A empresa agiu rapidamente e já promoveu medidas para combater o problema, lançando uma atualização de segurança recente para mitigar os riscos associados ao ataque “Reprompt”. Usuários são aconselhados a manter seus sistemas e aplicativos atualizados para garantir a máxima proteção contra essa e outras ameaças digitais.
Fonte: canaltech.com.br