O WhatsApp apresentou uma prévia do seu mais recente avanço em segurança: o Scam Alert (Alerta de Golpe). Este recurso inovador emprega inteligência artificial para identificar e alertar sobre possíveis tentativas de fraude, respondendo à crescente sofisticação dos golpes online, que incluem personificação e até abordagens criadas com o auxílio de outras IAs. Atualmente, o Scam Alert está em fase beta limitada em algumas regiões.
O sistema funciona através de um modelo de aprendizado de máquina que opera diretamente no aparelho do usuário. Ele analisa sinais linguísticos e a estrutura das conversas para detectar padrões associados a golpes. Ao identificar uma mensagem suspeita, o WhatsApp exibe um alerta exclusivo para o destinatário, que então tem a autonomia para decidir o que fazer: bloquear o contato, denunciar a conversa ou prosseguir normalmente.
Como o ‘Scam Alert’ funciona sem comprometer sua privacidade?
Um dos pontos cruciais do Scam Alert é seu desenvolvimento para operar sem violar a criptografia de ponta a ponta do WhatsApp. A análise dos sinais da conversa ocorre no próprio celular, o que significa que o conteúdo das mensagens não é automaticamente enviado para o WhatsApp, a Meta ou outras empresas para classificação. Dessa forma, a plataforma consegue procurar indícios de golpe sem a necessidade de descriptografar as conversas em seus servidores, mantendo a integridade e a confidencialidade das comunicações.
Controle Total do Usuário e Anonimato dos Dados
O Scam Alert é um recurso totalmente opcional e permanece sob o controle do usuário. É possível ativar ou desativar a funcionalidade a qualquer momento pelas configurações do aplicativo. Caso um alerta seja considerado falso, o usuário pode marcar o chat como confiável, removendo o aviso e impedindo que aquela conversa específica seja sinalizada novamente.
Para aprimorar o funcionamento do recurso, o WhatsApp coleta dados de telemetria de forma agregada e anonimizada. Essas informações indicam, por exemplo, a frequência de exibição dos alertas e as decisões tomadas pelos usuários após recebê-los. Esses dados são processados em servidores especializados da AMD e da Nvidia, que utilizam Ambientes de Execução Confiáveis (TEEs) para garantir a proteção das informações durante todo o processamento.
Quando o conteúdo das mensagens é enviado?
O envio do conteúdo das mensagens aos servidores ocorre apenas em situações específicas e mediante uma ação deliberada do usuário. Isso inclui:
- Denúncia: Quando o usuário decide denunciar uma mensagem ou conversa, o conteúdo é enviado para análise, seguindo os protocolos já existentes na plataforma.
- Ajuste de precisão: Se um alerta for considerado falso, o usuário pode optar por compartilhar as cinco mensagens recebidas mais recentemente para ajudar a aprimorar o modelo de IA.
- Telemetria protegida: Os dados enviados para análise não incluem o conteúdo das mensagens, a identidade dos participantes ou qualquer informação que possa identificar a conversa específica que gerou o alerta.
Fonte: canaltech.com.br