O novo recurso de identificação usa IA para detectar possíveis golpes diretamente no aparelho. A ferramenta, em fase beta e disponível em algumas regiões, analisa sinais linguísticos e a estrutura das conversas.
O WhatsApp apresentou um novo recurso chamado Scam Alert (Alerta de Golpe), que utiliza inteligência artificial para detectar possíveis tentativas de fraude. A ferramenta foi desenvolvida para combater golpes que estão se tornando cada vez mais sofisticados, incluindo casos de personificação e abordagens criadas com auxílio de IA. Neste momento, o Scam Alert está em fase beta, disponível em algumas regiões.
O sistema opera por meio de um modelo de aprendizado de máquina que funciona diretamente no celular do usuário. Essa tecnologia analisa sinais linguísticos e a estrutura das conversas para identificar padrões que costumam estar associados a golpes. Quando uma mensagem é considerada suspeita, o WhatsApp exibe um alerta apenas para quem recebeu a mensagem. Com isso, o usuário tem a opção de bloquear o contato, denunciar a conversa ou continuar a interação normalmente.
O Scam Alert é uma funcionalidade opcional e totalmente controlada pelo usuário. A Meta, empresa responsável pelo WhatsApp, afirma que é possível ativar ou desativar o recurso a qualquer momento através das configurações do aplicativo. Caso um alerta seja considerado falso, o usuário pode marcar o chat como confiável. Isso remove o aviso atual e faz com que o Scam Alert não sinalize novamente aquela conversa específica.
Para avaliar o funcionamento do recurso, o WhatsApp coleta dados de telemetria de maneira agregada e anonimizada. Essas informações indicam, por exemplo, quantas vezes os alertas foram exibidos e qual decisão o usuário tomou após receber um aviso. Os dados são processados em servidores especializados da AMD e da Nvidia, que utilizam Ambientes de Execução Confiáveis (TEEs) para garantir a segurança das informações durante o processamento.
Uma questão importante levantada é como o Scam Alert afeta a criptografia de ponta a ponta do WhatsApp. O recurso foi desenvolvido para operar sem comprometer essa segurança. O modelo realiza a análise dos sinais da conversa diretamente no celular, de modo que o conteúdo das mensagens não é enviado automaticamente para o WhatsApp, Meta ou outras empresas para classificação. Assim, o sistema investiga indícios de golpe sem a necessidade de descriptografar as conversas nos servidores.
O envio de conteúdo ocorre apenas quando há uma ação específica do usuário, como em casos de denúncia, onde o conteúdo é enviado para análise, ou ajuste de precisão, quando um alerta é considerado falso e o usuário opta por compartilhar as cinco mensagens mais recentes recebidas. É importante ressaltar que os dados enviados para análise não incluem o conteúdo das mensagens, a identidade dos participantes ou informações que possam indicar qual conversa gerou determinado alerta.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →