A remoção de metadados invisíveis por meio de edições simples, como o corte de bordas, impede que os algoritmos da rede social apliquem o selo “Criado com IA”.

A Meta havia implementado um sistema automatizado para aplicar marcadores visíveis e invisíveis em todas as mídias geradas por suas ferramentas (como o Meta AI). O objetivo era garantir a transparência dentro do ecossistema do Instagram, Facebook e Threads. No entanto, testes práticos mostraram que a proteção é extremamente frágil.

Como funciona a falha e por que ela acontece:

• Dependência de Metadados: As ferramentas da Meta dependem fortemente de marcadores invisíveis inseridos nos metadados do arquivo (informações ocultas de código) e em marcas d’água digitais aplicadas nas bordas da imagem.
• O Efeito do Recorte: Quando um usuário baixa uma imagem gerada pela IA da Meta, faz um corte simples para mudar o enquadramento ou remover as bordas e a republica, o arquivo passa por uma recompressão. Esse processo elimina os metadados originais ou distorce a assinatura digital invisível.
• Invisível para o Algoritmo: Sem essa “impressão digital” técnica, o sistema de moderação da Meta lê o arquivo modificado como se fosse uma fotografia real tirada por uma câmera comum, permitindo que conteúdos sintéticos circulem sem qualquer aviso de IA.

O Desafio das Big Techs contra as Deepfakes

O relatório joga luz sobre um problema crônico da indústria de tecnologia: a facilidade com que as barreiras de segurança de IA podem ser contornadas por usuários comuns, sem qualquer conhecimento de programação. Especialistas alertam que marcas d’água baseadas apenas em arquivos ou posicionamento estático são insuficientes para conter a proliferação de clonagens visuais e desinformação, especialmente em períodos eleitorais.

A Meta afirmou em notas anteriores que continua trabalhando no aprimoramento de seus padrões de detecção (como o suporte ao padrão industrial C2PA), buscando formas de incorporar assinaturas digitais mais resilientes e profundas diretamente nos pixels das imagens, tornando-as imunes a cortes e edições básicas.

Gostou? Compartilhe com quem precisa saber: