UE passa a exigir identificação de imagens, vídeos e áudios criados por IA

Desde 2 de agosto, o Artigo 50 do AI Act obriga empresas a identificar mídias geradas ou alteradas por IA que possam confundir o público. Textos de interesse público sem revisão humana também serão marcados.

A União Europeia passou a aplicar regras mais rígidas para identificar conteúdos criados ou modificados por inteligência artificial (IA). O Artigo 50 do AI Act, que entrou em vigor em 2 de agosto, determina que empresas identifiquem imagens, vídeos e áudios gerados por IA quando eles puderem ser confundidos com conteúdos reais.

A norma também abrange determinados textos produzidos ou manipulados por IA sobre assuntos de interesse público, caso não tenham passado por revisão humana ou controle editorial. A medida coloca a UE entre as regiões com requisitos mais exigentes para marcar conteúdos sintéticos.

O descumprimento da obrigação de rotulagem pode resultar em multas de até 15 milhões de euros ou 3% do faturamento anual mundial da empresa. Por operar em diversos mercados, grandes laboratórios de IA enfrentam custos altos para manter modelos ou versões de produtos diferentes por região, e as exigências europeias podem influenciar o uso dessas tecnologias fora do bloco.

Como funciona a identificação: a legislação não determina uma tecnologia específica para a marcação. Em vez disso, exige que a origem sintética do conteúdo seja reconhecível, permitindo que empresas recorram a métodos variados.

Uma opção são marcas d’água invisíveis inseridas em imagens, vídeos ou áudios. O SynthID, do Google, é citado como exemplo dessa tecnologia; por ficar incorporado ao conteúdo, o sinal pode resistir a cortes ou compressões. Outra alternativa é o uso de metadados — semelhante aos dados EXIF de fotografias digitais —, que registram informações sobre a origem do arquivo, mas podem desaparecer quando o arquivo é editado, convertido ou publicado em certas plataformas.

A UE também prevê formas visuais de identificação: os rótulos devem aparecer de maneira clara quando o usuário entra em contato com o material. Em conteúdos artísticos, criativos, satíricos ou de ficção, a exigência é adaptada para informar o público sem prejudicar a apresentação ou fruição da obra.

Quais são os principais rótulos?

• AI: indica participação de IA na criação ou alteração do conteúdo, como em um deepfake com voz ou imagem artificial;
• AI GENERATED: usado quando o conteúdo foi produzido integralmente por IA, como um vídeo fictício de um político ou uma música criada por IA;
• AI MODIFIED: identifica conteúdos originalmente feitos por humanos que foram modificados por IA, como a troca de rosto em uma foto real.

A justificativa da UE para exigir marca d’água e rótulos é reduzir o impacto de desinformação, golpes e deepfakes, uma vez que modelos de IA têm maior capacidade de produzir imagens, vozes e vídeos convincentes. A identificação busca facilitar a rastreabilidade do conteúdo, ajudando plataformas e ferramentas a verificar se houve participação de IA.

Porém, a rotulagem não resolve todos os problemas. Marcas d’água podem ser danificadas por edições, capturas de tela, recodificação ou processamento por outros modelos de IA. Também não existe um padrão universal entre empresas: um sinal inserido por uma ferramenta pode não ser reconhecido por outra, o que limita a eficácia da rastreabilidade — o chamado problema da assimetria.

Outro risco apontado é o efeito bumerangue: se usuários passarem a confiar demais nos rótulos, podem interpretar qualquer conteúdo sem identificação como autêntico. Por isso, a identificação deve funcionar como camada adicional de proteção, não como garantia absoluta de autenticidade. Avaliar fonte, contexto e possíveis inconsistências continua essencial mesmo com a adoção das novas regras.

Gostou? Compartilhe com quem precisa saber: