A App Store passa a vetar apps que usam IA para criar fotos íntimas sem consentimento e os que ocultam funções de nudificação na revisão. Violação pode levar à remoção do app e ao cancelamento da conta de desenvolvedor.
A Apple atualizou as regras da App Store para proibir aplicativos que usam inteligência artificial (IA) para criar imagens íntimas sem consentimento e também apps que se disfarçam de ferramentas comuns durante a análise, mas liberam funções de ‘‘nudificação’’ após a aprovação. A suspensão dessas práticas pode levar à remoção dos aplicativos da loja e ao cancelamento de contas no Apple Developer Program.
A medida ocorre após autoridades e organizações de segurança denunciarem a presença desse tipo de ferramenta em lojas de aplicativos. Em julho, a cidade de São Francisco ordenou que a Apple e o Google removessem aplicativos de nudificação, sob a acusação de lucrar com serviços que geram imagens íntimas sem autorização. Em abril, um relatório do Tech Transparency Project identificou diversos aplicativos da categoria nas duas plataformas, incluindo alguns classificados como adequados para menores.
A Apple afirma que suas medidas de segurança já barraram mais de 150 mil aplicativos com problemas de segurança no ano passado. No mesmo período, a empresa encerrou mais de 193 mil contas de desenvolvedores por fraudes e abusos.
O novo texto das diretrizes detalha requisitos mais rígidos de moderação de conteúdo. Além de proibir aplicativos que ocultem funcionalidades ao passar pela revisão da loja, as novas regras determinam que plataformas que hospedam material publicado por usuários adotem ações preventivas específicas contra imagens íntimas não consentidas, inclusive aquelas geradas por inteligência artificial.
As diretrizes exigem que as plataformas ofereçam ferramentas acessíveis para denúncia de abusos e para bloqueio de contas invasivas. O descumprimento dessas exigências pode configurar violação do Código de Conduta do Desenvolvedor e, consequentemente, resultar em sanções administrativas por parte da loja de aplicativos.
O pacote de mudanças também amplia proibições relacionadas a crimes graves: as regras vedam aplicativos que facilitem o tráfico humano, a exploração infantil ou a distribuição de material de abuso sexual infantil. A Apple prevê ações contra esses softwares mesmo quando eles atuem por meios alternativos de distribuição.
Para desenvolvedores, a atualização representa um endurecimento na fiscalização e na responsabilidade sobre o conteúdo e as funcionalidades oferecidas ao público. Para usuários, as alterações prometem mecanismos mais claros para reportar e bloquear conteúdos íntimos não autorizados, além de maior vigilância da loja sobre práticas que busquem burlar a revisão técnica.
As mudanças chegam em meio a uma pressão crescente de autoridades e grupos de defesa por normas mais firmes contra a circulação de imagens íntimas não consensuais e pelo controle sobre ferramentas de geração de imagens por IA.
LEIA TAMBÉM
Receba as notícias no seu WhatsApp
Entre no nosso canal oficial e fique por dentro de tudo que acontece em Sergipe
Entrar no canal →