São Francisco notifica Meta a suspender anúncios com IA de abuso infantil

A Procuradoria de São Francisco emitiu uma notificação extrajudicial à Meta, exigindo a interrupção imediata da veiculação de anúncios pagos que contêm conteúdo de abuso sexual infantil gerado por inteligência artificial. A medida também cobra explicações sobre como essas peças publicitárias continuaram a circular repetidamente nas plataformas da empresa, nomeadamente Facebook, Instagram e Threads.

Investigação prévia do Tech Transparency Project, reportada pela WIRED, identificou mais de 350 anúncios nos últimos meses. Essas peças transformavam imagens estáticas de menores — incluindo indivíduos reais, como membros de uma família real europeia — em clipes de vídeo curtos com conotação sexual. Ao serem clicados, os anúncios direcionavam os usuários para o download de aplicativos de geração de imagens e vídeos por IA, frequentemente utilizados para criar conteúdo íntimo não consensual.

O alcance do problema é global e persistente. As publicações atingiram mais de 29 mil contas na União Europeia, além de mirarem usuários nos Estados Unidos, Austrália e Índia. Chama a atenção o fato de que, embora um primeiro lote de 53 anúncios tenha sido reportado no início de agosto, mais de 250 novas peças continuaram a ser exibidas nas plataformas da Meta após a divulgação inicial.

Em resposta, a Meta argumenta que o conteúdo não estaria sob a jurisdição da cidade de São Francisco. Contudo, o procurador David Chiu rebate a postura da companhia, afirmando que a empresa falha ao não resolver um problema conhecido e ainda lucra com ele. Chiu destacou que, apesar da retórica de tolerância zero da Meta para a exploração infantil, a escala e a persistência das falhas indicam que os esforços atuais de moderação são insuficientes.

Imagem: InvadingInvader / Wikimedia Commons — CC BY-SA 4.0