A ação veio após meses de alertas por parte de jornalistas e pesquisadores sobre o crescimento desse tipo de conteúdo nas plataformas.
A Meta está processando aplicativos que usam inteligência artificial para criar imagens falsas e sexualizadas de pessoas sem consentimento. A empresa entrou com um processo contra uma desenvolvedora que tem anunciado esses aplicativos no Facebook e Instagram — além de implementar novas medidas para impedir a veiculação de propagandas semelhantes.
- Fique por dentro:
- Meta e Yandex são acusadas de espionar navegação de usuários
- Homem pode ser multado em US$ 450 mil por postar deepfakes de famosas na internet
A ação veio após meses de alertas por parte de jornalistas e pesquisadores sobre o crescimento desse tipo de conteúdo nas plataformas. Uma investigação recente da CBS News apontou que existiam “centenas” de anúncios nas plataformas da Meta promovendo ferramentas que prometem “remover roupas” de fotos de celebridades e outras figuras públicas.
Um desses aplicativos, chamado Crush AI, tornou-se um dos anunciantes mais frequentes no Facebook e Instagram. Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Proteção da Cornell Tech, informou em janeiro que o Crush AI havia veiculado mais de 8.000 anúncios desde o outono passado.
Agora, a Meta afirma ter iniciado um processo judicial contra a empresa responsável, a Joy Timeline HK Limited, sediada em Hong Kong. “Isso ocorre após várias tentativas da Joy Timeline HK Limited de burlar nosso processo de revisão de anúncios e continuar veiculando essas propagandas, mesmo depois de serem repetidamente removidas por violar nossas regras”, afirmou a empresa em um comunicado oficial. A Joy Timeline HK Limited não respondeu aos pedidos de comentário.
Meta processa aplicativo que remove roupa de pessoas com IA
Além do processo, a Meta anunciou o desenvolvimento de novas ferramentas para detectar esse tipo de anúncio, mesmo quando as imagens não contêm nudez explícita. “Criamos uma tecnologia específica para identificar esse tipo de conteúdo — mesmo quando os anúncios não exibem nudez diretamente — e estamos usando sistemas de correspondência para localizar e remover rapidamente anúncios similares”, explicou a empresa. “Trabalhamos com especialistas externos e equipes especializadas internas para ampliar a lista de termos, frases e emojis relacionados à segurança que nossos sistemas são treinados para identificar nesses anúncios.”
A Meta também planeja colaborar com outras plataformas de tecnologia, incluindo lojas de aplicativos, para compartilhar informações sobre os responsáveis por abusos em seu ecossistema.
Esses aplicativos não são os únicos a explorar as plataformas da Meta para promover conteúdo enganoso. A empresa também enfrenta dificuldades para conter o uso de vídeos manipulados com IA, nos quais celebridades são usadas indevidamente em golpes publicitários.
O Conselho de Supervisão independente da Meta, que atua em casos de moderação de conteúdo no Facebook e Instagram, criticou recentemente a empresa pela aplicação inconsistente de suas próprias políticas contra esse tipo de prática.
Com informações: The Verge
