Aplicativos de conteúdo adulto estão usando a inteligência artificial (IA) para inundar o Instagram, o Facebook e o TikTok com postagens inapropriadas. Alguns anúncios chegam a incorporar o conteúdo em memes com personagens infantis, como o Bob Esponja.
O conteúdo adulto vem de startups que comercializam companheiras virtuais sexualmente disponíveis. Os anúncios prometem“ namoradas de IA”, onde o “aprendizado da máquina” aprende as preferências do usuário.
Alguns anúncios apresentam meninas geradas digitalmente por inteligência artificial, cuja idade indeterminada pode ser considerada adolescente ou mais jovem.
Sites como Facebook, Instagram e TikTok estão preocupados, visto que esses novos anúncios mostraram uma grande capacidade de superar os obstáculos da moderação de conteúdo para bloquear conteúdo de cunho sexual.
A Meta criou uma biblioteca de anúncios que permite aos usuários, ao público, aos reguladores e aos acadêmicos rastrear os anúncios postados em suas plataformas, incluindo Instagram e Facebook.
A empresa alegou que controla os anúncios, pois violam suas políticas. Em um comunicado enviado à NBC News, a posição da Meta é que a proibição de conteúdo adulto não isenta o conteúdo gerado por IA.
“Nossas políticas proíbem anúncios que contenham conteúdo adulto que seja excessivamente sugestivo ou sexualmente provocativo – seja gerado por IA ou não”, disse um porta-voz da Meta.
"Nossas políticas e fiscalização são projetadas para se adaptarem a este espaço altamente adversário, e estamos monitorando ativamente quaisquer novas tendências em conteúdo gerado por IA", complementou.
A Meta também disse à emissora de notícias que está a rever a versão das suas políticas que são acessíveis ao público e aos anunciantes, para garantir que a sua linguagem é suficientemente clara.
Durante anos e, em alguns casos, mais de uma década, as plataformas de redes sociais, incluindo Facebook, Instagram e TikTok, têm estado num impasse com profissionais do sexo e defensores da educação sexual, que se queixaram de políticas de moderação pudicas.
“As trabalhadoras do sexo não estão autorizadas a ganhar dinheiro com a sua imagem. Mas algum membro da tecnologia que está a criando uma imagem semelhante de IA está”, disse Carolina Are, investigadora do Centro para Cidadãos Digitais da Universidade de Northumbria em entrevista ao DailyMail.
Uma fabricante de brinquedos para adultos, Polly Rodriguez, CEO da Unbound, disse à NBC News que sua empresa frequentemente enfrenta dificuldades ao anunciar com a Meta.
Com isso, a empresária indaga a capacidade desses anúncios de chatbot de IA de escapar de alguma forma à moderação de conteúdo. "Eles não estão abordando a questão principal: por que esses anúncios estão sendo veiculados?' disse.
