Imagens de abuso sexual infantil geradas por IA estão inundando a internet

O monitoramento de segurança digital da Internet Watch Foundation (IWC), site do Reino Unido de denúncia de atividades ilegais na internet, alertou para um cenário preocupante se desdobrando à medida que sistemas de inteligências artificiais (IAs) vêm sendo usadas para criar imagens de abuso sexual infantil, ameaçando "sobrecarregar" a web.

Um relatório publicado pela IWC nesta quarta-feira, 25, revelou que 3 mil imagens criminosas geradas por IA foram descobertas na região britânica durante o ano de 2022.

Notícias relacionadas

Domo de ferro, robôs e IA: tecnologia de Israel potencializa poder bélico do país na guerra

Colheres de cozinha feitas de plástico preto apresentam risco de câncer, alerta estudo

Simpsons previu caso P. Diddy? Episódio mostra festa do branco em mansão de rapper

Essas imagens são construídas a partir de imagens reais de vítimas de abuso, incorporadas em modelos de IA que as recriam em outros contextos. No caso, a tecnologia está sendo usada para produzir representações fictícias de celebridades, retratando-as como crianças em contextos de abuso.Para a IWC, cerca de 20% desses materiais foram classificados como categoria A, que seria o tipo de conteúdo mais violento, como estupro.

"No início deste ano, advertimos que as imagens geradas por IA poderiam em breve ser indistinguíveis das imagens reais de crianças vítimas de abuso sexual e que poderíamos começar a vê-las proliferar em números alarmantes. Infelizmente, já ultrapassamos esse limiar", disse Susie Hargreaves, CEO da IWF, ao jornal britânico The Guardian.

Em 2022, a fundação chegou a investigar 375.230 denúncias suspeitas de conterem imagens de abuso sexual infantil, número que demonstra um aumento de 4% em relação a 2021. Desse total de denúncias, 255.588 relatórios realmente continham imagens criminosas e o relatório registrou um aumento de 60% na produção de imagens desse cunho envolvendo crianças de sete a dez anos de idade.

A IWF também registrou evidências da comercialização dessas imagens de pornografia infantil geradas por IA. Essa descoberta surgiu após um mês de investigação em um fórum de abuso infantil na chamada dark web. A fundação também expressou preocupação de que uma onda de imagens de abuso geradas por IA possa desviar a atenção das agências de aplicação da lei de casos reais de abuso e da assistência às vítimas.

A preocupação com o aumento dessas imagens geradas por IA na internet não é de hoje.

Em junho, ao jornal Washington Post, a Stability AI, dona da IA generativa de imagens Stable Diffusion, disse em comunicado que proíbe a criação de conteúdos envolvendo pornografia infantil, além de auxiliar em investigações envolvendo o tema e remover materiais explícitos de sua base de dados.

Até o momento, governo do Reino Unido informou que materiais de abuso sexual infantil gerados por IA serão criminalizados pela lei de segurança online que será aprovada em breve, exigindo que empresas de mídia social bloqueiem esse tipo de conteúdo de suas plataformas e os denunciem.

*Alice Labate é estagiária sob supervisão do editor Bruno Romani