IA que fez Papa de casaco interrompe teste grátis para evitar fake news

A empresa geradora de imagens Midjourney interrompeu o teste gratuito na plataforma após uma semana polêmica com fotos criadas por inteligência artificial (IA). Elas mostravam o Papa Francisco vestindo uma jaqueta branca ou a falsa prisão do ex-presidente dos EUA Donald Trump e viralizaram nas redes sociais. 

A decisão foi informada na terça-feira (28) pelo CEO e fundador David Holz, com o objetivo de evitar fake news e desinformação.

Notícias relacionadas

Jornalista posta deepfakes de Donald Trump preso e é banido do Midjourney

Foto do papa com casacão foi feita com IA e enganou muita gente

Foto do Papa Francisco com casaco estiloso foi gerada por IA

• Anteriormente, o Midjourney permitia que qualquer pessoa se inscrevesse para usar o software por meio do Discord. 
• Os usuários poderiam gerar 25 imagens gratuitas antes de a plataforma começar a cobrar assinaturas a partir de US$ 10 (R$ 51,24 na cotação atual) por mês.

Avanço da inteligência artificial virou "abuso"

A decisão de Holz cita uma “demanda extraordinária e abuso de julgamento”, tema que foi reportagem do jornal The Washington Post.

O veículo afirma que a abordagem de Midjourney se assemelha muito com a fase inicial das principais redes sociais. Ou seja, havia regras de moderação negligentes que as tornavam vulneráveis a interferência de outros países, desinformação viral e discurso de ódio. 

As ferramentas de IA criam cenas fictícias envolvendo pessoas reais – um cenário propício para criar casos de fake news, assédio e propaganda enganosa.

A busca é tanta que em um ano, a plataforma conquistou mais de 13 milhões de membros. Graças às assinaturas mensais, a Midjourney se tornou um dos novos negócios mais promissores da indústria de tecnologia.

Holz afirmou em uma transmissão para cerca de 2.000 pessoas que estava lutando para determinar as regras de conteúdo, especialmente para retratar pessoas reais, “à medida que as imagens se tornam cada vez mais realistas e as ferramentas ficar cada vez mais poderoso", como revelou o Washington Post.

“Existe um argumento para ir totalmente para a Disney ou para o Velho Oeste, e tudo no meio é meio doloroso”, disse ele à reportagem. “Estamos meio que no meio agora, e não sei como me sentir sobre isso.”