IA que fez Papa de casaco interrompe teste grátis para evitar fake news

Imagens do Papa Francisco vestindo um casacão branco estilo “puffer” foram criada pela IA Midjourney
Foto: reprodução redes sociais / Flipar

A empresa geradora de imagens Midjourney interrompeu o teste gratuito na plataforma após uma semana polêmica com fotos criadas por inteligência artificial (IA). Elas mostravam o Papa Francisco vestindo uma jaqueta branca ou a falsa prisão do ex-presidente dos EUA Donald Trump e viralizaram nas redes sociais.

A decisão foi informada na terça-feira (28) pelo CEO e fundador David Holz, com o objetivo de evitar fake news e desinformação.

Anteriormente, o Midjourney permitia que qualquer pessoa se inscrevesse para usar o software por meio do Discord.
Os usuários poderiam gerar 25 imagens gratuitas antes de a plataforma começar a cobrar assinaturas a partir de US$ 10 (R$ 51,24 na cotação atual) por mês.

Em imagem gerada pela IA Midjourney, o ex-presidente dos EUA Donald Trump aparece brigando com a polícia

Foto: reprodução redes sociais / Flipar

Avanço da inteligência artificial virou "abuso"

A decisão de Holz cita uma “demanda extraordinária e abuso de julgamento”, tema que foi reportagem do jornal The Washington Post.

O veículo afirma que a abordagem de Midjourney se assemelha muito com a fase inicial das principais redes sociais. Ou seja, havia regras de moderação negligentes que as tornavam vulneráveis a interferência de outros países, desinformação viral e discurso de ódio.

As ferramentas de IA criam cenas fictícias envolvendo pessoas reais – um cenário propício para criar casos de fake news, assédio e propaganda enganosa.

A busca é tanta que em um ano, a plataforma conquistou mais de 13 milhões de membros. Graças às assinaturas mensais, a Midjourney se tornou um dos novos negócios mais promissores da indústria de tecnologia.

Holz afirmou em uma transmissão para cerca de 2.000 pessoas que estava lutando para determinar as regras de conteúdo, especialmente para retratar pessoas reais, “à medida que as imagens se tornam cada vez mais realistas e as ferramentas ficar cada vez mais poderoso", como revelou o Washington Post.

“Existe um argumento para ir totalmente para a Disney ou para o Velho Oeste, e tudo no meio é meio doloroso”, disse ele à reportagem. “Estamos meio que no meio agora, e não sei como me sentir sobre isso.”

Fonte: Redação Byte