Rede social de Musk remove buscas por "Taylor Swift" após viralizar nudes criados por IA

A plataforma X, anteriormente conhecida como Twitter, removeu temporariamente a pesquisa pelo nome da cantora Taylor Swift após a viralização de imagens falsas e explícitas da artista geradas por inteligência artificial (IA) na semana passada.

A medida visa proteger a segurança da cantora e evitar a proliferação de conteúdo prejudicial.

Notícias relacionadas

Google tem enigma que libera faixas de novo álbum de Taylor Swift

Swifties online: como fãs mobilizaram a web na turnê brasileira de Taylor Swift

Taylor Swift é vítima de pornografia com IA e deve processar autores

Ao pesquisar o nome de Swift e "AI Taylor Swift" no X, os usuários são direcionados para uma página que informa: "Algo deu errado. Tente recarregar." Uma mensagem secundária complementa: "Algo deu errado - mas não se preocupe. Não é sua culpa."

O chefe de operações de negócios da plataforma, Joe Benarroch, justificou a ação à Variety como uma medida temporária e cautelosa, priorizando a segurança da cantora.

Deepfake

As imagens falsas teriam circulado no X e no Telegram, levando a plataforma a remover ativamente todas as imagens identificadas e tomar medidas contra as contas responsáveis pela sua publicação.

A Casa Branca do EUA também foi informada sobre o incidente, classificando-o como "alarmante".

A secretária de imprensa, Karine Jean-Pierre, afirmou à BBC que a aplicação frouxa de medidas contra esse tipo de conteúdo afeta desproporcionalmente mulheres e meninas, que são os principais alvos.

Diante da situação, Jean-Pierre propôs a criação de legislação que lide com o uso indevido de IA nas redes sociais, ideia apoiada pelo representante dos EUA, Joe Morelle. Morelle é um dos autores da Lei de Prevenção de Deepfakes de Imagens Íntimas, que tornaria ilegal o compartilhamento de pornografia deepfake sem consentimento.

Embora Taylor Swift não tenha se pronunciado publicamente sobre o tema, o site Daily Mail reportou que a equipe da artista está considerando medidas legais contra a rede que as publicou.

E no Brasil?

No Brasil, a prática de compartilhar imagens falsas e íntimas sem consentimento também é crime. A Lei 12.737/2012, conhecida como Lei Carolina Dieckmann, pune a divulgação não autorizada de imagens íntimas com pena de detenção de um a quatro anos de detenção.

Além disso, o país discute um projeto para regulamentar a inteligência artificial. Apresentado pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), e elaborado por uma comissão de juristas, o PL 2.338/2023 estabelece direitos para pessoas afetadas pela tecnologia, além de definir parâmetros de supervisão e fiscalização da atividade.

Os trechos incluem normas como o respeito aos direitos humanos, à privacidade e aos valores democráticos, bem como aos princípios da não discriminação, da livre iniciativa e concorrência, do desenvolvimento tecnológico e científico, de acesso à informação e de defesa do consumidor, entre outros.