Criminosos manipulam com IA vídeos de pequenos influenciadores para aplicar golpes nas redes sociais
CONTEÚDOS PRODUZIDOS POR PERFIS MENORES ESTÃO SENDO USADOS PARA VENDER REMÉDIOS FALSOS E APLICAR FRAUDES FINANCEIRAS NA INTERNET; ESPECIALISTAS AVALIAM IMPACTO E EXPLICAM O QUE PODE SER FEITO
Imagine estar rolando pela timeline de uma rede social e se deparar com o anúncio de um remédio milagroso ou com uma promessa de dinheiro fácil. Mas isso não é o mais estranho: o vídeo da postagem usa sua imagem e sua voz para parecer que você disse coisas que nunca disse.
Essa situação tem se tornado comum para pequenos influenciadores - perfis que produzem conteúdo para um pequeno público e não são famosos. Golpistas têm usado os vídeos dessas contas menores para criar conteúdos falsos, com uso de inteligência artificial (IA). São os chamados deepfakes, conteúdos gerados artificialmente a partir de imagens reais.
O Estadão Verifica já desmentiu muitos golpes do tipo com pessoas famosas - políticos como Fernando Haddad e Nikolas Ferreira e personalidades como Ana Maria Braga e William Waack. Agora, o núcleo de checagem do Estadão tem verificado também vídeos falsos com pessoas anônimas. A dificuldade em reconhecer as vítimas das fakes e de localizar os conteúdos verdadeiros parece facilitar a ação dos golpistas.
Vídeos foram manipulados para vender 'chá milagroso' e divulgar golpe da falsa indenização
Essa situação aconteceu com Tania Pereira, 31 anos, que compartilha nas redes sociais sua vida após receber diagnóstico de lipedema - uma doença crônica cardiovascular que pode causar acúmulo de gordura, dores e hematomas.
Ela diz que criou a conta para lidar melhor com o diagnóstico recebido há dois anos e meio e para compartilhar sua rotina com quem sofre com o mesmo problema. A página se tornou uma espécie de diário para Tania, com uma comunidade de 14 mil seguidores no TikTok e 6 mil no Instagram.
No início do mês, golpistas criaram um vídeo falso em que Tania parece divulgar um remédio falso contra o lipedema, um "chá milagroso" que prometia "eliminar a gordura de forma natural".
A influenciadora conta que, no vídeo verdadeiro, ela falava o contrário do que aparece no anúncio fraudulento. "Era um vídeo em que eu falo que o tratamento não é uma coisa isolada, mas um conjunto de fatores", lembrou.
Tania foi vítima de golpes duas vezes, com dois vídeos seus que tinham viralizado no TikTok. Ela só descobriu quando seus seguidores enviaram o conteúdo falso para ela.
Tania, que teve sua imagem atrelada a um falso anúncio de lipedema, denunciou junto com os seguidores os vídeos que usavam sua imagem no Instagram. A plataforma respondeu que a publicação não poderia ser excluída pois "seguia os padrões da comunidade".
O Verifica questionou a Meta sobre esse caso e sobre quais são as regras de remoção de conteúdos falsos utilizando a imagem de terceiros. A empresa afirmou que postagens "que tenham como objetivo enganar, fraudar ou explorar terceiros" são proibidas nas plataformas. Mas não comentou sobre a denúncia específica de Tania.
Deepfake não é crime, mas autor pode responder por uso indevido de imagem
O advogado Marcelo Cárgano, especialista em Direito Digital e Proteção de Dados, explica que a produção de deepfakes não é um crime em si. Mas pode haver responsabilização judicial se uma pessoa usar esse conteúdo para, por exemplo, caluniar ou difamar outra.
Nesse caso, quem divulgou o conteúdo falso pode responder por crimes contra a honra (calúnia, difamação, injúria) e uso indevido de imagem.
O Marco Civil da Internet, a Lei Geral de Proteção de Dados e o Código Civil e Penal são outras legislações que podem ser aplicadas a crimes envolvendo deepfakes e manipulação de imagens.
O deputado federal André Janones (Avante-MG) propôs um projeto de lei (PL 123/24) para alterar o Marco Civil da Internet para exigir clareza nas informações publicitárias que circulam nas redes sociais. O intuito é combater propagandas fraudulentas ou enganosas que usem, inclusive, inteligência artificial.
O que fazer se for vítima de deepfakes
A especialista em Direito Processual Civil e Direito Digital Antonielle Freitas, do escritório Viseu Advogados, sugere um passo a passo do que se fazer ao ser vítima de um golpe com deepfakes.
Registrar evidências: Capture prints de tela, salve URLs e colete qualquer outra prova digital que comprove o uso indevido da imagem. Essas evidências serão essenciais para eventuais ações judiciais e denúncias. Denunciar às autoridades: Registre um boletim de ocorrência (B.O.) na delegacia de polícia local ou pela Delegacia Virtual, se disponível no Estado. O B.O. formaliza a denúncia e pode dar início a uma investigação. Em casos de crimes cibernéticos, a vítima também pode buscar a Delegacia de Crimes Cibernéticos. Notificar as plataformas: Relate a violação diretamente às plataformas onde o conteúdo está sendo veiculado (redes sociais, sites de compartilhamento de vídeos, etc.). Muitas dessas empresas possuem políticas que proíbem o uso não autorizado de imagens e podem remover o conteúdo rapidamente.
Caso a vítima tenha denunciado uma conta que está usando sua imagem e não receber providências da plataforma, há mais estratégias que podem ser adotadas:
Reforçar a denúncia: Reenviar a reclamação utilizando outras categorias de denúncia disponíveis e reunir mais provas. Em alguns casos, um maior volume de denúncias pode aumentar a chance de resposta da plataforma. Buscar assistência jurídica: Um advogado especializado em Direito Digital pode notificar extrajudicialmente a plataforma, exigindo a remoção do conteúdo com base no Marco Civil da Internet e na LGPD. Se necessário, pode-se ingressar com ação judicial. Registrar Boletim de Ocorrência: Formalizar a denúncia junto à polícia pode pressionar a plataforma a agir e ainda viabilizar investigações contra os responsáveis. Ação judicial: Se a empresa continuar sem dar resposta, a vítima pode entrar com uma ação exigindo a remoção do conteúdo e pleiteando indenização por danos morais. A Justiça pode determinar que a rede social exclua o material e forneça informações sobre os responsáveis pela conta. Notificar a ANPD: Em casos de violação de privacidade e uso indevido de dados pessoais, a Agência Nacional de Proteção de Dados (ANPD) pode ser acionada para fiscalizar a conduta da plataforma.
O Estadão mostrou como pedir para retirar do ar um deepfake que se parece com você no YouTube. Você pode conferir abaixo os guias do Verifica sobre como identificar uma deepfake e conteúdos transformados por IA.
Veja como não se enganar com desinformação gerada por inteligência artificial nas redes sociais
