Drauzio Varella vendendo colágeno? Como deep fakes estão sendo usados para golpes

Aquele velho ditado "só acredito vendo" já não é o bastante nos dias atuais quando, graças ao uso de Inteligência Artificial (IA), pode-se facilmente criar e adulterar áudios e vídeos com cada vez mais qualidade e semelhança ao original. É preciso desconfiar dos conteúdos encontrados na internet e recebidos por aplicativos de mensagens.

Prova disso é um vídeo em que o médico Drauzio Varella aparece supostamente indicando gotinhas milagrosas para manter a pele jovem e bonita, que passou a circular no TikTok há pouco mais de uma semana.

Notícias relacionadas

Milagre da multiplicação de peixes descrito na Bíblia pode ter explicação científica, aponta estudo

Cientistas criam "capa da invisibilidade" para proteger surfistas de ataques de tubarão

Hospitalização de astronautas após retorno à Terra ainda é um mistério para a Nasa

No vídeo, de quase 30 segundos, o médico aparece - em vários momentos sem que se veja a boca dele - narrando os benefícios do suposto medicamento enquanto fotos de pessoas famosas, que supostamente usam o produto, aparecem na tela.

Apesar da voz ser muito semelhante à de Drauzio Varella, o vídeo é falso e se trata de uma montagem com uso de IA para clonar a voz do médico, que é colocada em um vídeo produzido por ele, mas que originalmente abordava outro assunto.

E essa não foi a primeira vez. Por constantemente ter a sua a imagem atrelada a indicação de um remédio ou propaganda de algum produto, o médico publicou um vídeo em seu Instagram oficial explicando a situação.

"Toda hora aparece na internet a minha imagem ou alguma coisa que eu teria dito em defesa de um tratamento especial ou de um medicamento para resolver problemas de saúde e você é jogado para um site onde te vendem alguma coisa. São falsários, gente que não presta. Um bando de bandidos que usa a imagem dos outros para tentar enganar as pessoas", explicou o médico.

"As coisas vão ficando mais sofisticadas, às vezes eles pegam uma frase que eu disse em um contexto que não tem nada a ver com aquele e recortam essa frase como se eu estivesse defendendo essas porcarias que eles vendem, que a gente não tem nem ideia do que é. Infelizmente não vai acabar e até vai piorar com a Inteligência Artificial, eles chegam a imitar a minha voz, eu defendendo um remédio qualquer", acrescentou na publicação.

Mariana Varella, filha do médico e editora-chefe do Portal Drauzio Varella, ressalta que o pai não faz propagandas de medicamentos, que Drauzio fica preocupado com esses conteúdos usando sua imagem e que esse é um problema que ele considera de saúde pública.

"O problema é que tem pessoas acreditando, comprando produtos totalmente desconhecidos. Não sabe o que tem dentro, qual a segurança dessas medicações, quem está vendendo. A gente ainda não entrou com processo nem nada disso, mas estamos estudando com os nossos advogados qual vai ser a melhor estratégia para isso", diz Mariana.

Após a BBC entrar em contato com o TikTok, o vídeo citado pela reportagem e o perfil que havia feito a publicação foram tirados do ar pela plataforma. No entanto, vários outros com o mesmo teor permanecem disponíveis aos usuários.

Questionado sobre os conteúdos inverídicos publicados, o TikTok explicou que usa uma combinação de tecnologia e profissionais para detectar aqueles que possam violar as diretrizes de comunidade. E que os conteúdos são removidos assim que identificados.

"Nossas políticas de mídia sintética e manipulada deixam claro que não permitimos mídia sintética que contenha a imagem de qualquer pessoa real que não seja pública e não permitimos mídia sintética de figuras públicas se o conteúdo for usado para endossar ou violar qualquer outra política", diz nota enviada pela plataforma.

E acrescentou que vem testando ferramentas que permitem ao usuário identificar quando um conteúdo é criado por inteligência artificial.

"Começaremos a testar um rótulo que indica quando um conteúdo é 'gerado por IA' que, eventualmente, planejamos aplicar automaticamente ao conteúdo que detectamos ter sido editado ou criado com inteligência artificial. Para aumentar a clareza em relação aos produtos do TikTok alimentados por IA, também renomeamos todos os efeitos de inteligência artificial do TikTok para incluir explicitamente 'IA' em seu nome e no rótulo de efeito correspondente, e atualizamos nossas diretrizes para que os criadores do Effect House façam o mesmo."

Uso de IA para clonar a voz

Conteúdos como esse são chamados de deep fake. Eles são produzidos em softwares que usam IA para recriar a voz de pessoas, trocar o rosto em vídeos e sincronizar movimentos labiais e expressões.

Diogo Cortiz, professor da PUC-SP e pesquisador do NIC.br (Núcleo de Informação e Coordenação do Ponto BR) explica que, com o avanço da tecnologia e da Inteligência Artificial, é cada vez mais comum surgirem programas que conseguem reproduzir a voz de uma pessoa, criando frases completas e imitando até mesmo os trejeitos de fala dela e sotaque, caso tenha, em poucos minutos.

Se tratando de pessoas famosas ou que tenham conteúdos disponíveis na internet, como no caso de Drauzio Varella, é ainda mais fácil fazer essa clonagem, já que a IA é usada para aprender com esses áudios e gerar novos arquivos com a voz clonada.

"O primeiro passo é ensinar a voz para inteligência artificial, então você faz ela escutar alguns minutos. Quanto mais dados você tiver, melhor o resultado e a partir disso você pode escrever um texto - e a inteligência artificial vai recriar um áudio, com a voz da pessoa, falando aquilo que você escreveu", explica Cortiz.

Mas mesmo quem não é famoso ou não têm conteúdos disponíveis na internet também está sujeito a ter a voz clonada, já que para isso é necessário apenas poucos segundos de uma voz, como, por exemplo, um áudio enviado por aplicativo de mensagem.

Distinguir se um conteúdo é verdadeiro ou criado pela tecnologia, segundo o especialista, é o desafio que o setor tem pela frente. Além disso, pode demorar para ser criada e regulamentada uma maneira de esses conteúdos serem diferenciados dos originais.

"Existe um debate enorme a nível internacional sobre como fazer para identificar esse tipo de conteúdo sintético [criado por IA]. Uma estratégia é colocar uma marca d'água nesse conteúdo, mas não aquela marca visível ao olho humano, mas sim uma identificada pelos algoritmos, fazendo com que as plataformas consigam fazer esse rastreamento e não permita a disseminação de conteúdos falsos", explica.

Especialistas ouvidos pela BBC são unânimes em dizer que é preciso ter cautela quanto ao avanço dessa tecnologia e que as regras para o seu uso deveriam existir global e localmente. Também é preciso encontrar um equilíbrio entre promover a inovação e proteger os interesses públicos para que essa tecnologia não se torne uma arma nas mãos de golpistas e até mesmo de disseminadores de notícias e informações falsas.

Projetos em tramitação

O projeto de lei 2338/23 de autoria do senador Rodrigo Pacheco (PSD/MG) tramita no Senado e dispõe sobre o uso da Inteligência Artificial no país e quais diretrizes deverão ser seguidas.

Entre seus fundamentos, o projeto visa garantir a "confiabilidade e robustez dos sistemas de inteligência artificial e segurança da informação", garantindo que o usuário saiba claramente quando ele está interagindo ou consumindo um conteúdo criado com o auxílio dessa tecnologia.

"O uso de IA precisa ser analisado com cautela e de forma ampla, analisando os riscos que essa tecnologia pode gerar nos mais diversos setores como saúde, transporte e administrativo, por exemplo. Para se criar regulamentações é necessário olhar para a tecnologia como um todo e ter dados que comprovem que a IA é confiável", diz Estela Aranha, secretária de Direitos Digitais do Ministério da Justiça e Segurança Pública.

Mas esse não é o único projeto de lei que trata do assunto que vem sendo analisado. O PL 4025/23, do deputado federal Marx Beltrão (PP/AL), exige autorização expressa das pessoas envolvidas para o uso de imagens e de obras por sistemas de inteligência artificial (IA).

O documento aborda o uso dessa tecnologia para recriar imagens e a voz de pessoas falecidas e propõe que esse mecanismo só poderá ser usado com autorização de parentes próximos, como cônjuge, filhos e pais.

No caso das obras, o texto garante que cabe ao autor autorizar a utilização do conteúdo para treinamento de sistemas de IA e estabelece que obras produzidas com o uso dessa tecnologia não gera direitos autorais.

Para Cortiz, estabelecer regras para controlar o uso desses programas é uma tarefa complexa, uma vez que a própria tecnologia da IA ainda passa por transformações.

"Hoje há um desafio não só de regulação, mas um desafio técnico no desenvolvimento desse tipo de método para marcação e identificação desses conteúdos criados por IA que funcione em todas as modalidades - áudio, vídeo, texto e imagem - e que seja reconhecido em todas as plataformas. Isso é um desafio global", diz o professor.

Gustavo Tadeu Zaniboni, presidente da Coordenação de Inteligência Artificial da Associação Brasileira de Governança Pública de Dados Pessoais, analisa que mesmo com a regulamentação, as deep fakes não deixarão de existir e já fazem parte do mundo atual.

"A pessoa que quer usar a IA para aplicar golpes e enganar outras pessoas vai continuar fazendo. O uso da marca d'água não vai resolver porque essas pessoas vão arrumar uma maneira de burlar isso", diz.

Ainda segundo Zaniboni, uma maneira eficaz de inibir as deep fakes é a identificação e punição de quem produz, vincula e até mesmo compartilha esse tipo de conteúdo.

"No vídeo do Drauzio Varella, por exemplo, podemos enxergar indícios de estelionato e uso da imagem dele sem autorização. Mas precisamos criar punições próprias para esse tipo de situação que usa a ferramenta da inteligência artificial. Para punir essas pessoas, as solicitações de dados na hora de abertura de uma conta em um aplicativo devem ser mais rigorosas e obrigatórias", acrescenta.

Drauzio não foi o único

Celebridades como Ivete Sangalo, Ana Maria Braga e Xuxa também foram vítimas de deep fake e tiveram suas vozes clonadas e inseridas em vídeos em que supostamente elas indicam colágenos para a pele.

Nesses casos, a tecnologia foi usada também em fotos para envelhecê-las, deixando as personalidades com mais rugas e marcas de expressão e, assim, fazer um comparativo mostrando que o produto realmente funcionaria.

Em outra situação, o jornalista William Bonner, âncora e editor-chefe do Jornal Nacional, também foi vítima de deep fake.

Em um vídeo de poucos segundos, que circula nas redes sociais, o âncora aparece dizendo: "O encontro de dois bandidos". A gravação corta para imagens do presidente Lula e seu vice, Geraldo Alckmin, se abraçando, com a narração do jornalista: "Perdão, imagem errada. A imagem seria de outro ladrão, digo, de um ladrão de verdade".

Também foi comprovado que o material se trata de uma montagem feita com o uso dessa tecnologia.