A rápida evolução das tecnologias de Inteligência Artificial (IA) trouxe consigo uma série de questões éticas complexas. Entre elas, está o debate em torno da criação de deep fakes – técnica que utiliza imagens ou sons humanos feitas por meio de IA.
Um exemplo dessa técnica é o recente caso da propaganda da Volkswagen, em que aparece a cantora Elis Regina, morta em 1982, ao lado da filha, a também cantora Maria Rita, em uma cena ultra realística, a qual as duas cantam o sucesso de autoria de Belchior, "Como Nossos Pais".
Por mais que o vídeo tenha remetido uma emoção sem igual, tendo em vista que Elis morreu antes de ver a própria filha crescer, é fundamental refletir sobre as implicações éticas e morais dessa prática, uma vez, também, que ainda não dispomos de uma legislação aprovada que ampare este tipo de caso.
O potencial dos deep fakes
Embora os deep fakes tenham o potencial de serem usados de forma criativa e divertida, eles também podem ser uma ferramenta poderosa para disseminar informações falsas, difamar pessoas, criar pornografia não consensual, manipular vídeos para fins de fraude, entre outros. Essas situações podem prejudicar a confiança e a credibilidade de pessoas e/ou marcas.
Tudo isso porque a deep fake, por meio da IA, combina algoritmos de aprendizado de máquina e processamento de imagem a fim de criar conteúdo falso e realista – geralmente vídeos –, nos quais rostos, vozes e movimentos são manipulados de forma a parecerem autênticos. No entanto, são trabalhados totalmente de forma fictícia e, como no caso da Elis, sem o consenso direto da pessoa.
Caso foi parar no Conar
Diante da grande repercussão, o Conar (Conselho Nacional de Autorregulação Publicitária) abriu uma representação ética contra a campanha da montadora de veículos a partir das denúncias de consumidores que questionam o uso da IA para fazer a propaganda de quem já morreu. A contestação também reflete que a utilização da imagem da cantora pode trazer confusão entra a ficção e a realidade, principalmente entre os mais jovens.
Nesta discussão, que promove uma série de questionamentos éticos e morais, vale abordar que, em primeiro lugar, essa ótica impulsiona a questão do consentimento e privacidade da pessoa, dona da imagem utilizada. O falecido não pode mais expressar sua vontade em relação ao uso de sua imagem em deep fakes e é crucial respeitar seus desejos prévios quando disponíveis.
Pode ser uma questão até de dignidade
Além disso, a disseminação sem consentimento pode violar a privacidade e a dignidade do mesmo, bem como causar angústia emocional aos entes queridos que mantêm a memória do indivíduo.
Diante dessas considerações, é fundamental que os criadores e usuários de deep fakes de pessoas falecidas ajam com responsabilidade, respeitando os desejos e direitos da pessoa, conforme o que ela expressava ainda em vida. Regulamentações específicas precisam ser criadas para garantir o uso ético dessas tecnologias, levando em conta os aspectos legais, morais e emocionais envolvidos.
A conscientização sobre as implicações éticas e o diálogo aberto são essenciais para garantir que as representações digitais de pessoas falecidas sejam tratadas com respeito, dignidade e consideração por todos os aspectos que envolvem aqueles que já não estão entre nós.
(*) Bárbara Fraga é head de Data Science da A3Data, consultoria especializada em dados e IA.
-sokmk4mgqnuf.jpg)
