Vídeos de dança com premiê da Índia e seus rivais elevam preocupação sobre IA em eleição

Um vídeo produzido com inteligência artificial mostra o primeiro-ministro da Índia, Narendra Modi, extasiado, dançando em um palco ao som de uma música de Bollywood enquanto a multidão aplaude. O premiê compartilhou o vídeo no X e disse que "essa criatividade durante o ápice do período eleitoral é realmente uma delícia".

Outro vídeo, com a mesma configuração, mostra a rival do premiê Mamata Banerjee dançando com uma roupa tradicional indiana, mas a trilha sonora de fundo são partes de seu discurso criticando aqueles que deixaram seu partido para se juntar ao de Modi. A polícia iniciou uma investigação dizendo que o vídeo pode "afetar a lei e a ordem".

As diferentes reações aos vídeos criados com o uso de ferramentas de IA destacam como a utilização e o abuso da tecnologia estão aumentando e criando preocupações para reguladores e autoridades de segurança, à medida que o país mais populoso do mundo realiza sua eleição nacional.

Vídeos de IA que contêm movimentos quase perfeitos de sombras e mãos podem, às vezes, enganar até mesmo pessoas alfabetizadas digitalmente. Mas os riscos são maiores em um país em que muitos dos 1,4 bilhão de habitantes têm dificuldades tecnológicas e onde o conteúdo manipulado pode facilmente provocar tensões sectárias, especialmente na época das eleições.

De acordo com uma pesquisa do Fórum Econômico Mundial publicada em janeiro, o risco da desinformação para a Índia é considerado maior do que o risco de doenças infecciosas ou atividades econômicas ilícitas nos próximos dois anos.

"A Índia já corre um grande risco de desinformação -- com a IA em cena, ela pode se espalhar a uma velocidade de 100 vezes", disse o consultor Sagar Vishnoi, que está aconselhando alguns partidos políticos sobre o uso da IA nas eleições da Índia.

"Os idosos, que geralmente não são um grupo com experiência em tecnologia, caem cada vez mais em narrativas falsas auxiliadas por vídeos com IA. Isso pode ter consequências graves, como desencadear o ódio contra uma comunidade, casta ou religião."

A eleição nacional de 2024 -- que está sendo realizada em seis semanas e terminará em 1º de junho -- é a primeira em que a IA está sendo implementada. Os exemplos iniciais eram inocentes, restritos a alguns políticos que usavam a tecnologia para criar vídeos e áudio para personalizar suas campanhas.

Mas os principais casos de uso indevido chegaram às manchetes em abril, incluindo deepfakes de atores de Bollywood criticando Modi e vídeos falsos envolvendo dois dos principais assessores do premiê que levaram à prisão de nove pessoas.

Na semana passada, a Comissão Eleitoral da Índia advertiu os partidos políticos contra o uso da IA para espalhar desinformação e compartilhou sete disposições de tecnologia da informação e outras leis que atraem penas de prisão de até três anos por delitos, incluindo falsificação, promoção de rumores e inimizade.

Uma autoridade de segurança nacional em Nova Délhi disse que as autoridades estão preocupadas com a possibilidade de notícias falsas levarem a distúrbios. A fácil disponibilidade de ferramentas de IA possibilita a fabricação dessas notícias falsas, especialmente durante as eleições, e é difícil combatê-las, disse.

A IA e os deepfakes estão sendo cada vez mais usados em eleições em outras partes do mundo, inclusive nos Estados Unidos, Paquistão e Indonésia. A mais recente disseminação dos vídeos na Índia mostra os desafios enfrentados pelas autoridades.