Inteligência artificial simula voz de artistas e faz "Emma Watson" ler livro de Hitler
Empresa EvenLabs lançou o Prime Voice AI, ferramenta de inteligência artificial que cria vozes, e usuários fazem uso indevido
-(1)-qxtv380x33vp.jpg "Emma Watson foi vítima de deepfakes novamente")
A empresa EvenLabs disponibilizou ao público, no dia 23 de janeiro, uma ferramenta capaz de replicar vozes a partir de uma inteligência artifical. Mas, não demorou muito para que a tecnologia fosse utilizada de forma indevida: poucos dias após o lançamento, áudios de famosos supostamente ofendendo grupos e até lendo a autobiografia de Adof Hitler começarama circular na internet.
A atriz selecionada para "ler" a obra do líder nazista foi Emma Watson, famosa por interpretar a personagem Hermione na franquia Harry Potter. Além dela, outras personalidades públicas tiveram áudios de suas vozes em dizeres violentos e ofensivos compartilhados em fóruns como o 4chan.
Chamada deepfake, esse tipo de mídia pode gerar situações enganasos envolvendo rostos e vozes de indivíduos, em especial em conteúdos envolvendo política, celebridades e roubo de dados, e já circulam na internet há alguns anos.
No caso de Watson, esta não foi a primeira vez que a atriz teve sua imagem manipulada — em outra ocasião, a artista teve seu rosto aplicado em vídeos pornográficos.
Em sua conta no Twitter, a EvenLabs admitiu que observou "um número crescente de casos de uso indevido de clonagem de voz" a partir da ferramenta, e que estava aberta a colher feedbacks e sugestões dos usuários.
Crazy weekend - thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!
— ElevenLabs (@elevenlabsio) January 30, 2023
A empresa também anunciou que irá disponibilizar uma ferramenta que premite ligar a criação de clipes maliciosos a usuários específicos na plataforma e restringir a utilização plena da ferramenta a usuários pagos, que passam por mais processos de identificação.
-1hrpazsvnwu3o.png)
