Coreia do Sul criminaliza produção e distribuição de deepfakes sexualmente explícitos

O legislativo sul-coreano aprovou recentemente um projeto de lei que criminaliza a posse ou visualização de imagens e vídeos deepfake sexualmente explícitos. Esses conteúdos têm gerado protestos na Coreia do Sul, principalmente devido aos bate-papos em grupo do Telegram, onde deepfakes ilegais e explícitos foram criados e amplamente distribuídos.

Com o crescimento desses incidentes, houve apelos por punições mais rígidas. O projeto de lei prevê que qualquer pessoa que compre, guarde ou assista a esse tipo de material pode pegar até três anos de prisão ou ser multada em até 30 milhões de won (US$ 22.600). Atualmente, criar deepfakes sexualmente explícitos com a intenção de distribuição é punível com cinco anos de prisão ou multa de 50 milhões de won (37.900 dólares).

O que são deepfakes sexualmente explícitos?

Deepfakes são vídeos ou imagens sintetizados por um modelo de Inteligência Artificial, onde rostos de indivíduos são inseridos em cenas, frequentemente de forma não consensual e com propósitos maliciosos. A tecnologia de deepfake, que pode ser usada para fins legítimos como entretenimento e educação, tem sido amplamente usada para criar pornografia não consensual e difamar pessoas.

A nova lei sul-coreana, ao entrar em vigor, aumentará a pena máxima para tais crimes para sete anos de prisão, independentemente da intenção original do perpetrador. Além disso, ainda precisará da aprovação do presidente Yoon Suk Yeol para ser promulgada. Este é um passo importante no combate ao uso de deepfakes em atividades criminosas e visa proteger principalmente adolescentes, que têm sido as maiores vítimas e perpetradores.

Por que os deepfakes são um problema global?

O aumento da proliferação de deepfakes é um problema enfrentado globalmente. Países ao redor do mundo estão buscando maneiras eficazes de responder a isso. Nos Estados Unidos, o Congresso está debatendo várias legislações, incluindo uma que permitiria que vítimas de deepfakes sexuais não consensuais processassem os responsáveis, e outra que criminalizaria a publicação dessas imagens e obrigaria empresas de tecnologia a removê-las.

Quais medidas outras nações estão tomando?

Além da Coreia do Sul, outros países estão se movendo rapidamente para lidar com o problema. Recentemente, a plataforma de mídia social X bloqueou a busca por Taylor Swift após a proliferação de imagens falsas da cantora. Essa ação destaca a necessidade de plataformas de redes sociais e empresas de tecnologia se envolverem de forma proativa na prevenção da disseminação de deepfakes.

Nos últimos anos, a sociedade tem se conscientizado cada vez mais sobre os riscos e danos causados pelos deepfakes. O avanço tecnológico trouxe benefícios, mas também desafios, e legislações rigorosas são essenciais para proteger a privacidade e a dignidade dos indivíduos.

Com o tempo, espera-se que mais países adotem medidas semelhantes para combater esse problema crescente, garantindo um espaço digital seguro e respeitoso para todos. A luta contra os deepfakes é uma batalha contínua, que exige atenção e ação constante das autoridades e da sociedade.