Sem moderação, Twitter tolera conteúdo explícito de apoio a massacres escolares
Comunidade que exalta assassinos e massacres também usa rede social para tentar formar "duplas" para novos atos de violência
Read this story in English
"Era um menino bom, vai fazer falta".
Esse foi o conteúdo de um tweet sobre o adolescente que assassinou a facadas uma professora numa escola de São Paulo em 27.mar.2023.
-sl3geuv1iqn5.jpg)
Se fosse o único tweet, já seria algo bizarro, mas a publicação está longe de ser uma exceção: um monitoramento do Núcleo encontrou centenas posts na última semana no Twitter que explicitamente exaltam massacres escolares e glorificam seus executores.
Após Elon Musk ter assumido o controle da empresa e demitido cerca de 75% de seus funcionários, eliminando grande parte de sua equipe de moderação, esse tipo de conteúdo extremista de apologia a crimes contra crianças e funcionários de escolas tem circulado livremente na rede social.
A Política sobre Mídia Sensível da rede, atualizada pela última vez em jan.2023, proíbe a produção e circulação de conteúdo com imagens reais de violência.
O Núcleo não conseguiu contato com o Twitter.
É ✷ IMPORTANTE ✷ PORQUE…
Governo Lula ainda não apresentou estratégia clara de como irá lidar com extremismo online cooptando a juventude brasileira, apesar de grupo de transição no MEC ter sugerido soluções em dezembro de 2022;
Casos recentes de ataques em escolas mostram que leniência e atraso na moderação de conteúdo extremista online podem custar vidas.
SAIBA MAIS: Governo propõe regulação
AVISO. Em dez.2022, um relatório elaborado pelo grupo de transição de Lula na área de Educação destacou o monitoramento da extrema direita nas redes sociais como uma das formas de prevenir atentados em escolas.
Poucas horas após o ataque em Blumenau, o governo anunciou a criação de um grupo de trabalho interministerial, liderado pelo Ministério da Educação, que trabalhará para elaborar uma política nacional de enfrentamento à violência nas escolas. O grupo se reúne pela primeira vez nesta quinta-feira (06.abr.2023).
- Na quarta-feira (05.abr.2023), o ministro da Justiça Flávio Dino defendeu a regulação de redes como forma de coibir ataques e citou o dever de cuidado, que aparece dentre as sugestões do governo para o PL 2630.
TÁTICAS. O documento elaborado pelos pesquisadores menciona sete táticas usadas pela extrema direita para cooptar jovens nas plataformas digitais, como, por exemplo, o uso de linguagens e estéticas misóginas que "representam as regras universais" do ecossistema, além da competição e incentivo para conseguir atenção midiática após atos extremistas.
DIFÍCIL DE ACHAR. Embora a empresa não tenha mais assessoria de imprensa no Brasil, a representação jurídica da empresa compareceu a uma audiência pública no Supremo Tribunal Federal em mar.2023 para discutir a regulação das redes no Brasil.
DEBANDADA
O Núcleo monitora centenas de perfis dessa comunidade tuiteira de apoiadores de assassinos desde o final de 2022.
Nos últimos 10 dias, na qual o Brasil testemunhou dois massacres escolares, somente 3 dos 160 perfis ativos monitorados sofreram alguma forma de moderação pelo Twitter.
Com a ausência de ação da plataforma, a principal forma de contenção notada pelo monitoramento foi a divulgação de muitos perfis violentos de maneira pública, seja por notícias na imprensa ou nas próprias redes sociais.
Essa exposição fez com que muitos participantes fugissem para outras plataformas, como Discord ou Telegram, ou até mesmo fechassem ou deletassem completamente suas contas - deixando também de usar hashtags associadas a crimes e massacres.
Ajude o Núcleo a fazer investigações relevantes. Custa apenas R$10.
Quero apoiar o NúcleoMEDO DE EXPOSIÇÃO
Esses perfis que exaltam massacres e criminosos preferem tentar se manter abaixo do radar no Twitter, publicando conteúdos apenas para membros da comunidade.
Após denúncias, alguns integrantes lançaram um alerta geral para que participantes não interajam com perfis recém-criados, que façam "perguntas demais" ou usem as hashtags divulgadas pela imprensa, por medo de serem identificados e denunciados por autoridades.
Para se identificarem, a maioria usa frases específicas, hashtags menos óbvias ou conjuntos de números que possuem certa representação na comunidade internacional de fãs de atiradores escolares.
O receio de frequentadores, segundo posts vistos pelo Núcleo, é que, no Twitter, é impossível saber com quem você está interagindo, ao contrário de plataformas como o Discord, onde permanecer anônimo pode ser mais trabalhoso, já que os usuários estão constantemente interagindo uns com os outros em canais de voz ou vídeo.
A motivação, por outro lado, é que é mais fácil encontrar conteúdo e iniciar conversas no Twitter.
De onde surgiu essa comunidade?
O fenômeno de adoração de assassinos e glorificação de crimes não é novidade. Nas redes sociais, comunidades que reúnem esses tipos de fãs ganharam popularidade no Tumblr durante os anos 2010. Em 2018, a plataforma anunciou o banimento de discurso de ódio e conteúdo que glorifica violência e criminosos, mas o grupo permanece ativo.
O Núcleo já escreveu sobre a comunidade de fãs de assassinos, mas com um enfoque no TikTok. Por lá, os usuários encontraram uma rede sem moderação para publicar centenas de vídeos diariamente, glorificando atiradores escolares e supremacistas brancos. Após a publicação da reportagem, enviamos o material para a assessoria da rede social, que derrubou parte das hashtags e dos perfis associados ao grupo.
O autor de um massacre em Buffalo, Nova York, usou um servidor privado no Discord para anunciar o ataque que resultou em 10 vítimas, além de compartilhar seu manifesto supremacista. Outros casos semelhantes já foram relatados.
Na época, a plataforma baniu a conta do criminoso e removeu o servidor privado, arquivando o conteúdo para investigação dos usuários que interagiram com o servidor. O material também foi compartilhado com autoridades americanas.
NA MÍDIA: A BBC Brasil também publicou sobre o assunto.
Publicações mais violentas
Apesar da "migração" para plataformas e o abandono de perfis, o Núcleo observou que as publicações se tornaram cada vez mais violentas desde o caso da escola na Vila Sônia.
Era incomum ver tweets com conteúdo explícito exaltando ou planejando massacres - como, por exemplo, um anúncio no qual um usuário diz querer cometer um crime no local onde estuda, mostrando fotografias de prédios das instituições.
Assim, mais recentemente, publicações do tipo tornaram-se o padrão da comunidade, que antes costumava a interagir majoritariamente compartilhando fancams (vídeos construídos com o propósito de enaltecer um indivíduo ou grupo de pessoas).
Os posts mais recentes também subiram o tom do discurso de ódio contra mulheres.
Em um dos tweets mais violentos identificados pelo Núcleo, um usuário descreve como conduziria um massacre em sua escola e posteriormente praticaria necrofilia com corpos das colegas estudantes. No tweet, que segue ativo, há ao menos cinco comentários incentivando o ato.
Integrantes da comunidade também começaram uma busca ativa pela formação de "duplas".
Autoridades brasileiras de combate ao extremismo afirmam, em relação a casos anteriores, que autores de ataques em escolas costumam agir em duplas com pessoas que conhecem pelas redes sociais ou fóruns online.
Por que datas de aniversário de massacres são perigosas
Os subgrupos da comunidade, que geralmente se dividem por culto a diferentes assassinos, costumam comemorar aniversários de massacres escolares. Há casos que são internacionalmente famosos, como o massacre de Columbine (Estados Unidos, abr.1999) e levantam um alerta de perigo ao nível mundial. No Brasil, pesquisadores em extrema direita chamam a atenção para os dias dos casos de Realengo, Suzano e outros.
EM BUSCA DE ARMAS
O Núcleo também identificou usuários da comunidade em uma busca por armas de fogo, explosivos e outros tipos de armas brancas ou letais.
Outros passaram a publicar fotos com armamentos. Essas fotos estão geralmente acompanhadas por máscaras de caveira, usadas por muitos atiradores escolares e membros da comunidade, as quais são um símbolo do supremacismo branco oriundo de células neonazistas americanas.
Em um caso, identificamos uma usuária — que se identificava como mulher, inclusive publicando vídeos do seu rosto sem qualquer cobertura ou tarja — que postou uma imagem de pistola calibre.38 supostamente em sua posse. A usuária também publicou, no mesmo dia, a foto de uma parede com um desenho a lápis de uma AK47.
"ficou bonita minha AK, ficaria melhor se fosse de verdade pra matar esses filha da puta, mal sabe eles q em menos de 2 meses vão ter a cabeça explodida…"
Não é possível verificar ou confirmar a veracidade das imagens. Embora algumas contenham rostos dos supostos usuários, elas podem ter sido geradas por inteligência artificial ou retiradas de grupos em aplicativos, e por isso, podem não ser encontradas através de busca reversa por imagens no Google.
Violência gráfica
Além de tweets que incentivam massacres escolares, glorificando atiradores e outros tipos de conteúdo extremista, encontramos contas da comunidade compartilhando imagens de violência gráfica sem censura ou edições.
Em mais de uma ocasião, o Núcleo encontrou membros da comunidade brasileira compartilhando vídeos do grupo Estado Islâmico (ISIS) que continham imagens de decapitações, espancamentos e outros tipos de violência explícita.
Apesar desse tipo de conteúdo violar as diretrizes de comunidade do Twitter, ele não foi moderado.
Em sua Política sobre Mídia Sensível, o Twitter define conteúdo gráfico como "qualquer forma de mídia que retrate morte, violência, procedimentos médicos ou ferimentos físicos graves em detalhes gráficos".
Como fizemos isso
O Núcleo criou um perfil para interagir com membros da comunidade no Twitter. Analisamos 160 perfis por um período de aproximadamente quatro meses. Em seguida, enviamos um email para a assessoria do Twitter, mas não recebemos resposta.
Reportagem Sofia Schurig
Arte Rodolfo Almeida
Edição Sérgio Spagnuolo
-sokmk4mgqnuf.jpg)
