A deputada estadual Renata Souza, do Partido Socialismo e Liberdade (PSOL), do Rio de Janeiro, denunciou em suas redes sociais que foi vítima de racismo algorítmico. No último dia 9, ela prestou depoimento na Delegacia de Crimes Raciais e Delitos de Intolerância (Decradi), no Centro do Rio.
Renata utilizou uma ferramenta de inteligência artificial (IA) para gerar uma imagem sua como animação da Pixar, mas o algoritmo a retratou como uma mulher negra segurando uma arma em uma favela.
O Bing Chat, da Microsoft, foi o responsável pela criação e usa tecnologia de IA generativa do DALL-E, da OpenAI para gerar as animações.
Denúncia
Em suas redes sociais, Renata expressou sua indignação: “Não pode uma mulher negra, cria da favela, estar num espaço que não da violência? O que leva essa “desinteligência artificial” a associar o meu corpo, a minha identidade, com uma arma?”, questinou.
Racismo algorítmico!
Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU
— Renata Souza (@renatasouzario) October 26, 2023
Souza disse que a imagem é um reflexo do racismo estrutural da sociedade brasileira. Ela também criticou a falta de diversidade nos dados usados para treinar os algoritmos de IA.
O Byte procurou a Microsoft, que hospeda o robô inteligente dentro do site bing.com/create, responsável pela criação da imagem. Em nota, a emrpesa informou que está investigando o caso e que tomara medidas cabíveis.
"Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério. Estamos investigando este relato e tomaremos as medidas adequadas para ajustar nosso serviço", afirmaram.
Procuramos também a assessoria da deputada do PSOL-RJ, e aguardamos resposta.
