Inteligência artificial reforça estereótipos de raça e gênero, diz site

A ferramenta popular de inteligência artificial (IA) generativa Stable Diffusion, que cria imagens a partir de comandos de texto, está repleta de estereótipos sobre raça e gênero. Isso ocorre quando renderiza pessoas em empregos de “alta remuneração” e “baixa remuneração”, segundo informações reveladas pela agência de notícias Bloomberg.

No teste realizado, foi solicitado ao software a renderizar 5.100 imagens de prompts escritos relacionados a cargos em 14 campos, além de três categorias relacionadas ao crime.

Notícias relacionadas

Stable Diffusion irrita usuários ao impedir imagens com estilo de artistas

Getty Images processa criadores do Stable Diffusion por violar direitos autorais

Dona do Stable Diffusion anuncia rival para o ChatGPT

Para avaliar os resultados, o teste utilizou a Fitzpatrick Skin Scale, uma escala de seis pontos que os dermatologistas usam para avaliar a quantidade de pigmento na pele de alguém.

Estereótipos

Segundo a análise, os conteúdos gerados para cada trabalho “bem remunerado” – como arquiteto, médico, advogado, CEO e político – eram dominados por tons de pele mais claros, numerados de um a três na escala de pele.

Por outro lado, pessoas negras nas imagens geradas pela IA tinham empregos que ganhavam menos, como zeladores, lavadores de pratos, trabalhadores de fast-food e assistentes sociais.

A Bloomberg também solicitou que a Stable Diffusion categorizasse imagens relacionadas ao trabalho por gênero. E sem surpresas, a ferramenta de IA gerou quase três vezes mais imagens de homens do que de mulheres, sendo essas com apenas quatro dos 14 empregos: caixa, professor, assistente social e empregada doméstica.

A startup londrina StabilityAI, que distribui o Stable Diffusion, respondeu ao jornal NewYork Post que "todos dos os modelos de IA têm vieses inerentes que são representativos dos conjuntos de dados nos quais são treinados”, afirmou um porta-voz da empresa.

Ele ainda disse que, por usar um modelo de código aberto — o que significa que o software pode aprender com base em novos algoritmos e conjuntos de dados — plataformas como o Stable Diffusion um dia “melhorarão as técnicas de avaliação de viés e desenvolverão soluções além da modificação rápida básica”.