Algoritmos das favelas: os impactos da tecnologia na quebrada

Dados, algoritmos, inteligência artificial (IA) e design. Parecem palavras distantes da realidade das favelas, mas a verdade é que elas estão em todos os lugares e afetam diretamente a toda população. Quase toda a interação cotidiana feita com objetos envolvem design, produção de dados e algum tipo de inteligência artificial.

Por exemplo, um caixa eletrônico: o design está em todo o processo de acessibilidade e usabilidade do caixa, assim como as operações e informações usadas para as operações do caixa, que geram dados usados pela inteligência artificial para sugerir escolhas e soluções para nossas demandas.

Notícias relacionadas

Aumento da pobreza separa famílias periféricas no Paraná

Projeto abre inscrições para formação de comunicadores da Rocinha

O uso do inglês atrapalha a popularização do veganismo

O caixa eletrônico é apenas um dos exemplos de milhares de interações cada vez mais presentes no dia a dia e que são despercebidas. Porém os impactos da tríade design, dados e inteligência artificial afetam diretamente e, muitas vezes, negativamente as favelas, uma vez que em muitos casos elas agravam as desigualdades socias e tem o e poder de replicar a discriminação racial e de gênero.

O objetivo desses três campos é facilitar a vida das pessoas, seja pela acessibilidade, identificações de padrões ou na automatização de escolhas. No entanto, a neutralidade dessas áreas tem chamado cada vez mais a atenção de pesquisadores e movimentos sociais.

Welligton Bergaminni, estudante de tecnologia da informação da Universidade Tecnológica do Paraná (UTFPR) e ativista do movimento negro. Ele explica que seus colegas de turma, e até docentes, insistem na neutralidade da tecnologia, enquanto alunos(as) que pertencem a uma minoria de poder social exemplificam as discriminações que sofrem ao utilizarem esses sistemas programados para ‘neutralidade’. “Escutamos muito que são apenas códigos e sequencias e que sozinhos não definem realidades, mas mesmo como calouros entendemos que não, que nós (pessoas em situação de vulnerabilidade social) não estávamos presentes no processo de aprendizagem desses códigos, então a dita “normalidade” nos deixou de fora mais uma vez.” Afirma o estudante. 

Ainda segundo Wellington, o acirramento do cenário político nacional e combate às políticas afirmativas pioram ainda mais a situação discriminatória. “Se antes o debate sobre desigualdade social era pouco nas áreas de tecnologia, atualmente é nulo ou visto como motivo de chacota'', lamenta o estudante.

Diferente da turma de Welligton, dentro da própria UTFPR e também em universidade de todo o país há grupos de estudos, linhas de pesquisa e muita gente interessada em discutir o assunto. É caso do grupo de estudos Design Opressão.

Design e Opressão:

O agravamento dos ataques aos direitos humanos, somado ao pensamento do design como uma ferramenta transformadora da sociedade, levou os professores Rodrigo Freese Gonzatto (Professor de Design da PUCPR) e  Frederick Van Amstel (Professor de Design da UTFPR), junto de outros docentes da Universidade Estadual do Rio de Janeiro, que participaram da Conferência internacional de Design participativo na Colômbia, a realizarem encontros virtuais para debater os pensamentos de Paulo Freire mesclado ao Design. Assim surgiu o grupo Design e Opressão.

“Em 2019 a obra de Paulo Freire sofreu diversos ataques do governo federal e daqueles que concordam com seus ideais, isso motivou professores e alunos a reler o autor e associar ao design. Ao mesmo tempo, principalmente para os alunos e alunas, estar em um grupo de estudos ligado a Paulo Freire dentro da universidade é uma maneira direta de se contrapor aos ideais empobrecidos e ditatoriais do atual presidente”. Afirma o professor Rodrigo Gonzatto.

Após as discussões geradas no grupo de estudos, os integrantes produziram a live “Paulo Freire tem a ver com Design?” (Disponível no link: https://www.youtube.com/watch?v=qv-T0r7oMnw ), com a transmissão nas redes, descobriram o interesse de centenas de pessoas de dentro e fora da área no assunto.

“As origens do design participativo vêm da Escandinávia e já utilizamos Paulo Freire, o que nós fizemos foi resgatar esses estudos e a continuação da escola de Freire após os anos 70. Nós queremos construir de forma participativa tudo o aquilo que o design toca”, explica o professor Frederick Van Amstel.

Ainda segundo o professor o pensamento do design participativo é tão revolucionário quanto o método de alfabetização Paulo Freire pois ambos geram acessibilidade aos excluídos. “Assim como Paulo Freire promovia a autonomia ao alfabetizar a população, o design participativo promove a inclusão de analfabetos, pessoas com deficiência e outras em aplicativos ou qualquer produto que seja planejado pelo design participativo”, afirma Amstel.

De acordo com os professores a usabilidade de objetos do dia a dia pode excluir grandes parcelas da sociedade. Ele utiliza o exemplo clássico do caixa eletrônico “Por exemplo na pandemia, muitos trabalhadores(às) precisavam receber o auxílio emergencial e para isso era necessário ter um aplicativo do banco e um smartphone, o que não é a realidade das pessoas naturalmente excluídas. Essa obrigatoriedade gera uma dependência de outra pessoa ou de outro aparelho para que esses cidadãos exerçam o direito básico que é receber o salário e medida de auxílio emergencial”, salientam.

Os professores também frisam que o desafio do design participativo é criar um projeto não excludente, capaz de incluir e assim romper com os padrões discriminatórios.

O algoritmo e a favela:

Tarcízio Silva, Doutor no Programa de Ciências Humanas e Sociais da Universidade Federal do ABC e pesquisador da Fundação Mozilla, é autor do livro ‘Racismo Algoritmo: Inteligência artificial e discriminação nas redes socais’. Tarcízio também fala sobre Paulo Freire como um pensador que combate a discriminação.  “Segundo Freire, a opressão ocorre quando o opressor prescreve o comportamento do oprimido, coloca na mente do oprimido como ele deve se comportar. Um algoritmo nada mais é do que uma série de prescrições de como lidamos com a tecnologia. Ou seja, ela dita como a utilizamos. Nada mais é do que opressão embutida em código”, conclui.

Sobre como os algoritmos afetam diretamente a vida da sociedade e reproduzem opressões, Tarcízio diz, “Sobre danos individuais, pode significar discriminação ou práticas injustas ligadas a contratação, benefícios sociais, habitação, educação, acesso a crédito, aumento da vigilância, reforço de estereótipos e até mesmo privação de liberdade ou acesso diferencial à saúde. O mais grave é que estes danos são percebidos por cidadãos, mas as empresas de tecnologia tentam fugir da responsabilidade pela opacidade de suas decisões. Já os danos coletivos significam mais que o acúmulo dos danos individuais em termos de perda de oportunidades, perdas financeiras, estigmatização social e até necropolítica. As históricas desigualdades sociais podem ser aprofundadas se a mediação de recursos sociais é concentrada em poucas empresas através de plataformas”, comenta.

Questionado sobre possíveis soluções para uma tecnologia que gere a equidade e esteja livre de opressões, o Doutor em Ciências Humanas diz que a chave está em centralizar a importância da tecnologia na defesa dos direitos humanos. “Considerando o panorama atual, é possível caminhar nesta direção através do controle social da tecnologia, algo que requer o efetivo engajamento do cidadão nos assuntos estatais. Marcos regulatórios sobre meios de comunicação ou tecnologia são realidade há décadas em muitos países com altos níveis de segurança institucional. Não termos essa questão resolvida piora o contexto atual de necessidade de regulação, por exemplo, de plataformas que tem negócios não apenas como meios de comunicação, mas também nos mais diversos setores que vão de inteligência artificial, robótica e saúde a serviços financeiros”, finaliza.