Tom dramático sobre inteligência artificial encobre velhos problemas sociais

Quando se fala em inteligência artificial (IA), é comum pensarmos em robôs superinteligentes mudando radicalmente — ou até ameaçando — a humanidade.

A ficção científica já imagina programações do tipo há décadas, como nas obras de Isaac Asimov, expoente na literatura sci-fi do século 20, e até no icônico filme "2001: Uma Odisseia no Espaço" (1968).

Notícias relacionadas

Jovem usa inteligência artificial para descobrir traição; entenda

Em teste, inteligência artificial reconhece senhas pelo som das teclas

Papa Francisco alerta contra potenciais perigos da inteligência artificial

Mas isso não ficou na fantasia. Em um artigo de 2014, o físico Stephen Hawking já havia previsto que a criação de uma IA avançada marcaria o início do fim da humanidade.

Recentemente, uma carta aberta de especialistas da área alegou que as empresas estão em "uma corrida fora de controle para desenvolver e implementar mentes digitais cada vez mais poderosas que ninguém, nem mesmo seus criadores, pode entender, prever ou controlar com segurança".

Mas será que esse tom apocalíptico é o enfoque certo que devemos dar à entrada da IA em nossas vidas? A resposta curta é: não.

Essa tecnologia, que chegou à popularidade global no início desse ano com o ChatGPT, popular chatbot da OpenAI, já traz alguns perigos latentes, mas a extinção humana ainda está bem atrás na "lista". Por outro lado, ela vem acelerando problemas muito mais próximos de nós e não menos sérios, como desigualdade social, preconceito e desinformação.

IA vai destruir empregos?

Um dos desafios mais imediatos e tangíveis ligados à massificação de sistemas com IA é uma nova fase de automação no mercado de trabalho. 

A OCDE (Organização para Cooperação e Desenvolvimento Econômico) alerta para uma "revolução da IA" que poderá resultar em perdas significativas de empregos em setores altamente qualificados, como direito, medicina e finanças.

Um relatório da intstituição mostra que cerca de 27% dos empregos nos 38 países membros, incluindo potências econômicas como Reino Unido, Japão, Alemanha, EUA, Austrália e Canadá, estão suscetíveis ao fenômeno.

Cargos protocolares, como muitos na carreria jurídica, e carreiras que se isolam do contato humano serão os mais ameaçados, segundo Marcos Fernandes, doutor e professor de economia na FGV (Fundação Getulio Vargas).

"O médico que só atende, não pesquisa, só dá a receita e vai embora não vai ter emprego. O que lida com as pessoas de verdade vai ter", diz.

Para o economista, a nova tecnologia promete expandir desigualdades entre funcionários criativos e gerenciais e os de caráter técnico.

"No caso do cinema, é claro que grandes atores e atrizes vão manter seus empregos. Mas e os figurantes? O dublador vai deixar de existir. A IA vai recriar a voz do Brad Pitt e dublá-lo falando português", diz. 

O dilema dos direitos autorais

Com a capacidade de gerar conteúdo como música, vídeos e textos, a IA pode nos proporcionar coisas inusitadas, como fotos artificiais de uma versão cyberpunk do seriado "The Office" ou uma propaganda com um artista falecido, como foi o caso da recente campanha da Volkswagen estrelada por Elis Regina.

Mas, afinal, de quem são essas criações? Modelos generativos de IA, treinados com bilhões de dados produzidos por humanos, enfrentam a dificuldade de obter autorização para a utilização de todas as obras que serviram de base para seu desenvolvimento.

É nessa concepção que se apoiam os críticos à IA, que chamam esses sistemas de "papagaios" — aves que só repetem, sem entender, aquilo que foi criado por outras pessoas. 

Veja 10 famosos "ressuscitados" por inteligência artificial

Enquanto isso, a legislação de direitos autorais corre contra o tempo para abordar as nuances da criação automatizada, já que a maioria dos regimes jurídicos, incluindo o brasileiro, exige no mínimo um acordo com os autores.

"A IA faz com que as leis de direitos autorais estejam, em certa medida, desatualizadas. Há uma impossibilidade prática de você buscar esse consentimento de todos os parâmetros que você vai inserir pra criar esses modelos", diz Tainá Junquilho, doutora em direito e pesquisadora do Instituto de Tecnologia e Sociedade do Rio (ITSRio).

IA espalhando (mais) mentiras e preconceito

O avanço da IA também trouxe consigo possibilidades alarmantes de desinformação. Por um lado, parece claro que Elis Regina, falecida em 1982, nunca poderia ter cantado um dueto em uma Kombi com a versão adulta de sua filha, Maria Rita, hoje com 45 anos. Por outro, o que dizer de um suposto Papa Francisco passeando pelas ruas de Roma com um casaco estiloso?

Máquinas treinadas podem criar notícias falsas, vídeos manipulados e discursos com impressionante realismo. O desafio é agravado pela velocidade com que esses conteúdos podem se espalhar.

"O processo de desmentir isso é lento. Se produzido da forma 'certa', na hora 'certa', uma mentira pode viralizar e causar um estrago muito grande", diz Caio Machado, advogado e diretor-executivo do Instituto Vero, organização que combate a desinformação.

A IA também carrega a responsabilidade de perpetuar vieses preconceituosos presentes nos dados utilizados para treiná-la. E nesse sentido, seu uso em buscadores da internet e algoritmos de redes sociais também preocupa.

A agência de notícias Bloomberg fez testes por três meses com a ferramenta popular de inteligência artificial (IA) generativa Stable Diffusion. Os resultados, publicados em uma reportagem neste ano, acusaram estereótipos sobre raça e gênero. 

Segundo a análise, os conteúdos gerados para cada trabalho “bem remunerado” – como arquiteto, médico, advogado, CEO e político – eram dominados por tons de pele mais claros, numerados de um a três na escala de pele.

Já pessoas negras nas imagens geradas pela IA tinham empregos que ganhavam menos, como zeladores, lavadores de pratos, trabalhadores de fast-food e assistentes sociais. Também criou mais mais de homens como trabalhadores do que mulheres.

"Dependendo das palavras que você usa, você pode ter um resultado criacionista ou evolucionista sobre a origem dos dinossauros. Então você imaginar o que acontece quando as pessoas estão pesquisando sobre um fato histórico ou algum evento político. Você tem o poder sobre os resultados", diz Machado.

Como a qualidade da IA é diretamente influenciada pela qualidade das informações fornecidas a ela, preconceitos sociais, raciais ou de gênero presentes na sociedade também podem se refletir nos resultados. E com a maior adoção da ferramenta, influenciar decisões de maior impacto na vida das pessoas, como contratações, avaliações de crédito e sentenças judiciais.

Caminhos possíveis

Da mesma forma que a IA pode ser usada pra gerar uma imagem falsa, ela pode ser usada pra detectar imagens e informações falsas e a circulação de tópicos sensíveis. Entretanto, ainda não é possivel cravar uma iniciativa, seja ela governamental ou privada, que tenha desempenhado essa função sem dificuldades.

"É muito cedo pra te dizer quais são os casos de sucesso, porque a gente está no meio do furacão", diz Machado. Ele acredita que, por enquanto, o engajamento da sociedade civil segue como uma ferramenta essencial para frear as consequências negativas.

"No Brasil e nos Estados Unidos, isso sido fundamental pra pra defender a sociedade de campanhas de desinformação promovidas pelo Estado", disse.

Uma solução frequentemente evocada por especialistas para frear conteúdos desinformativos criados por inteligência artificial é a criação de selos de autenticidade digital. Na visão de Junquilho, eles podem ajudar, sim, no quesito da desinformação, mas são pouco efetivos no uso de imagem e de trabalhos criados por terceiros.

No início de julho, o jornal britânico The Sun afirmou que, segundo fontes secretas, a cantora Madonna teria proibido que a recriem com hologramas em shows depois de sua morte. Na mesma semana, a atriz Whoopi Goldberg admitiu em um talk show que determinou em seu testamento que ninguém faça coisa similar com sua imagem póstuma.

"Da mesma forma como a gente dispõe sobre doação de órgãos, a tendência é que as pessoas, principalmente artistas e influenciadores, disponham sobre o que quer ou não quer que seja feito de sua imagem pós morte", diz Junquilho.

A advogada acredita que o cenário mais provável é uma atualização na lei de direitos autorais do Brasil (L9610), aprovada em 1998.

O Senado instalou na quarta-feira (16) uma Comissão Temporária sobre IA no Brasil (CTIA), para analisar iniciativas legislativas e novos projetos sobre inteligência artificial. Os senadores Carlos Viana (Podemos-MG) e Astronauta Marcos Pontes (PL-SP) foram eleitos, respectivamente, presidente e vice-presidente da comissão.

Relembre os melhores filmes e séries sobre inteligência artificial

Viana apontou que o objetivo do colegiado é consolidar um conjunto de regras que permita o desenvolvimento de máquinas, aplicações e sistemas inteligentes para melhorar a vida da população, mas com a atenção a possíveis violações dos direitos dos cidadão. Dentro dos próximos 120 dias, a casa deve se manifestar sobre o tema por meio de um relatório.

Uma adoção positiva da IA é possível?

Para quem fica no mercado de trabalho, existe a promessa de que a IA vai aumentar a produtividade de profissionais humanos. Nessa linha, ela supostamente ajudaria, mas não substituiria programadores, marqueteiros e outras funções de confiança.

Na educação, o discurso é que "superprofessores" teriam cada vez mais ferramentas para um ensino focalizado nas dificuldades de cada aluno e menos tempo tentando entender garranchos em provas, por exemplo. Estudantes, por sua vez, poderiam dedicar mais tempo às suas pesquisas do que às regras da ABNT.

"Não temos evidência para dizer o que vai acontecer, não temos dados para saber o balanço final. Você destrói empregos e cria empregos, mas e o saldo líquido? É positivo ou negativo? Tendemos a achar que é negativo, neste momento", pondera Fernandes, da FGV.