IA é uma ferramenta poderosa para manipulação de votos, alerta filósofo Mark Coeckelbergh

A inteligência artificial (IA) vem impactando a sociedade de diversas formas, desde como lidamos com a tecnologia até na abordagem de questões éticas. Mas, afinal, a IA é uma ameaça ou uma poderosa ferramenta para a produtividade?

O filósofo belga Mark Coeckelbergh, um dos principais pensadores sobre IA da atualidade, esteve no Brasil esta semana, onde participa da Festa Literária Internacional de Paraty (Flip) para abordar seu livro "Why AI undermines democracy and what to do about it" (na tradução livre: Por que a IA ameaça a democracia e o que fazer a respeito).

Notícias relacionadas

Governo quer regular big techs como Google, Meta e Apple para evitar práticas contra a concorrência

Vale a pena ir atrás de diagnóstico de TDAH depois de adulto?

Meta AI: IA de Instagram, WhatsApp e Facebook chega ao Brasil; veja como usar

Em entrevista concedida ao Byte antes de participar de um debate promovido pela CGI.br, Coeckelbergh falou sobre como a tecnologia pode transformar a produtividade, o trabalho, a democracia e os efeitos em eleições.

No evento da CGI.br, realizado em São Paulo, o filósofo apresentou um panorama dos problemas éticos trazidos pelo avanço da IA, entre outras questões ligadas ao tema. Confira a entrevista abaixo:

Byte: O avanço da inteligência artificial tem levantado preocupações sobre seu impacto na democracia, especialmente em relação à manipulação de dados e fake news. Como você vê o papel da IA em preservar ou ameaçar a democracia?

Mark: Há pelo menos dois tipos de problemas. Um é que, para mim, a democracia não se resume apenas ao voto, mas também a ter alguns princípios, como liberdade e justiça. E esses princípios são fundamentais para a democracia, e o problema é que a IA pode miná-los.

Por exemplo, quando é usada para vigilância e opressão, quando é usada de uma forma que introduz viés e perpetua a discriminação na sociedade. 

O segundo ponto é que, se você quer democracia, precisa de conhecimento. Os cidadãos precisam ter conhecimento. Você ainda precisa de especialização na democracia. Se você tem uma democracia sem especialistas, basicamente, tem um tipo de sistema populista, mas não é uma democracia adequada.

Porque, uma vez que você tem esse sistema populista, ele pode facilmente se tornar uma espécie de ditadura da maioria ou das massas. Então, acho que o que realmente precisamos é de uma forma mais rica de democracia.

E a IA interfere nisso, porque pode gerar desinformação, polarizar ainda mais e colocar as pessoas em bolhas epistemológicas, ou seja, cada um vive em seu próprio pequeno mundo de conhecimento, sem se interessar pelas opiniões dos outros.

O ideal de democracia que eu defendo no meu livro é aquele em que as pessoas ouvem umas às outras, discutem sobre o bem comum, e onde as pessoas realmente participam da tomada de decisões, não apenas votam. Isso só funciona se houver uma base de conhecimento.

Se a IA cria esses fenômenos, então se dificulta. As pessoas não conseguem mais distinguir entre verdade e falsidade, ficam confusas em termos de conhecimento, e a democracia não funciona. Esses são os perigos.

Byte: E você acha que isso é uma preocupação maior durante as eleições? Porque estamos enfrentando eleições no Brasil agora e o uso de inteligência artificial em campanhas e fake news é uma discussão constante.

Mark: No meu livro mostro exatamente que a democracia não deve ser apenas sobre votar, mas a questão urgente são as eleições. Estamos em um ano eleitoral e já vimos, com o caso da Cambridge Analytica, que temos a possibilidade de usar IA em combinação com dados das redes sociais para manipular as pessoas, tentar influenciar o comportamento de voto delas.

Isso já foi feito com propaganda no passado, mas agora a escala é massiva. Você pode influenciar pessoas no mundo todo e pode fazer isso muito rapidamente.

Agora temos a IA como uma ferramenta poderosa tanto para propaganda quanto para manipulação de votos. Isso pode acontecer, e diferentes partidos em todo o espectro político podem usar essa tecnologia. 

Quando escrevi o livro, vi que, não apenas nos EUA e no Brasil, mas também na Europa, havia muitos movimentos populistas de direita e extrema-direita. Eu estava muito preocupado com o autoritarismo e o totalitarismo.

Byte: Nos seus estudos você explora a ética da inteligência artificial. Quais são os principais desafios éticos que enfrentamos hoje e o que pode ser feito a respeito?

Mark: Ainda existem muitos problemas conhecidos, mas que ainda não foram suficientemente abordados. Por exemplo, a responsabilidade: se você automatiza as coisas, qual é o papel do humano? Se algo dá errado, o humano será responsável?

Como fazer isso quando uma máquina é completamente autônoma? O humano pode ser culpado ainda? E deveríamos ter máquinas tão autônomas a ponto de parecer estranho culpar o humano? Ainda não lidamos com isso, mas pode se tornar cada vez mais importante à medida que delegamos mais.

Byte: A IA já está mudando a produtividade no trabalho e também traz preocupações sobre desemprego e substituição de humanos por máquinas. Quais são as possíveis soluções para garantir que a tecnologia beneficie a força de trabalho em vez de substituí-la? E alguns profissionais devem se preocupar? 

Mark: Sim, acho que muitas profissões deveriam se preocupar com isso. Por que qual é a diferença com o tipo de IA que temos agora com esses grandes modelos de linguagem? Eles podem produzir texto e falar, certo? Então, muitas profissões onde isso é feito, como trabalhos administrativos, funções assistentes e área jurídica, por exemplo. Também funções comerciais, como em supermercados e afins.

E a novidade é que essa tecnologia ameaça não apenas os chamados trabalhos de colarinho azul, mas também os de colarinho branco. Então, os trabalhos onde é preciso escrever.

E eu realmente acredito que a solução é usar a IA, em vez de substituir as pessoas, para aprimorar o trabalho delas. Até mesmo em profissões criativas. Mas isso significa que precisamos de mais inteligência humana para usar a IA de maneira inteligente. E isso me remete novamente à educação.

Acho que devemos definitivamente usá-la como uma ferramenta e aproveitar o que ela pode fazer, mas estar ciente das limitações.

Muitas pessoas não estão cientes disso e tratam a IA como se fosse um tipo de oráculo, algo que sempre diz a verdade ou que escreve por elas em vez de deixá-las escrever. E essa não é a maneira como a IA deve ser usada. 

Não acho que devamos ter uma visão pessimista da IA. Acho que a IA pode ser uma ferramenta muito útil, e também há oportunidades. Algumas pessoas são muito negativas a respeito dela, mas acho que devemos dar um lugar para a IA, integrá-la em nossas vidas, assim como ainda estamos aprendendo a integrar os celulares em nossas vidas e a estar online o tempo todo.

Byte: O que as pessoas podem esperar do seu livro e da sua participação nos eventos do Brasil nesta semana?

Acho que o público está faminto por mais discussões e informações sobre IA e o que ela pode fazer, quais são os problemas éticos e as questões políticas envolvidas. Estou feliz em ajudar a estimular essa discussão.

A IA já tem um papel tão importante em nossa sociedade, e, se esse for o caso, acho que precisamos de mais discussões públicas sobre as implicações éticas e políticas da IA.

Na minha opinião, precisamos fazer isso de uma maneira democrática, e não deixar que apenas os especialistas digam o que fazer, mas sim promover um debate.

É claro que sou especialista em ética da IA, mas vejo meu papel mais como alguém que faz perguntas e ajuda a estimular o debate. Isso é o que as pessoas podem esperar.