Disseminação da Inteligência Artificial no Sul Global tem muitos riscos, mas também tem soluções

Embora a inteligência artificial (IA) prometa uma revolução na governança, nos negócios e na sociedade, ela também traz enormes riscos, como é o caso da aceleração da desinformação, ataques cibernéticos sofisticados e o aumento do consumo de energia, que já fazem parte da realidade. Outros riscos, como a possibilidade de máquinas superinteligentes tomarem decisões sem a supervisão humana, ainda estão um pouco mais distantes. Embora a conscientização sobre os riscos da IA esteja aumentando, há riscos que ainda não foram sequer identificados. Diante das grandes oportunidades oferecidas pela IA, especialmente em países de baixa e média renda, trata-se de uma empreitada arriscada.

Apesar das mensagens tranquilizadoras do setor de tecnologia, as preocupações em relação ao impacto negativo da rápida adoção da IA na sociedade, incluindo o Sul Global, estão aumentando. No ano passado, o Instituto Igarapé e New America convocou uma Força-Tarefa Global, composta por especialistas em IA de toda a América, África e Ásia, para discutir maneiras práticas de melhorar a segurança e o alinhamento da IA.

Notícias relacionadas

Jovem desaparecida a uma semana é localizada

Ex-atriz mirim dos anos 90 celebra Dia do Professor: 'Há 14 anos venho dedicando minha vida'

Demitida por justa causa, caixa de posto de gasolina terá de devolver R$ 230 mil

Em 2024, essa Força-Tarefa lançou um documento introdutório com uma série de estratégias para mitigar os riscos e melhorar a resiliência na maior parte do mundo, além de reduzir as lacunas de governança e regulamentação da IA entre o Norte e o Sul Global.

Menos postos de trabalho

Um dos maiores riscos apontados pela Força-Tarefa é a automação em massa e a eliminação de postos de trabalho. A implantação da IA deverá impactar a força de trabalho em setores que vão desde a agricultura, indústria e varejo, até as áreas jurídica e médica e de consultorias em gestão.

Embora novas formas de emprego sejam inevitavelmente criadas, estima-se que o trabalho de pelo menos 800 milhões de pessoas esteja em risco de ser automatizado até 2030, incluindo 300 milhões de empregos em países ricos. Uma preocupação real é que os setores de baixa qualificação, em países em desenvolvimento, sejam desproporcionalmente afetados. A Organização Internacional do Trabalho estima que mais de 56% de todos os empregos em países de baixa e média renda estão em "alto risco" de automação. Sem salvaguardas adequadas, isso pode agravar a desigualdade econômica e excluir jovens trabalhadores de baixa qualificação.

Exclusão digital

Outro risco associado à IA é o aprofundamento da exclusão digital e o aumento da desigualdade. A diferença entre aqueles que têm acesso a tecnologias avançadas e aqueles que não têm tende a se ampliar nos próximos anos, levando a uma menor produtividade, redução do crescimento econômico e maior desigualdade social e econômica. Isso é particularmente preocupante nos países de baixa e média renda que já enfrentam défices de talentos digitais e serviços relacionados. Um dos principais motivos para isso é a relativa dificuldade de acesso à infraestrutura digital e o baixo letramento digital de grandes áreas do Sul Global.

Outra ameaça significativa é a intensificação de preconceitos e discriminação. Sistemas de IA desenvolvidos nos EUA, China e União Europeia podem perpetuar e amplificar preconceitos já presentes nos dados usados para o treinamento da IA. Isso pode levar a resultados discriminatórios em áreas como pontuação para conseguir crédito, recrutamento de pessoal, prêmios de seguro, policiamento e justiça criminal.

Os algoritmos ainda são, em grande parte, treinados com conjuntos de dados fornecidos pelos países mais ricos. Como resultado, trabalhadores, estudantes e empreendedores dos países em desenvolvimento podem ser injustamente excluídos de oportunidades no mercado de trabalho, empréstimos, bolsas de estudo ou serviços de saúde devido a algoritmos tendenciosos. Tudo isso, por sua vez, reforça a discriminação estrutural, incluindo preconceitos raciais, de gênero e de classe.

Vigilância e privacidade

A intensificação da vigilância e da violação de privacidade também preocupa. A integração da IA na vigilância — desde cidades inteligentes até aplicação da lei — pode, intencionalmente ou não, infringir a privacidade, as liberdades civis e os direitos humanos. Isso é especialmente preocupante em países com instituições democráticas mais fracas, proteções legais insuficientes e mecanismos de supervisão deficientes.

Uma grande preocupação é que regimes autoritários implantem sistemas baseados em IA para monitorar adversários políticos, suprimir dissidências e alvejar comunidades marginalizadas com base em etnia, religião ou ideologia. Mesmo em ambientes democráticos, plataformas de IA têm contribuído para um policiamento excessivo, perfis discriminatórios e detenções injustas.

Outro risco está relacionado à dependência excessiva dos atores do Sul Global em tecnologias e expertise estrangeiras. Embora em grande parte inevitável, a forte dependência de tecnologias de IA e inovações dos EUA, China e Europa pode reduzir os incentivos de alguns países para desenvolverem seus próprios setores tecnológicos domésticos.

Essas dependências podem, potencialmente, degradar seu poder de negociação, resultar em custos mais altos para a tecnologia e diminuir o controle sobre padrões. A erosão da soberania dos dados é uma realidade, e a dependência de fornecedores estrangeiros significa que os dados podem ser mais facilmente acessados, controlados, manipulados e explorados por atores externos. Isso, por sua vez, pode ampliar vulnerabilidades, como violações de privacidade e roubo de propriedade intelectual, além de reduzir o controle sobre infraestruturas tecnológicas críticas.

Soluções passam por cooperação internacional

Considerando-se todos esses riscos, quais são as possíveis soluções para o Sul Global? No mínimo, há um coro crescente por padrões globais, cooperação internacional e programas direcionados, como os defendidos em uma resolução da Assembleia Geral da ONU de 2024 sobre a inclusão da IA e do Pacto Digital recentemente acordado, que visa superar as desigualdades digitais, de dados e de inovação. O enviado de tecnologia da ONU e um corpo consultivo de alto nível sobre IA têm instado governos, empresas e pesquisadores a projetar, desenvolver e implementar tecnologias de IA de maneira equitativa, inclusiva e sensível aos desafios específicos enfrentados pelos países do Sul Global. Esses e outros grupos propuseram uma série de estratégias para mitigar os riscos.

Diante da automação e fechamento de postos de trabalho, reconhece-se amplamente a necessidade urgente de investir em educação e capacitação profissional. Os atuais e futuros trabalhadores precisam possuir as habilidades adequadas para o mercado de trabalho em evolução — seja o conhecimento do mundo digital e da ciência de dados, como o desenvolvimento de habilidades interpessoais.

Isso requer a implementação de centros de capacitação profissional e cursos online, recursos para requalificação profissional, serviços de recolocação profissional e benefícios progressivos de desemprego, bem como programas de renda básica universal (RBU). Exemplos promissores incluem a iniciativa AI for All (IA para todos), da Índia, os embaixadores digitais de Ruanda e o programa Conecta, do Brasil, que estão ajudando pessoas e empresas a fazer a transição para a economia digital. Além disso, grupos não governamentais como o Platzi, da América Latina, e a Academia M-Pesa, da África, estão capacitando a força de trabalho do futuro. Enquanto isso, países como Quênia, Namíbia e Índia estão testando o RBU, com alguns resultados auspiciosos.

Quanto às desigualdades digitais, atores públicos e privados precisarão fazer um investimento significativo em infraestrutura digital no Sul Global. Isso inclui expandir o acesso à internet e à banda larga para os 2,6 bilhões de pessoas que ainda não estão conectadas, além de apoiar a criação e gestão de centros tecnológicos, especialmente em áreas desatendidas. Políticas nacionais e direcionadas que promovam o acesso equitativo aos serviços digitais e programas de tecnologia de baixo custo também são essenciais. Há um papel importante para parceiros internacionais e regionais, incluindo bancos multilaterais de desenvolvimento e empresas multinacionais. Um exemplo positivo de como ampliar esse tipo de atividade é o programa AI for Development (AI4D), da Aliança Smart África, que está desenvolvendo estruturas éticas de IA para governança, agricultura e saúde.

Preconceitos e discriminação podem ser reduzidos por meio do estabelecimento e da aplicação de diretrizes éticas e padrões para o desenvolvimento e implementação da IA. Como demonstrado pela Força-Tarefa Global do Instituto Igarapé, entre outras, países e empresas precisam apoiar estruturas regulatórias que exijam transparência algorítmica e auditorias regulares. Identificamos mais de 640 estratégias desse tipo, embora mais de dois terços tenham sido formuladas em países da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), que podem oferecer ideias práticas. Além disso, há grandes oportunidades para exigir que os dados usados no treinamento de sistemas de IA sejam mais diversos e representativos.

Abordar de forma abrangente as violações de privacidade e vigilância requer a criação e aplicação de leis robustas de proteção de dados e privacidade para proteger as informações pessoais. A União Europeia e países como Brasil (Lei de Proteção de Dados Pessoais), Índia (Lei de Proteção de Dados Pessoais), Quênia (Lei de Proteção de Dados), África do Sul (Lei de Proteção de Informações Pessoais), Tanzânia (Lei de Proteção de Dados Pessoais), entre outros, estão lidando com essas questões. Também é necessário que haja regulamentações claras sobre o uso da IA para vigilância, a fim de minimizar práticas invasivas, além de campanhas de conscientização pública juntamente com a defesa por parte da sociedade civil de proteções mais rigorosas.

Por fim, reduzir a dependência excessiva de fornecedores estrangeiros de tecnologia exige um grande investimento não apenas em pesquisa e desenvolvimento de IA local, como também na formulação de políticas de IA. Uma das prioridades é expandir subsídios e incentivos para aceleradoras locais, startups e instituições de pesquisa. Parcerias internacionais e colaboração também desempenham um papel fundamental, assim como centros dedicados ao treinamento e educação da força de trabalho. Parceiros internacionais como a União Internacional de Telecomunicações (UIT), Organização das Nações Unidas para a Educação, Ciência e Cultura (Unesco, Programa das Nações Unidas para o Desenvolvimento PNUD) e outros têm ajudado a promover ações tanto no desenvolvimento de habilidades técnicas quanto na capacitação de legisladores e servidores públicos para promover políticas de IA seguras e responsáveis.

Embora questões estruturais, como legislação antitruste, precisem ser abordadas, é urgente aumentar o investimento e a inovação em IA no Sul Global. Subsídios e incentivos para aceleradoras locais, startups e institutos de pesquisa estão começando a ser oferecidos por gigantes da tecnologia como Google, Intel e Microsoft. Organizações internacionais como UIT, Unesco, PNUD e outras também estão ajudando a capacitar tanto tomadores de decisão quanto trabalhadores. Precisamos de muito mais. A boa notícia é que a nova Resolução da ONU sobre IA Inclusiva, o Painel de Alto Nível sobre IA, o Pacto Digital e o Enviado de Tecnologia da ONU apontam para um caminho positivo à frente.

Para enfrentar esses riscos e ampliar a implementação de soluções, é essencial reduzir a lacuna na governança da IA entre o Norte e o Sul Global. Essa diferença se manifesta não apenas nas capacidades tecnológicas e na infraestrutura digital e de energia subjacente, mas também no acesso a recursos, talentos e até mesmo à formulação de políticas. No mínimo, isso exige aumentar a participação dos tomadores de decisão e especialistas do Sul Global no desenvolvimento, regulamentação e até mesmo formulação de políticas de IA, inclusive nos contextos do G20e da OCDE. Promover a capacitação e o compartilhamento de conhecimento por meio de institutos especializados e centros de pesquisa em IA também é fundamental.

A Força-Tarefa Global, liderada pelo Instituto Igarapé, destacou que os países de baixa e média renda precisam desenvolver, simultaneamente, estruturas de governança de IA que estejam alinhadas aos contextos sociais e econômicos locais. Apesar das preocupações legítimas com a fragmentação regulatória, é necessário equilibrar as extraordinárias oportunidades oferecidas pela IA com os riscos associados à automação de empregos, violações de privacidade e dependências estrangeiras. As estratégias recém estabelecidas pela União Africana em relação à IA e Transformação Digital oferecem sinais promissores nesse sentido.

Todos esses compromissos ambiciosos requerem um esforço conjunto para atrair investimentos em programas de apoio à infraestrutura de IA, em parceria com países em desenvolvimento. Isso demandará compromissos financeiros e técnicos substanciais para a construção de novos centros de dados, aumento da capacidade de computação e expansão da conectividade de banda larga, além de oferecer ferramentas e plataformas de IA de código aberto.

O Pacto Digital Global compromete-se a criar um fundo internacional sob os auspícios da ONU para estimular o uso da IA para o desenvolvimento sustentável, bem como a estabelecer um painel científico independente e um diálogo global para ancorar a IA nos direitos humanos. Esse fundo precisará fazer apostas ambiciosas (semelhantes às iniciativas lideradas pelo setor privado, como o recente fundo lançado pela IBM e Blackrock se quiser ajudar a fechar a lacuna de governança e habilidades relacionadas à IA.

Dr. Robert Muggah é afiliado ao Instituto Igarapé, um "think and do tank" independente que desenvolve pesquisas, soluções e parcerias para superar desafios relacionados à segurança pública, digital e climática. Dr. Muggah também é consultor das Nações Unidas, do FMI e do Banco Mundial e é afiliado ao Grupo SecDev. O Dr. Muggah está envolvido no desenvolvimento de novas tecnologias e no teste de sistemas de IA para segurança e alinhamento. Ele também coordenou uma força-tarefa global sobre análise preditiva em 2023 e 2024.