Não faz muito tempo, em 2016 para ser exato, a Microsoft resolveu testar no Twitter a sua mais recente criação de inteligência artificial, a Tay. O projeto era a menina dos olhos da gigante de tecnologia, que queria criar uma “persona” descontraída, divertida e natural para uma troca de mensagens leve na rede social. Não levou nem 24 horas para que a robô que nasceu inocente adotasse um discurso racista, transfóbico e preconceituoso em múltiplos sentidos. Foi preciso interromper a experiência para acabar com as mensagens de ódio criadas pela máquina (saiba mais do projeto aqui).
Esse exemplo extremo mostra um dos maiores riscos associados ao uso da inteligência artificial (IA) e machine learning (ML): a participação - e a potência - do viés humano na tecnologia. É que como a IA é programada para evoluir e aprender a partir das interações reais, em um ambiente onde o ódio predomina, a ferramenta invariavelmente será “contaminada”pelos usuários.
Conto essa história logo de cara para reforçar que a inteligência artificial pode, sim, trazer consigo alguns perigos e riscos importantes, especialmente quando usada em uma área vital como a Saúde. E é por isso que precisamos pensar sobre como vamos usar esse tipo de tecnologia.
A seguir, listo alguns dos riscos que penso serem os mais imediatos para discutirmos na área da Saúde. Dê uma olhada e depois me conte se concorda - ou se acrescentaria mais itens:
- • Ameaça à privacidade e segurança
Sabemos que algoritmos de IA podem ser usados para coletar e analisar dados pessoais em grande escala, o que pode levar à perda de privacidade e aumentar a vulnerabilidade a ataques cibernéticos. A LGPD já é um passo importante para a proteção de dados sensíveis, como são os de Saúde, mas será que apenas ela é suficiente?
- • Desigualdade econômica
A automação e a substituição de trabalhadores humanos por robôs e sistemas de IA sempre figuraram entre os maiores medos da adoção desse tipo de tecnologia e podem, de fato, levar a desigualdades econômicas e sociais, como a perda de empregos em setores tradicionais, como é a Saúde, e a concentração de riqueza em mãos de pouco players do setor. O que estamos fazendo para encarar essa nova ordem social?
- • “Bias” e Discriminação
Os chatbots e sistemas de IA são projetados e treinados por seres humanos, o que significa que podem incorporar os mesmos preconceitos e discriminações presentes na sociedade. Eu já contei como isso aconteceu com o Tay da Microsoft em menos de 24 horas de uso, portanto, ter mais atenção aos vieses na hora de codar é importante para tentar evitar resultados injustos e perpetuar a desigualdade nesse tipo de atendimento ao cliente que visa facilitar a sua vida - e não o contrário.
- • Perda de controle
Uma vez que os sistemas de IA são projetados para tomar decisões por conta própria, existe o risco de que eles se tornem independentes e fora do controle dos seres humanos - o que pode levar a resultados imprevisíveis e potencialmente perigosos. Alguns médicos e profissionais de Saúde reforçam esse temor no uso da tecnologia, embora, até hoje, a decisão final humana permaneça soberana.
- • “Bias” nos dados de treinamento
Se os dados usados para treinar algoritmos de IA na Saúde têm uma representação desproporcional ou distorcida de certos grupos demográficos, isso pode levar a diagnósticos errados e tratamentos inadequados para os demais grupos existentes e que, em um país miscigenado como o Brasil, não são poucos.
- • Perda de privacidade
A coleta, o armazenamento e a análise de dados sensíveis de saúde podem levar a uma perda de privacidade para os pacientes e aumentar a vulnerabilidade a ataques cibernéticos. Em um passado recente, acompanhamos alguns vazamentos de dados importantes, um sinal claro de que é preciso ter mais cuidado com a cibersegurança.
- • Substituição de profissionais de Saúde
Algoritmos de IA podem ser usados para substituir o trabalho dos profissionais de Saúde, o que pode levar a erros de diagnóstico e uma perda de empregos para esses profissionais.
- • Dependência excessiva da tecnologia
Outro risco potencial é o da superutilização. Se os sistemas de IA são usados de forma excessiva, pode haver a uma perda da capacidade dos profissionais de Saúde de avaliar pacientes e tomar decisões baseadas em suas próprias habilidades e julgamentos.
É importante destacar que todos esses perigos que listei podem ser mitigados por meio de uma regulamentação adequada, aliada ao desenvolvimento responsável e à transparência na utilização da tecnologia de IA. Além disso, é fundamental continuar a debater e a questionar os impactos sociais da inteligência artificial para garantir que ela seja utilizada de forma benéfica para a sociedade como um todo. Então, pergunto: o que você acha sobre isso?
(*) Rodrigo Guerra é especialista em finanças e inovação. As duas áreas não costumam ser associadas, mas quando estão lado a lado, elas conseguem transformar projetos inovadores em prática diária nas empresas. No Projeto Unbox, do qual é fundador, realiza uma curadoria de conteúdos fundamentais para impulsionar as mudanças urgentes e necessárias de pessoas, negócios e da sociedade.
