Inteligência artificial pode atrapalhar precisão de diagnósticos
A inteligência artificial é muito bem-vinda na área da saúde, mas um estudo revela a necessidade de tomar cuidado com a ferramenta, que pode ser tendenciosa
Muito se discute sobre o papel da inteligência artificial na área da saúde, mas um estudo publicado na JAMA na última terça-feira (19) apontou que essa grande novidade da tecnologia pode atrapalhar os médicos no momento de chegar a um diagnóstico. Segundo o artigo, a equipe médica pode ter dificuldade em detectar quando o sistema dá conselhos tendenciosos, o que pode distorcer a forma como diagnosticam os pacientes.
- IA escuta 10 segundos da sua voz e "diagnostica" diabetes tipo 2
- IA usa radiografia para diagnosticar doenças do coração
Na ocasião, os cientistas testaram um sistema específico de IA projetado para ajudar os médicos a chegar a um diagnóstico. A tecnologia realmente ajudou os médicos a diagnosticar os pacientes com mais precisão, e quando explicava como as decisões foram tomadas, a precisão aumentava ainda mais.
_j87_2024-06-03-skscuprthz5g.png)
Em contrapartida, quando os investigadores testaram uma IA que foi programada para ser intencionalmente tendenciosa no sentido de fornecer diagnósticos específicos, a utilização diminuiu a precisão dos médicos.
Para o estudo, os pesquisadores criaram um questionário online que foi apresentado a profissionais da área da saúde, com descrições realistas de pacientes que foram hospitalizados. As descrições incluíam os sintomas e exames de cada paciente fictício.
Durante a pesquisa, cada clínico diagnosticou dois pacientes sem ajuda de IA e seis pacientes com a ajuda da tecnologia, que classificou cada diagnóstico potencial com uma pontuação de certeza que ia de zero a 100.
IA tendenciosa atrapalha diagnósticos
Assim, o time de cientistas analisou respostas de 457 médicos que diagnosticaram pelo menos um paciente fictício. Sem o auxílio de IA, os diagnósticos dos médicos foram precisos em cerca de 73% das vezes. Com a IA padrão e imparcial, esse percentual saltou para 75,9%.
No entanto, a IA tendenciosa diminuiu a precisão dos médicos para 61,7%, além de afetar a seleção dos tratamentos corretos pelos médicos. Os médicos prescreveram o tratamento correto apenas 55,1% das vezes quando mostraram previsões geradas pelo algoritmo tendencioso. A precisão deles sem IA foi de 70,3%.
IA na saúde
Já vimos diversos exemplos de uma boa relação entre a inteligência artificial e a saúde, como no diagnóstico de autismo ou na previsão de acidente vascular cerebral. No entanto, estudos também já destacaram que é necessário tomar cuidado com esse recurso.
No início deste mês, um estudo da Long Island University destacou que o ChatGPT pode fornecer informações erradas sobre remédios e, por conta disso, oferecer riscos aos usuários.
Fonte: JAMA
Trending no Canaltech:
- O campo magnético da Terra está prestes a ser revertido?
- 🔥 PREÇÃO | Compre Galaxy S23 Ultra de 512 GB em ótima oferta
- Obituário: morte do DCEU enterra uma década de frustração
- 20 ofertas do Mercado Livre com entrega para antes do Natal
- 18 ofertas da Amazon com entrega para antes do Natal
- Fluminense x Manchester City | Onde assistir à final do Mundial de Clubes
