Veja porque você não deve contar para a IA seus problemas de saúde

WASHINGTON POST - Os bots de pesquisa têm respostas - mas será que você pode confiar neles para fazer suas perguntas? Desde que a OpenAI, a Microsoft e o Google lançaram chatbots de inteligência artificial (IA), milhões de pessoas têm experimentado uma nova maneira de pesquisar na internet: batendo um papo com um modelo que regurgita aprendizados de toda a web.

Devido à nossa tendência de recorrer ao Google com perguntas a respeito da nossa saúde, é inevitável que também perguntemos ao ChatGPT, ao Bing e ao Bard. Mas essas ferramentas repetem alguns erros conhecidos relacionados com privacidade, segundo os especialistas, além de criar novos.

Notícias relacionadas

Milagre da multiplicação de peixes descrito na Bíblia pode ter explicação científica, aponta estudo

Cientistas criam "capa da invisibilidade" para proteger surfistas de ataques de tubarão

Hospitalização de astronautas após retorno à Terra ainda é um mistério para a Nasa

"Os consumidores devem encarar essas ferramentas no mínimo com desconfiança, já que - como tantas outras tecnologias populares - todas elas são influenciadas pelas forças da publicidade e do marketing", disse Jeffrey Chester, diretor-executivo do grupo de defesa dos direitos digitais Center for Digital Democracy.

Veja a seguir o que você deve levar em consideração antes de contar a um chatbot de IA suas informações confidenciais de saúde ou quaisquer outros segredos.

Os bots de IA estão armazenando minhas conversas?

Sim. O ChatGPT, o Bing e o Bard salvam o que você digita neles. O Bard do Google, que está sendo testado com um número limitado de usuários, tem uma configuração que permite dizer à empresa para parar de salvar suas consultas e associá-las à sua conta do Google.

As empresas estão usando minhas conversas para quê?

Essas empresas usam suas perguntas e respostas para treinar os modelos de IA a dar respostas melhores. Mas o uso delas de suas conversas nem sempre para por aí. O Google e a Microsoft, que lançou uma versão de chatbot com IA para seu motor de busca Bing em fevereiro, dão margem em suas políticas de privacidade para usar suas atividades de bate-papo para publicidade. Isso significa que se você digitar uma pergunta sobre sapatos ortopédicos, há uma chance de ver anúncios relacionados ao tema depois.

Isso talvez não lhe incomode. Entretanto, sempre que preocupações com a saúde e publicidade digital se esbarram, há potencial para danos. Existem data brokers, pessoas que têm acesso à informações vazadas de sites, que vendem listas enormes de dados de pessoas e suas preocupações com a saúde a compradores que podem incluir governos ou seguradoras. E algumas pessoas com doenças crônicas relatam anúncios direcionados perturbadores que as perseguem pela internet.

Portanto, o tanto de informações de saúde que você compartilha com o Google ou a Microsoft deve depender do quanto você confia na empresa para proteger seus dados e evitar publicidade predatória.

A OpenAI, que desenvolveu o ChatGPT, diz que só salva suas pesquisas para treinar e aprimorar seus modelos. Ela não usa as interações com o chatbot para criar perfis de usuários ou publicidade, disse a porta-voz da OpenAI, embora ela não tenha respondido quando questionada se a empresa pretende fazer isso no futuro.

Algum humano verifica minhas conversas?

Em alguns casos, revisores humanos intervêm para auditar as respostas do chatbot. Isso significa que eles também vão ver suas perguntas. O Google, por exemplo, salva algumas conversas para analisar e fazer comentários, armazenando-as por até quatro anos. Os revisores não veem sua conta do Google, mas a empresa avisa aos usuários do Bard para evitar compartilhar qualquer informação pessoal identificável nos chats. Isso inclui o seu nome e endereço, mas também detalhes que podem identificar você ou outras pessoas que você mencione.

Por quanto tempo as minhas conversas ficam armazenadas?

As empresas que coletam nossos dados e os armazenam por longos períodos criam riscos de privacidade e segurança - elas podem ser hackeadas ou compartilhar os dados com parceiros comerciais não confiáveis, disse Rory Mir, diretor associado de organização comunitária da Fundação Fronteira Eletrônica, uma organização sem fins lucrativos que defende os direitos de privacidade.

A política de privacidade da OpenAI diz que a empresa conserva seus dados "apenas pelo tempo necessário para nós oferecermos nosso serviço a você, ou para outras finalidades comerciais legítimas". Isso poderia ser indefinidamente, e a porta-voz da empresa se recusou a ser mais específica. O Google e a Microsoft podem armazenar seus dados até você solicitar para eles serem excluídos.

Posso confiar nas informações de saúde que os bots oferecem?

A internet é um pot-pourri de informações sobre saúde - algumas úteis, outras nem tanto - e os modelos de linguagem ampla, como o ChatGPT, talvez façam um trabalho melhor do que os motores de busca convencionais em evitar o que não presta, disse Tinglong Dai, professor de gestão de operações e análise de negócios da Universidade Johns Hopkins, que estuda os efeitos da IA nos serviços de saúde.

Por exemplo, Dai disse que o ChatGPT provavelmente faria um trabalho melhor do que o Google Acadêmico ao ajudar alguém a encontrar pesquisas relacionadas a seus sintomas ou contexto específicos. E em sua pesquisa, Dai está analisando casos raros nos quais os chatbots diagnosticaram corretamente uma doença que os médicos não conseguiram detectar.

Mas isso não significa que devemos confiar nos chatbots para dar orientações corretas de saúde, observou ele. Já foi demonstrado que esses modelos inventam informações e as apresentam como fatos - e suas respostas erradas podem ser assustadoramente plausíveis, disse Dai. Eles também extraem informações de fontes não confiáveis ou não dão referências bibliográficas. Combine tudo isso com a tendência dos humanos de confiar demais nas recomendações de um chatbot que soa confiante e você terá problemas.

"A tecnologia já é muito impressionante, mas neste momento é como um bebê, ou talvez como um adolescente", disse Dai. "Agora as pessoas estão apenas testando ela, porém quando começarem a confiar nela, é aí que ela se torna perigosa de verdade."

Qual o modo seguro de pesquisar informações sobre saúde?

Devido ao acesso desigual aos serviços de saúde ou aos custos proibitivos, nem todos podem ir ao médico quando estão se sentindo mal. Antes de se inscrever em qualquer serviço de saúde que tem como base um chat com IA - como um bot de terapia - entenda as limitações da tecnologia e verifique a política de privacidade da empresa para ver se ela usa dados para "aprimorar seus serviços" ou compartilha dados com "fornecedores" ou "parceiros de negócios" não identificados. Ambos são frequentemente eufemismos para a publicidade./TRADUÇÃO DE ROMINA CÁCIA