2 + 2 = 5? Internautas não perdoam falhas e gafes do ChatGPT
ChatGPT surpreende por agilidade em respostas variadas, mas confiança na ferramenta não deve ser absoluta
O ChatGPT tem impressionado internautas e até deixado muitas classes de profissionais de cabelo em pé por sua capacidade de respostas no estilo sabe-tudo geradas por inteligência artificial. Mas será que a ferramenta tem uma precisão absoluta? Ao que tudo indica, não é bem assim.
Desde o lançamento do programa, alguns erros envolvendo imprecisões factuais foram levantados pelos usuários.
A IA comummente dá respostas erradas que se aproximam do senso comum, quando não sabe ao certo a resposta para uma pergunta. Quando perguntado sobre a pessoa que mais marcou gols na história da seleção brasileira, o programa respondeu que era Pelé, quando, na verdade, trata-se de Marta.
Segundo a Open AI, empresa criadora do programa, ele está em processo constante de aprendizado a partir dos erros. Quando corrigido, o ChatGPT imediatamente pede desculpas e tenta buscar uma resposta adequada, mas isso nem sempre funciona como o esperado.
No Twitter, um usuário compartilhou uma gravação em que mostra o programa "aprendendo" que 2 + 2 = 5, e não 4. Após diversas tentativas, o internatua consegue convencer a inteligência artificial a dar a resposta errada à pergunta.
ive been teaching chatgpt that 2+2=5 every day pic.twitter.com/7PNOuBIUof
— 🤹 (@tasty_gigabyte7) January 31, 2023
Alguns usuários responderam ao tuíte afirmando que, ao tentarem fazer o mesmo pouco tempo depois, não obtiveram sucesso.
A economista brasileira Mônica de Bolle até brincou de provocar o software com perguntas subjetivas sobre o viés de gênero da própria plataforma.
O ChatGPT tem viés de gênero 👀 pic.twitter.com/OVECWsYX2P
— Monica de Bolle, PhD🇧🇷🇺🇸 (@bollemdb) February 4, 2023
Por ser um modelo de linguagem que calcula a probabilidade de palavras estarem juntas e fazerem sentido em uma mesma frase, o ChatGPT é capaz até de criar objetos que se assemelham muito à realidade, mas não existem. É o caso de referências bibliográficas inexistentes criadas pela ferramenta e compartilhadas pelo cientista político Pablo Nunes.
Quais as semelhanças entre essas referências bibliográficas indicadas pelo ChatGPT?
1) Todas são revisões da literatura sobre reconhecimento facial, questões raciais e sociais.
2) Nenhuma delas existe. pic.twitter.com/Vx59N5jdRJ
— Pablo Nunes (@pblnns) February 6, 2023
Enquanto mais e mais utilidades do ChatGPT são descobertas pelos internautas, também aumenta o risco de informações imprecisas dadas pela plataforma serem adotadas como verdadeiras. A própria ferramenta afirma que suas respostas são baseadas em dados coletados até setembro de 2021 de diversas fontes que, apesar de confiáveis, podem produzir imprecisões.
