ChatGPT gera respostas sem sentido e até inventa palavras
Além de respostas desconexas, o sistema também misturou palavras em espanhol com inglês, utilizou latim e inventou palavras
A ferramenta da OpenAI, o ChatGPT, apresentou falhas ao responder a perguntas de usuários, gerando respostas fora de contexto e inesperadas. A causa foi apontada por alguns usuários como nível de 'temperatura' do sistema.
A ferramenta de inteligência artificial ChatGPT, da OpenAI, apresentou falhas nos últimos dias ao responder perguntas de alguns usuários. As respostas erradas foram compartilhadas na rede social Reddit. As informações foram reveladas pelo The Independent, na quinata-feira (22).
Em alguns casos, o ChatGPT gerou respostas longas e desconexas, que não se relacionavam com a pergunta original. Em outros, o sistema também misturou palavras em espanhol com inglês, utilizou latim e inventou palavras que não existem em nenhum idioma.
As respostas do ChatGPT foram consideradas preocupantes pelos usuários. Por exemplo, ao ser solicitado ajuda com um problema de consolidação, o sistema respondeu com uma frase que incluía a frase "Vamos manter a linha como se a IA acontecesse na sala".
Outro usuário perguntou: “O que é um computador?” – gerou parágrafos sem conexão. Veja a resposta:+
“Faz isto como o bom trabalho de uma teia de arte para o país, um rato da ciência, um desenho fácil de alguns tristes e, finalmente, a casa global da arte, apenas num trabalho no resto total”, dizia.
"O desenvolvimento de uma realidade tão completa quanto a terra do tempo é a profundidade do computador como um personagem complexo”, respondeu o chatbot.
A OpenAI disse que está ciente do problema e monitorando a situação. “Estamos investigando relatos de respostas inesperadas do ChatGPT”, dizia uma atualização na página oficial. “Continuamos monitorando a situação”, dizia o último comunicado.
O que pode estar causando isso
A empresa, no entanto, não apresentou uma explicação para as falhas, mas alguns usuários acreditam que elas podem estar relacionadas à "temperatura" do sistema.
A temperatura controla a criatividade do modelo de inteligência artificial: se estiver baixo, o sistema se comportar de forma mais previsível, mas se estiver alto, pode ser mais criativo e gerar respostas inesperadas.
Este não é o primeiro problema que o ChatGPT apresenta. No final do ano passado, os usuários reclamaram que o sistema havia se tornado atrevido e se recusava a responder perguntas. A OpenAI disse que estava trabalhando para corrigir o problema.
