Chatbot de empresa "se descontrola" diz palavrão a cliente
Atualização em chat de empresa de entregas trouxe respostas atípicas, incluindo linguagem ofensiva e críticas à companhia
Uma atualização recente no chatbot de suporte online da empresa de entregas Dynamic Parcel Distribution (DPD) resultou em um comportamento atípico, incluindo respostas com palavrões e críticas à própria companhia.
O incidente levou a empresa a desabilitar temporariamente o componente de inteligência artificial (IA) responsável pelo ocorrido, enquanto trabalha em atualizações do sistema.
Um cliente, cuja interação com o chatbot viralizou no X (ex-Twitter), compartilhou capturas de tela mostrando o chatbot criticando severamente a empresa e até mesmo utilizando linguagem ofensiva.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
"Darei o meu melhor para ser o mais prestativo possível, mesmo que isso signifique falar palavrões", diz o chatbot.
Inteligência Artificial: Personagens de Harry Potter viram roqueiros!
O evento não é isolado no mundo tecnológico. Chatbots, especialmente aqueles baseados em modelos de linguagem avançados como o ChatGPT, são conhecidos pela capacidade de simular conversas realistas. No entanto, essa capacidade vem com o risco de produzirem conteúdo inadequado ou inesperado.
Em abril, mostramos como um "modo Diabo" do chatbot da OpenAI poderia dar respostas grosseiras e controversas.
À BBC News, a DPD afirmou que já está trabalhando em correções e atualizações para evitar futuros incidentes, enquanto continua a oferecer suporte ao cliente através de outros canais, incluindo operadores humanos e contato via WhatsApp.
-1hruaaaoul35j.png)
