ChatGPT: bot de namorada virtual está causando problemas para OpenAI
Apesar das regras, chatbots com temática "romântica" proliferam na GPT Store da OpenAI, desafiando as políticas da empresa
A OpenAI, dona do ChatGPT, lida com uma proliferação de chatbots com temática romântica na GPT Store, plataforma na qual usuários criam seus próprios chatbots personalizados.
Análises recentes indicam que a loja de GPTs começou a ser inundada por bots voltados a conteúdo íntimo, apesar da proibição explícita por parte da OpenAI de ferramentas "dedicadas ao companheirismo romântico" ou que incluam "conteúdo sexualmente explícito ou sugestivo".
A tendência foi inicialmente reportada pelo portal Quartz, apenas dois dias após a empresa abrir a plataforma de GPTs ao público. A OpenAI chegou a banir alguns dos primeiros infratores, mas, após essa ação inicial, novos chatbots semelhantes surgiram ou permaneceram ativos na plataforma.
Uma busca feita pelo Byte na GPT Store encontrou bots que contrariam as regras da OpenAI, com descrições sugerindo conversas "sedutoras", e até mesmo um "treinador de conversas sujas".
Outros GPTs se situam em uma linha tênue entre conteúdo permitido e proibido. Buscas por termos como "sexy" resultam em alguns chatbots que se enquadram na exceção da OpenAI para conteúdo sexual "criado para fins científicos ou educacionais".
Ao Byte, um porta-voz da OpenAI afirmou que a empresa possui sistemas automáticos e manuais para ajudar a garantir que os GPTs cumpram as políticas de uso.
"Removemos GPTs que violam nossas políticas conforme as vemos. Estamos trabalhando continuamente para tornar nossa fiscalização mais robusta. Os usuários também podem relatar GPTs", diz a OpenAI.
*Nota atualizada com o posicionamento da OpenAI