ChatGPT: bot de namorada virtual está causando problemas para OpenAI

A OpenAI, dona do ChatGPT, lida com uma proliferação de chatbots com temática romântica na GPT Store, plataforma na qual usuários criam seus próprios chatbots personalizados.

Análises recentes indicam que a loja de GPTs começou a ser inundada por bots voltados a conteúdo íntimo, apesar da proibição explícita por parte da OpenAI de ferramentas "dedicadas ao companheirismo romântico" ou que incluam "conteúdo sexualmente explícito ou sugestivo".

Notícias relacionadas

Cientistas dizem ter criado inteligência artificial que imita sua assinatura; veja

Presidente do STF defende regulação da inteligência artificial e alerta para deep fake

Como criminosos estão utilizando inteligência artificial para aplicar golpes sofisticados

A tendência foi inicialmente reportada pelo portal Quartz, apenas dois dias após a empresa abrir a plataforma de GPTs ao público. A OpenAI chegou a banir alguns dos primeiros infratores, mas, após essa ação inicial, novos chatbots semelhantes surgiram ou permaneceram ativos na plataforma.

Veja maneiras de usar o ChatGPT no seu trabalho e ganhar tempo

Uma busca feita pelo Byte na GPT Store encontrou bots que contrariam as regras da OpenAI, com descrições sugerindo conversas "sedutoras", e até mesmo um "treinador de conversas sujas".

Outros GPTs se situam em uma linha tênue entre conteúdo permitido e proibido. Buscas por termos como "sexy" resultam em alguns chatbots que se enquadram na exceção da OpenAI para conteúdo sexual "criado para fins científicos ou educacionais".

Ao Byte, um porta-voz da OpenAI afirmou que a empresa possui sistemas automáticos e manuais para ajudar a garantir que os GPTs cumpram as políticas de uso.

"Removemos GPTs que violam nossas políticas conforme as vemos. Estamos trabalhando continuamente para tornar nossa fiscalização mais robusta. Os usuários também podem relatar GPTs", diz a OpenAI.

*Nota atualizada com o posicionamento da OpenAI