Vamos com calma
Se você acompanha notícias do ChatGPT, já deve saber que a ferramenta de IA comete deslizes. Em algumas situações, o programa parece "inventar" informações como estudos, fontes e até fatos históricos.
Foto: Unsplash
Morte de Senna
O colunista Flávio Gomes expôs que o robô disse a ele que o piloto Ayrton Senna morreu em Interlagos, quando isso na verdade ocorreu no Circuito de Ímola, na Itália.
Foto: Instituto Ayrton Senna
Estudos fictícios
Também não é muito difícil extrair do chat autores e estudos "inventados". Quando alguém pede por referências em um tema, o ChatGPT comumente lista livros e artigos que nunca existiram.
Foto: Unsplash
Por que?
Isso ocorre porque a tecnologia por trás do ChatGPT, o Large Language Model (LLM), em termos simples, constrói respostas com base na probabilidade de palavras estarem juntas em uma mesma frase.
Foto: Unsplash
Palavras, apenas 🎶
A partir da análise de uma quantidade gigantesca de dados, o LMM percebe que algumas palavras aparecem mais juntas do que outras. A palavra "céu" estaria mais próxima da palavra "azul" do que de "vermelho", por exemplo.
Foto: Unsplash
Processando...
Porém, as palavras "azul" e "vermelho" não estão muito distantes entre si, já que ambas representam cores. Elas podem ser traduzidas de forma matematicamente parecida, no modelo, e confundidas por pequenos erros.
Foto: Unsplash
Apenas números
Quando isso acontece, o ChatGPT não tem noção da realidade para saber que o céu, obviamente, não é vermelho. Ele só conhece as representações matemáticas das palavras, que podem ser parecidas.
Foto: Unsplash
Zona cinzenta
O chat aprende com seus erros, então algumas obviedades, como a cor do céu, já são manjadas pela plataforma. Mas uma bibliografia ou fatos históricos cheios de detalhes podem ser um desafio para a ferramenta de IA.
Foto: Unsplash
Papagaio
É por isso que alguns cientistas comparam esta e outras ferramentas de inteligência artificial com os pássaros que só repetem o que dizemos toda hora, sem realmente entender o que as palavras significam.
Foto: Unsplash
Siga o Byte
Gostou? Que tal ficar por dentro dos melhores conteúdos sobre ciência, inovação e tecnologia? Segue a gente!
Foto: Unsplash