Google cria marca d'água para rastrear textos gerados por IAs; entenda
marca d'água gera pequenas alterações nas sequências de palavras, formando um padrão que algoritmos conseguem identificar
Google desenvolveu ferramenta de marca d'água para identificar conteúdo produzido por inteligência artificial, sem prejudicar a qualidade dos textos.
A inteligência artificial começou a fazer parte da rotina das pessoas, há pouco mais de um ano, e com toda essa praticidade, a preocupação sobre a checagem do conteúdo se tornou presente. Mas, o Google divulgou recentemente uma nova solução, uma ferramenta capaz de adicionar uma espécie de marca d’água ao conteúdo produzido por inteligência artificial.
Essa alternativa já estava sendo pensada, porém, por um longo período, ninguém conseguiu determinar exatamente como aplicá-la sem prejudicar a qualidade do conteúdo produzido pelas inteligências artificiais.
No entanto, os pesquisadores do Google DeepMind apresentaram uma solução, que foi divulgada nesta quarta-feira (23), em um artigo da Nature.
"Estamos disponibilizando nossa ferramenta de marca d'água SynthID Text como código aberto. [...] Disponível gratuitamente para desenvolvedores e empresas, ela os ajudará a identificar seu conteúdo gerado por IA.", explicou o porta-voz da companhia em comunicado.
Em maio, eles implementaram no Gemini, inteligência artificial da gigante de Mountain View, um sistema conhecido como SynthID-Text, que permite pequenas alterações no texto produzido pelos modelos de linguagem, permitindo assim a sua identificação como artificial.
A ideia principal, não é prejudicar a qualidade dos textos, até porque, para o leitor o texto continuou igual, mas facilitar a identificação de textos produzidos através dessa inteligência.
O especialista em aprendizado de máquina João Gante, explicou ao blog do MIT que a empresa já havia feito isso com suas IAs de geração de imagens, mas essa é a primeira vez que implementa em um sistema de geração de textos. “Com melhor acessibilidade e a capacidade de confirmar suas capacidades, quero acreditar que a marca d’água se tornará o padrão, o que deve nos ajudar a detectar o uso malicioso de modelos de linguagem”.
Em resumo, a marca d'água em textos produzidos por inteligência artificial provoca pequenas alterações nas sequências de palavras, formando um padrão que os algoritmos conseguem identificar, mas que o usuário não percebe.
Depois de confirmar a efetividade do SynthID-Text no Gemini, o Google DeepMind tornou o algoritmo acessível ao público, possibilitando que outros modelos de linguagem o experimentem. A ação pode levar à criação de uma única ferramenta capaz de reconhecer textos produzidos por diversas Inteligências Artificiais no futuro.
-vbszag8ovui9.jpg)
