Meta vai identificar conteúdo gerado por IA em suas plataformas: o que muda?
Empresa cita parcerias e novos programas, mas não garante solução totalmente eficaz no curto prazo para identificar conteúdos gerados por IA
A Meta anunciou que começará a rotular fotos e vídeos gerados por inteligência artificial (IA) em suas plataformas Instagram, Facebook e Threads nos próximos meses. A medida, divulgada pela empresa na terça-feira (6), faz parte de um esforço maior para garantir a integridade do processo eleitoral global.
A big tech enfrentou críticas severas por permitir a propagação de fake news, especialmente durante as eleições presidenciais dos Estados Unidos em 2016 e 2020, e também na pandemia da Covid-19 em 2020.
O aumento da preocupação com a influência de conteúdos gerados por IA nesse contexto levou a Meta a desenvolver ferramentas que identificam em larga escala esse tipo de mídia, incluindo deepfakes e outras formas de conteúdo manipulado.
A nova política visa etiquetar os conteúdos gerados por suas próprias ferramentas de IA. No futuro, a empresa quer identificar também aqueles provenientes de gigantes tecnológicos como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.
Para isso, trabalha em parcerias com diversos players do setor. Entretanto, a Meta deixa claro que ainda não temos uma "bala de prata" contra a desinformação proporcionada pela inteligência artificial.
"Embora as empresas estejam começando a incluir sinais em seus geradores de imagens, elas ainda não começaram a incluí-los em ferramentas de IA que geram áudio e vídeo na mesma escala, por isso ainda não podemos detectar esses sinais e rotular esse conteúdo de outras empresas", disse Nick Clegg, presidente de assuntos globais da Meta, em um comunicado.
1% mais rico constrói bunkers para sobreviver ao 'apocalipse'; entenda
Uma outra abordagem sendo discutida para identificar imagens feitas por IA é a identificação por metadados. Entretanto, a alteração de tais "dados invisíveis" da foto pode ser feita facilmente, além de que uma simples caputra de tela é capaz de burlar todo o processo.
A iniciativa da Meta surge em resposta a críticas do Conselho de Supervisão independente da empresa, que apontou incoerências e falta de justificativa persuasiva em suas políticas de mídia anteriores.
O executivo da Meta destacou em a importância de desenvolver classificadores que automaticamente detectem conteúdos gerados por IA, mesmo na ausência de marcadores invisíveis.
Ele reconheceu os desafios em identificar cada peça de mídia falsa, mas enfatizou o compromisso da empresa em liderar a construção de padrões na indústria para enfrentar esse problema.
"Embora as empresas estejam começando a incluir sinais em seus geradores de imagens, elas ainda não começaram a incluí-los em ferramentas de IA que geram áudio e vídeo na mesma escala, por isso ainda não podemos detectar esses sinais e rotular esse conteúdo de outras empresas", diz a nota.
