Meta vai identificar conteúdo gerado por IA em suas plataformas: o que muda?

Empresa cita parcerias e novos programas, mas não garante solução totalmente eficaz no curto prazo para identificar conteúdos gerados por IA

8 fev 2024 - 10h21
Meta vai aplicar selos em imagens geradas por inteligência artificial
Meta vai aplicar selos em imagens geradas por inteligência artificial
Foto: Meta/Divulgação

A Meta anunciou que começará a rotular fotos e vídeos gerados por inteligência artificial (IA) em suas plataformas Instagram, Facebook e Threads nos próximos meses. A medida, divulgada pela empresa na terça-feira (6), faz parte de um esforço maior para garantir a integridade do processo eleitoral global.

A big tech enfrentou críticas severas por permitir a propagação de fake news, especialmente durante as eleições presidenciais dos Estados Unidos em 2016 e 2020, e também na pandemia da Covid-19 em 2020.

Publicidade

O aumento da preocupação com a influência de conteúdos gerados por IA nesse contexto levou a Meta a desenvolver ferramentas que identificam em larga escala esse tipo de mídia, incluindo deepfakes e outras formas de conteúdo manipulado.

A nova política visa etiquetar os conteúdos gerados por suas próprias ferramentas de IA. No futuro, a empresa quer identificar também aqueles provenientes de gigantes tecnológicos como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.

Para isso, trabalha em parcerias com diversos players do setor. Entretanto, a Meta deixa claro que ainda não temos uma "bala de prata" contra a desinformação proporcionada pela inteligência artificial.

"Embora as empresas estejam começando a incluir sinais em seus geradores de imagens, elas ainda não começaram a incluí-los em ferramentas de IA que geram áudio e vídeo na mesma escala, por isso ainda não podemos detectar esses sinais e rotular esse conteúdo de outras empresas", disse Nick Clegg, presidente de assuntos globais da Meta, em um comunicado.

Publicidade

1% mais rico constrói bunkers para sobreviver ao 'apocalipse'; entenda 1% mais rico constrói bunkers para sobreviver ao 'apocalipse'; entenda

Uma outra abordagem sendo discutida para identificar imagens feitas por IA é a identificação por metadados. Entretanto, a alteração de tais "dados invisíveis" da foto pode ser feita facilmente, além de que uma simples caputra de tela é capaz de burlar todo o processo.

A iniciativa da Meta surge em resposta a críticas do Conselho de Supervisão independente da empresa, que apontou incoerências e falta de justificativa persuasiva em suas políticas de mídia anteriores.

O executivo da Meta destacou em a importância de desenvolver classificadores que automaticamente detectem conteúdos gerados por IA, mesmo na ausência de marcadores invisíveis.

Ele reconheceu os desafios em identificar cada peça de mídia falsa, mas enfatizou o compromisso da empresa em liderar a construção de padrões na indústria para enfrentar esse problema.

Publicidade

"Embora as empresas estejam começando a incluir sinais em seus geradores de imagens, elas ainda não começaram a incluí-los em ferramentas de IA que geram áudio e vídeo na mesma escala, por isso ainda não podemos detectar esses sinais e rotular esse conteúdo de outras empresas", diz a nota.

Fonte: Redação Byte
TAGS
Curtiu? Fique por dentro das principais notícias através do nosso ZAP
Inscreva-se