No mês passado, uma polêmica empresa de reconhecimento facial, a Clearview AI, anunciou que havia entregado sua tecnologia ao governo ucraniano.
A BBC teve acesso a evidências de como está sendo usado em mais de mil casos para identificar pessoas vivas ou mortas.
Esta reportagem contém descrições gráficas que podem perturbar alguns leitores.
Um homem jaz imóvel no chão, com a cabeça abaixada. Seu corpo está nu, exceto por cuecas boxer Calvin Klein. Seus olhos estão cercados pelo que parecem ser hematomas.
O corpo foi encontrado em Kharkiv, no leste da Ucrânia. A BBC viu fotos dos restos mortais do homem, mas não sabemos as circunstâncias da morte.
Há evidências claras de traumatismo craniano. O homem também tinha uma tatuagem no ombro esquerdo.
As autoridades ucranianas não sabiam quem era a vítima e recorreram a uma tecnologia de ponta: o reconhecimento facial usando inteligência artificial.
O sistema de reconhecimento facial da empresa Clearview AI é o mais famoso - e polêmico - do mundo.
A empresa coletou bilhões de fotos de mídias sociais, de sites como Facebook e Twitter, para criar um enorme banco de dados. Seu presidente e fundador, Hoan Ton-That, chama isso de "mecanismo de busca de rostos".
"Ele funciona como o Google. Mas em vez de colocar palavras, o usuário coloca uma foto de um rosto no campo de busca", explica Ton-That.
A empresa enfrentou vários desafios legais. Facebook, YouTube, Google e Twitter enviaram avisos à Clearview pedindo que pare de usar imagens de seus sites. O Gabinete do Comissário de Informação do Reino Unido chegou a multar a empresa por não informar os usuários sobre a coleta de suas fotos pessoais.
Na Ucrânia
O uso da Clearview pelo governo ucraniano levantou questões sobre as implicações de trazer essa poderosa ferramenta para uma guerra.
Clearview é usado extensivamente, embora de forma controversa, por autoridades nos EUA. Ton-That diz que 3,2 mil agências governamentais compraram ou experimentaram a tecnologia.
Após a invasão russa da Ucrânia, o fundador da empresa viu outra aplicação para sua tecnologia.
"Vimos imagens de prisioneiros de guerra, de pessoas fugindo, e pensamos que nossa tecnologia poderia ser útil para identificação de pessoas e verificação", diz ele.
Ton-That disponibilizou seu mecanismo de busca ao governo ucraniano, e a oferta foi aceita.
De volta a Kharkiv, as autoridades tiraram uma fotografia do rosto do morto: com a cabeça erguida e os olhos fundos voltados para a câmera. Eles então verificaram a imagem no banco de dados Clearview. A busca revelou várias fotos de alguém muito parecido com o morto.
Uma foto havia sido tirada no que parecia ser um dia quente. O homem estava sem camisa e tinha uma tatuagem no ombro esquerdo, assim como o cadáver. A busca deu certo e as autoridades descobriram o nome do morto.
Antecedentes
Usar o reconhecimento facial para identificar mortos não é novidade, e a Clearview não é a única plataforma usada para esse fim na Ucrânia.
"Usamos esse material há anos", diz Aric Toler, diretor de investigações da Bellingcat, uma organização especializada em jornalismo investigativo.
Em 2019, a Bellingcat usou a tecnologia de reconhecimento facial para ajudar a identificar um homem russo que filmou a tortura e o assassinato de um prisioneiro na Síria.
A guerra na Ucrânia não é a primeira vez que a tecnologia de reconhecimento facial é usada em um conflito.
Mas na Ucrânia seu uso tem sido mais difundido do que em qualquer conflito anterior.
Toler disse à BBC que usa a plataforma de reconhecimento facial FindClone na Rússia, que tem sido particularmente útil na identificação de soldados russos mortos.
Assim como o Clearview, o FindClone combina imagens da Internet publicamente disponível, incluindo páginas de mídia social russas. É possível encontrar até mesmo pessoas que não possuem contas nesses sites.
"Eles podem não ter um perfil de mídia social, mas suas esposas ou namoradas têm. Ou talvez morem em uma cidade pequena com uma grande base militar e tenham muitos amigos em sua unidade com contas", explica Toler.
Este último ponto é fundamental para entender o poder da tecnologia de reconhecimento facial.
Isso significa que mesmo uma pessoa nunca teve um perfil de mídia social pode ser encontrada. Ao aparecer em uma foto enviada por um amigo ou simplesmente por estar no fundo de uma imagem aleatória na internet, ela já está no banco de dados.
Mesmo o pessoal militar ou de segurança, que tem pouca presença na Internet, pode ser rastreado.
Uma questão de precisão
Os críticos do reconhecimento facial apontam que a tecnologia não é infalível e que, em tempos de guerra, erros podem ter consequências desastrosas.
A Clearview não está senda usada apenas para identificar cadáveres na Ucrânia. A empresa também confirmou que estava sendo usada pelo governo ucraniano em postos de controle para ajudar a identificar supostos inimigos.
A Clearview mostrou à BBC um e-mail de uma agência ucraniana confirmando que o sistema está sendo usado para identificar pessoas vivas.
"Este sistema nos deu a oportunidade de confirmar rapidamente a precisão dos dados sobre suspeitos detidos", diz o e-mail de um funcionário ucraniano que não quis ser identificado.
"Durante o uso da Clearview, mais de mil consultas foram realizadas para verificação e identificação adequadas", diz o e-mail.
Isso preocupa alguns analistas.
Conor Healy é especialista em reconhecimento facial do IPVM, organização que monitora a tecnologia de segurança.
"É importante que as forças ucranianas reconheçam que esta não é uma maneira 100% precisa de determinar se alguém é seu amigo ou inimigo", diz Healy.
"Essa não pode ser uma tecnologia de vida ou morte, em que você passa ou não passa, onde você pode ser preso ou — Deus me livre — até mesmo morto. Não é assim que isso deve ser usado."
Outros analistas fazem alertas ainda mais fortes. Albert Fox Cahn, do grupo de vigilância Surveillance Technology Oversight Project, fala de "uma catástrofe de direitos humanos em formação".
"Quando erros são cometidos com o reconhecimento facial em tempos de paz, as pessoas são presas por engano. Quando erros são cometidos com essa tecnologia em uma zona de guerra, pessoas inocentes são mortas", disse Fox Cahn à revista Forbes.
A BBC entrou em contato com o governo ucraniano para discutir o uso da Clearview, mas não recebeu resposta.
Ton-That defende a tecnologia de sua empresa, dizendo que ela tem uma precisão comprovada de mais de 99%.
No entanto, essa precisão depende muito da qualidade da imagem, da posição da cabeça ou se o rosto está coberto, por exemplo, com uma máscara.
Há também a questão da privacidade, que tem sido problemática para a Clearview nos EUA e na Europa. A empresa extrai imagens publicamente disponíveis de Facebook e Instagram para construir seu banco de dados.
Mas a empresa nunca obteve consentimento das empresas de mídia social, ou de qualquer outra pessoa, para coletar essas imagens. Você que está lendo este artigo quase certamente está presente no banco de dados, embora provavelmente não tenha dado permissão ao Clearview para usar sua imagem.
No ano passado, o Gabinete do Comissário de Informação do Reino Unido multou a Clearview por não informar às pessoas que estava coletando suas fotos pessoais em plataformas de mídia social.
Ton-That aceita que a legalidade da tecnologia de reconhecimento facial ainda está sendo debatida, mas acredita que a Clearview está operando dentro da lei e diz que a tecnologia é "mal-interpretada".
No entanto, a tecnologia de reconhecimento facial claramente tem aplicações distópicas. Em novembro do ano passado, a BBC informou que a China planejava usar a tecnologia de reconhecimento facial contra jornalistas.
Ton-That diz que Clearview não permitiria tais buscas. Ele também garante que sua empresa não trabalha com governos autoritários e não trabalharia com a Rússia.
No entanto, a tecnologia da Clearview pode ser aplicada em um contexto militar.
No ano passado, por exemplo, a empresa assinou um contrato com o Pentágono para explorar a possibilidade de incorporar sua tecnologia em óculos de realidade aumentada.
E a Clearview é apenas uma das várias empresas com contratos militares para o desenvolvimento de inteligência artificial de reconhecimento facial.
Os defensores da privacidade também têm outra preocupação. A tecnologia de reconhecimento facial pode ser útil para as autoridades ucranianas em tempos de guerra. Mas eles devolverão a tecnologia à Clearview em tempos de paz?
"Há muitos exemplos de tecnologias sendo introduzidas em tempos de guerra e persistindo em tempos de paz", diz Healy.
"Espero que essa não seja a abordagem que eles adotam."
