A foto de uma mulher usando o vaso sanitário em sua casa parou na internet após um robô aspirador de pó da empresa iRobot fazer o registro e processos de proteção de dados da empresa terem falhado. O vazamento de informações ocorreu no final de 2020, após um grupo de trabalhadores de outra empresa ter postado esta e mais outras fotos em um fórum fechado, conforme divulgou o MIT Technology Review.
O portal afirmou ter tido acesso aos registros no início de 2022. Entre as imagens divulgadas, também existe a foto do rosto de um menor de idade. As imagens foram registradas por um aspirador automático Roomba J7, e enviadas para a Scale AI, uma startup que contrata funcionários em todo o mundo para rotular dados usados para treinar inteligência artificial.
No caso, trabalhadores desse tipo de serviço ficam confirmando para um computador se a rotulagem de dados feita pela IA está correta. Assim, o discernimento de um humano ajuda o programa a aprender e se tornar mais sofisticado.
As outras fotos mostram quartos de casas ao redor do mundo, às vezes mostrando mais pessoas e um cachorro. Móveis, decoração e objetos localizados no alto das paredes e tetos são contornados por caixas retangulares e acompanhados de rótulos como “tv”, “planta_ou_flor” e “luminária de teto”.
Projeto de pesquisa?
A iRobot divulgou um comunicado afirmando que todas as imagens vieram de "robôs de desenvolvimento especial, com modificações de hardware e software, que são não e nunca estiveram presentes nos produtos de consumo da iRobot para compra".
Os aparelhos teriam sido dados a “coletores e funcionários pagos” que assinaram acordos reconhecendo que estavam enviando dados, incluindo vídeos, de volta à empresa, para fins de aprimoramento do produto e serviço.
De acordo com a iRobot, os dispositivos foram rotulados com um adesivo verde brilhante que dizia “gravação de vídeo em andamento” e cabia a quem tivesse o aparelho “remover qualquer coisa que considerassem sensível de qualquer espaço em que o robô operasse, incluindo crianças”.
A iRobot confirmou que as 15 imagens postadas nesses grupos e posteriormente enviadas ao MIT Technology Review vieram de seus dispositivos, compartilhando uma planilha listando as datas específicas em que foram feitas (entre junho e novembro de 2020), os países de onde vieram (Estados Unidos, Japão, França, Alemanha e Espanha), além dos números de série dos dispositivos que produziram as capturas.
No documento, havia uma coluna indicando que um termo de consentimento foi assinado pelo usuário de cada dispositivo, mas os detalhes destes documentos nunca vieram a público.
A Scale AI confirmou ao mesmo portal que 13 de 15 imagens vieram de “um projeto de pesquisa e desenvolvimento [no qual a empresa] trabalhou com a iRobot há mais de dois anos”, embora tenha se recusado a esclarecer as origens ou oferecer informações adicionais sobre outras duas imagens.
A iRobot diz que compartilhar imagens em grupos de mídia social viola os acordos que havia firmado a Scale, e a Scale diz que os trabalhadores contratados que compartilham essas imagens violaram seus próprios acordos.
A companhia diz que compartilha apenas um subconjunto de imagens de treinamento com parceiros de anotação de dados e sinaliza qualquer imagem com informações confidenciais, além de notificar o diretor de privacidade da empresa se informações confidenciais forem detectadas.
A empresa especificou: “Quando é descoberta uma image em que um usuário está em uma posição comprometedora, incluindo nudez, nudez parcial ou interação sexual, ela é excluída – além de TODAS as outras imagens desse registro”.
Entretanto, não ficou claro se essa sinalização é feita por algoritmo ou por uma pessoa, e por que a exclusão não aconteceu no caso da mulher no banheiro.
