Armas autônomas, análise de crédito e controle humano: veja o que mudou no relatório final sobre IA

Senadores devem votar, na próxima terça-feira, 11, o relatório final sobre a regulamentação da inteligência artificial (IA) no Brasil. O texto, de autoria do senador Eduardo Gomes (PL-TO), vai ser apreciado pela Comissão Temporária Interna sobre Inteligência Artificial (CTIA). Se aprovado, vai à votação no plenário do Senado prevista para 18 de junho. Uma vez chancelado pelos senadores, segue para a Câmara dos Deputados.

A nova formulação do relatório foi apresentada na última sexta-feira, 7. O texto acatou a sugestões feitas por especialistas, pela Câmara e pelo Ministério Público. Entre as mudanças, destaca-se a proibição de usar IA em armas de fogo automáticas e revisões de situações de alto risco, como a avaliação de crédito por IA.

Notícias relacionadas

Homem que teve cabo de vassoura inserido no traseiro será denunciado

Turista filmado sendo carregado por bando no CE é encontrado morto em Jericoacoara

Advogada atingida por paralelepípedo relata perda definitiva de visão em um dos olhos

Na versão anterior do texto, havia um trecho que permitia a utilização de armas letais autônomas com "controle humano significativo" - isto é, com certa independência de escolha por parte da máquina -, que foi suprimido no relatório final.

O corte desta parte do texto atendeu a um pedido de especialistas, que argumentam que mesmo as tecnologias mais avançadas não possuem controles éticos em suas configurações. Por isso, ceder poder de fogo a uma inteligência artificial poderia incorrer em violação de direitos humanos ou violência indiscriminada.

Análise de crédito

O relator também excluiu a parte do texto que considera "altamente arriscada" a avaliação de crédito feita pela IA. A medição de risco de uma nova funcionalidade da IA caberá ao Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que pode definir uma tecnologia como de alto risco obedecendo a diferentes critérios. Haverá, anteriormente, a classificação de risco por consulta pública.

Empresas que gerem inteligências artificiais de alto risco, por sua vez, precisarão indicar um encarregado de governança, submetendo a tecnologia, entre outros, para testes de confiabilidade, gestão de dados para mitigar e prevenir vieses discriminatórios e submissão à supervisão humana.

Comitê julgador

Gomes também incluiu a criação de um painel de cientistas e especialistas em inteligência artificial para reunir evidências e acompanhar o desenvolvimento e aplicação da IA de forma responsável. Não há, entretanto, ligação entre o comitê há ser criado pelo Poder Executivo e a SIA. O projeto de lei que trata a IA no Brasil foi proposto pelo presidente do Senado e do Congresso Nacional, Rodrigo Pacheco (PSD-MG), com base no anteprojeto apresentado por uma comissão de juristas em 2022.

Após sua elaboração, a proposta foi debatida pela Comissão Temporária Interna sobre Inteligência Artificial no Brasil, presidida pelo senador Carlos Viana (Podemos-MG). Outras propostas relacionadas à regulamentação da IA estão sendo analisadas em conjunto com este projeto. A comissão tem prazo de funcionamento até 17 de julho deste ano.