IA ainda desperta pouco interesse no Congresso, dizem parlamentares

A inteligência artificial pode ser um tema relativamente novo, mas já gera impactos diretos em diversas áreas, da educação ao trabalho, da saúde aos cibercrimes. Apesar de ser um tema recente, a IA já precisa de regulamentação tanto no mundo quanto no Brasil, mas o assunto parece avançar a passos lentos.

Mas qual seria atualmente a disposição dos parlamentares para criar uma regulação sólida sobre IA no Brasil? "Acredito que falte interesse político do Congresso para se debruçar sobre o tema", disse a deputada federal Rosana Valle (PL-SP), uma das três congressistas ouvidas a convite do Byte para esta reportagem, ao lado de Erika Hilton (PSOL-SP) e Luisa Canziani (PSD-PR).

Notícias relacionadas

Como Inteligência Artificial pode substituir negociação de contratos

O que é a inteligência artificial geral e por que a OpenAI está atrás dela?

R$ 54 mil por mês: Influenciadoras criadas por IA já faturam alto com publicidade

A deputada estadual Renata Souza (PSOL-RJ) também foi procurada por denunciar recentemente um caso de racismo em uma plataforma de IA. Na ocasião, usou a ferramenta para gerar uma imagem sua como uma animação da Pixar, mas o algoritmo a retratou como uma mulher negra segurando uma arma em uma favela.

O Projeto de Lei 21/2020 visava criar o marco legal do desenvolvimento e uso da inteligência artificial. Autor do projeto, o deputado Eduardo Bismarck (PDT-CE) disse na época que o objetivo é dotar o país de uma legislação que, ao mesmo tempo, estimule a IA e proteja os cidadãos do mau uso dela. Alguns dos pontos do texto eram:

• A IA deve ter como princípio a transparência, e o texto criava a figura do agente de IA, isto é, quem o responsável por desenvolver ou operar um sistema de inteligência artificial;
• Os agentes de IA responderiam por decisões tomadas pela respectiva IA e garantir que a plataforma esteja de acordo com as exigências da Lei Geral de Proteção de Dados (LGPD);
• As partes afetadas pela plataforma, como o público, poderiam acessar detalhes sobre critérios e procedimentos do sistema, incluindo o tratamento de informações sensíveis.

Em 2022, o Senado formou uma comissão de iuristas (CJSUBIA) para fazer um PL substitutivo a partir de outros três: o 21/2020, o 5.051/2019, do Senador Styvenson Valentim (Podemos-RN); e o 872/2021, do senador Veneziano Vital do Rêgo (MDB-PB).

Com isso, surgiu o PL 2338/2023, do presidente do Senado, Rodrigo Pacheco (DEM-MG), ainda em debate interno no Congresso e cujos principais pontos são:

• Proibir o uso e a implementação de sistemas de IA que induzam usuários a atitudes contrárias aos direitos humanos e valores democráticos, ou que ponham em risco sua saúde ou segurança;
• O uso de sistemas de identificação biométrica à distância em espaços públicos dependeria de lei federal específica e autorização judicial específica e individualizada;
• As pessoas afetadas pelas IAs teriam que ser informadas sobre as possíveis interações, decisões ou recomendações tomadas por esses sistemas.
• Direito a contestar IAs caso tenham seus interesses impactados "de maneira significativa" e solicitar intervenção humana;
• Direitos "à não discriminação e à correção de vieses discriminatórios", bem como à privacidade e à proteção de dados pessoais.
• A supervisão e fiscalização da IA caberia ao Poder Executivo, que, em última instância, poderia responsabilizar e punir o fornecedor do sistema.

Lá fora, a União Europeia lançou este mês um pacto para regulamentar inteligência artificial. Em paralelo, França, Alemanha e Itália assinaram um acordo sobre o assunto. O foco do bloco deve ser sobre a aplicação da IA e não sobre o desenvolvimento da tecnologia em si.

As discussões continuam em outros países; o Reino Unido, por exemplo, realiza neste mês simpósios e conferências para discutir IA e chegar a um entendimento entre empresas e órgãos reguladores.

Byte: A União Europeia está evoluindo para ser a primeira região com regulamentações para IA. Como você acha que deveria ser uma regulação para o Brasil? 

Rosana Valle (PL-SP): Diferente da Europa, que já tem longa experiência em regulamentação da internet, o Brasil ainda vem engatinhando esse tema de IA. Ainda precisamos evoluir muito e, por enquanto, não vejo muitos debates dentro do parlamento brasileiro. 

Erika Hilton (PSOL-SP): Acredito que a regulamentação no Brasil precisa ser feita compreendendo as especificidades do nosso País e envolvendo no debate nossos próprios especialistas e quem é afetado pela IA. Sempre tendo como base o respeito aos direitos fundamentais já previstos na nossa Constituição e o avanço, e solidificação deles, frente ao período em que a IA é uma realidade.

Luisa Canziani (PDS-PR): A União Europeia já avançou e os Estados Unidos já tornaram públicas as suas recomendações para uma norma que incentive a auto-regulação e medidas regulamentares sectoriais. No Brasil, é preciso criar um ambiente seguro para os usuários, com transparência, ética e respeito aos direitos fundamentais, mas também para o governo, para os desenvolvedores e para a indústria produtiva, que exige segurança jurídica para inovar em bases mais sólidas.

Renata Souza (PSOL-RJ): Há leis que já existem e precisam ser respeitadas, cumpridas, como a que criminaliza o racismo no nosso país. Uma boa regulamentação precisa ser concebida de modo participativo, com protagonismo da sociedade civil. E precisa mexer com as estruturas, impedir a atual concentração das mídias em tão poucas empresas; garantir a democratização da comunicação, com pluralidade e diversidade não só no conteúdo, mas também nos próprios processos midiáticos. Também é preciso investimento em educação para a leitura crítica da mídia, para poder haver uma mudança de cultura efetiva, e aí esse é um desafio de resultados no médio e no longo prazos.

Byte: A movimentação na UE pode servir como guia para a legislação no Brasil sobre IA?

Rosana Valle (PL-SP): A UE é reconhecida mundialmente pela sua forte regulamentação em aspectos da internet. Jogam duro com as empresas que trabalham dentro da UE. Creio que o Brasil pode se espelhar em algumas diretrizes aplicadas lá, mas acho difícil aplicarmos a mesma legislação, o país ainda não possui estrutura técnica para isso.

Erika Hilton (PSOL-SP): Com toda certeza. Uma maior incidência da regulamentação sobre as IAs e suas formas de uso que apresentam maior risco é necessária e termos uma experiência dessa classificação na União Europeia, que recentemente se debruçou sobre os direitos digitais. É positivo e fortalece o debate necessário.

Luisa Canziani (PDS-PR): Já temos um projeto pronto, que foi relatado por mim [o PL 759/2023, de autoria do deputado federal Lebrão (UNIÃO-RO)] e agora aguarda votação no Senado. Esta não é uma questão para o futuro, é uma questão para o presente porque, de fato, sentimos a inteligência artificial no nosso cotidiano e isso será cada vez mais frequente. A inteligência artificial terá um impacto tão importante e estruturante na sociedade que os seus efeitos podem ser comparados aos da revolução industrial ou da energia elétrica. Por isso a aprovação deste projeto é tão importante.

Renata Souza (PSOL-RJ): São realidades bastante distintas. Embora seja importante conhecer a experiência europeia, é preciso, sim, que possamos pensar a partir do nosso lugar no Sul Global sobre a nossa visão em relação às mídias, sobre a nossa condição de país ainda marcado por extremas desigualdades de classe, raça e gênero. Não dá para simplesmente reproduzir aqui uma legislação concebida para a realidade do primeiro mundo. Precisamos inclusive descolonizar nosso pensamento, ainda bastante eurocentrado.

Byte: Esta regulamentação deveria focar em quais problemáticas envolvendo a IA?

Rosana Valle (PL-SP): Os crimes cibernéticos já são uma realidade e acredito que continuarão sendo um dos grandes desafios do país. O que se viu foi uma migração de algumas organizações criminosas para esse tipo de delito. A questão da apropriação de identidades com falas falsas também é uma questão que teremos que enfrentar em um futuro próximo, principalmente nas campanhas políticas.

Erika Hilton (PSOL-SP): Vejo como de extrema urgência a proibição de serviços que criam falsos nudes, que tem atingido crianças e adolescentes no mundo todo e já há casos no Brasil. Outra urgência, frente à deficiência da tecnologia para diferenciar pessoas negras e nosso histórico de encarceramento em massa dessa população, é seu uso na segurança pública e sistemas de vigilância para identificação de suspeitos e criminosos. Vejo como urgente a regulamentação dos bancos de dados usados pelas IAs generativas, como as que fazem arte. Na prática, a maioria delas não está fazendo arte, está mesclando, sem autorização, a arte de várias pessoas. E isso precisa ser regulado.

Luisa Canziani (PDS-PR): Precisamos assumir três premissas fundamentais. O primeiro diz respeito ao contexto dinâmico. A tecnologia está em seu estágio inicial de desenvolvimento. As iniciativas inteligentes de políticas públicas devem minimizar os aspectos negativos e amplificar os positivos. A segunda premissa é a prudência. Embora a IA possa apresentar novos desafios do ponto de vista regulamentar, não há necessidade de reinventar a roda. Os padrões internacionais podem ser usados como uma base sólida para iniciar esta conversa. A terceira e mais importante premissa nos leva a buscar o melhor da inteligência artificial para a humanidade. Precisamos que se concentre nos seres humanos e nos seus direitos fundamentais. Mas, acima de tudo, que esteja atento à formação da mão de obra para esta nova sociedade que irá nascer.

Renata Souza (PSOL-RJ): Aqui tem algo importante que é o debate ético sobre IA. Esse debate precisa ser feito em esfera global, sobre o modelo de governança da internet, sobre o que pode ser bom ou ameaçador para a humanidade e o planeta. No nível local, podemos ter regulamentações para garantir direitos humanos, civis e a própria segurança pública nesse ambiente. Por exemplo, o respeito à resolução do Conselho Nacional de Justiça que determina novos protocolos para o reconhecimento de pessoas nos inquéritos policiais. Há prisões injustas de pessoas, em geral jovens, negras e pobres, em função do racismo algorítmico, decorrente de vícios nas bases de dados que reproduzem o racismo estrutural.

O que é inteligência artificial e onde ela se aplica?

Byte: Acha que o Brasil está demorando para dar início a discussões mais intensas sobre o tema? Por quê? 

Rosana Valle (PL-SP): Entendo que precisamos discutir esse tema o mais rápido possível. Os países desenvolvidos estão preocupados com os rumos da IA e nós não podemos ficar para trás. Acredito que falte interesse político do Congresso para se debruçar sobre o tema.

Erika Hilton (PSOL-SP): No espaço legislativo, no Congresso, com certeza. É difícil temas mais específicos e recentes, que requerem tempo e um pouco de conhecimento técnico para se debater, avançarem enquanto a base governista tenta garantir o funcionamento do País. E a oposição tem como foco atrapalhar o Governo Lula, e em uma ressaca do Bolsonarismo, negar direitos, como os projetos que tentam pautar contra as mulheres e pessoas LGBTQIA+. Há também o fato de que a regulamentação, seja qual for, para a extrema direita já é uma posição política que eles rejeitam por si só. Mesmo que a ausência dessa regulamentação possa eventualmente acarretar na prisão errônea de alguém ou no suicídio de uma jovem vítima de deepfake.

Luisa Canziani (PDS-PR): Há alguns projetos que demoram mais sua tramitação, devido aos vários atores sociais envolvidos e à complexidade dos temas tratados, como é o caso da IA. O projeto que regulamenta o Marco da Inteligência Artificial já foi aprovado na Câmara e agora será analisado pelo Senado. Após o término desse processo, a medida será encaminhada para sanção do Presidente da República, que poderá aceitá-la integralmente ou negar partes dela, o que ainda poderá ser derrubado pelo Congresso. Após essa etapa, a lei que institui o Marco de Inteligência Artificial no Brasil vira lei. Espero que isso ocorra o mais breve possível. O país carece desta legislação.

Renata Souza (PSOL-RJ): Creio que temos realmente agido de forma em geral reativa diante da velocidade com que surgem e se popularizam novas tecnologias. O desafio é dar um salto para pensar estrategicamente políticas que possam ir além até mesmo do caráter preventivo de problemas, para discutir a concepção do modelo de IA que de fato seja relevante para melhorar a vida das pessoas.

Byte: Quais áreas de atuação no Brasil requerem mais urgência para legislação sobre IA? 

Rosana Valle (PL-SP): Precisamos iniciar um debate mais aprofundado sobre IA. O que vejo hoje no Congresso é que não há interesse sobre o tema e isso pode nos custar caro no futuro, especialmente na área da saúde e de segurança pública.

Luisa Canziani (PDS-PR): Precisamos garantir um ambiente ético e plural, sem perder de vista a inovação e a inclusão nas cadeias competitivas globais. O uso de IA deve ter como fundamentos o desenvolvimento tecnológico e inovação; a livre iniciativa e livre concorrência; o respeito aos direitos humanos e aos valores democráticos; a igualdade, a não discriminação, a pluralidade e o respeito aos direitos trabalhistas; e a privacidade e a proteção de dados.

Renata Souza (PSOL-RJ): Difícil e talvez pouco útil hierarquizar setores no que se refere a essa urgência. Não dá para desprezar em área alguma esse sentido de urgência. Os impactos na vida das pessoas já podem ser sentidos agora nas diversas áreas de interesse público. A falta de regulamentação em cada uma delas pode causar estragos enormes e talvez incontornáveis. Porque neste momento estamos a mercê dos interesses do lucro de poucos que controlam um ambiente no qual inevitavelmente estamos imersos e afetados de muitas formas.

A deputada Erika Hilton não respondeu a essa pergunta.

Byte: De que forma o setor de educação deve preparar a nova geração para lidar com as ferramentas de IA? Tanto pensando em capacitação para empregos quanto nos aspectos éticos da utilização. 

Rosana Valle (PL-SP): A IA vem transformando vários setores da sociedade, em especial, o setor de educação. Plataformas como ChatGPT têm trazido novos mecanismos que precisam de atenção no que tange à criação e identidade do aluno. A facilidade com que essas ferramentas criam textos, por exemplo, pode prejudicar a habilidade dos alunos na escrita, o que deve ser observado pelas instituições de ensino.

Erika Hilton (PSOL-SP): Acredito que é necessária a capacitação dos professores para eles compreenderem do que as ferramentas são capazes e também quais as suas incapacidades e casos de uso de sucesso na sala de aula. Já a capacitação dos jovens para que eles consigam usar a IA profissionalmente é necessária. Mas tem que haver uma atenção aos fundamentos. [Aprender] os conhecimentos básicos e funcionamento das ferramentas, frente à constante evolução, e mudanças que elas passam, pode ser mais útil e garantir maior atemporalidade ao que foi ensinado. Já sobre os aspectos éticos de seu uso, ele precisa ser reforçado sempre em sala de aula, mas a regulamentação estatal precisa ser a barreira principal contra o mau uso dessa tecnologia.

Renata Souza (PSOL-RJ): Letramento midiático é pauta central hoje na educação. Precisamos formar pessoas para pensar criticamente sobre os processos midiáticos e IA. Para isso, precisamos formar educadores capazes para cuidar dessa tarefa de formar cidadãos e profissionais com ética e pensamento crítico.

A deputada Luisa Canziani não respondeu a essa pergunta.