Como M3gan: crianças deveriam usar inteligências artificiais?
Filme retrata perigos que podem ser reais; estudos já alertam sobre riscos da inteligência artificial com crianças
O filme M3gan, lançado na última semana nos EUA, é um terror de ficção científica em que uma boneca com inteligência artificial (IA) é uma amiga para crianças. Os controles parentais dela são negligenciados, e daí em diante as consequências são graves: M3gan se torna uma máquina de matar.
O autômato era uma proposta de boneca com IA da empresa Funki, que pretendia fazer muito sucesso. Mas, o CEO interino da empresa, David, morreu em um misto de assassinato e suicídio, pelo seu assistente-máquina, e a partir de então, o desenvolvimento da boneca foi atrapalhado.
A ficção do filme — que estreia no Brasil na próxima quinta-feira (19) — reflete um crescente medo da sociedade sobre os avanços recentes das IAs. E no momento em que estamos, com a cidade de Nova York bloqueando o acesso de estudantes ao ChatGPT nas escolas pelo "vício" que o programa causa no aprendizado, M3gan poderia existir de forma segura na vida real?
Segundo um estudo das universidades de Washington e da Johns Hopkins, robôs treinados com IA têm mais chances de tomar decisões baseadas em racismo e sexismo. Eles são, assim, sucessores das redes sociais, videogames e outras tecnologias, que também são acusadas do mesmo problema.
Para a psicóloga Susan Linn, que escreveu para a revista Time, é preocupante o desenvolvimento de produtos tecnológicos desse tipo para crianças. Nos Estados Unidos, vários educadores estão sendo proibidos de tratar sobre temas como raça, escravidão, identidade de gênero e política, o que agrava mais ainda a situação.
A Unicef (Fundo das Nações Unidas para a Infância) também publicou diretrizes para o uso de sistemas de IA com crianças. Elas incluem dicas ao setor privado sobre como essas máquinas são capazes de reforçar ou minar os direitos delas nas políticas e práticas de IA com o governo.
Com base na Convenção sobre os Direitos da Criança, a orientação da Unicef oferece nove requisitos para eventuais IAs voltadas aos jovens:
- Apoiar o desenvolvimento e o bem-estar das crianças;
- Garantir a inclusão de (e para) crianças;
- Priorizar a justiça e a não discriminação para as crianças;
- Proteja os dados e a privacidade das crianças;
- Garantir a segurança das crianças;
- Fornecer transparência, explicabilidade e responsabilidade para as crianças;
- Capacitar governos e empresas com conhecimento de IA e direitos das crianças;
- Preparar as crianças para os desenvolvimentos presentes e futuros em IA;
- Criar um ambiente propício.
O órgão também divulgou um vídeo educativo em inglês sobre os riscos da inteligência artificial para crianças em diversos âmbitos, incluindo algoritmos de redes sociais.
A ascensão da indústria da tecnologia na educação também assusta. Em 2020, no contexto da pandemia, esse ramo faturou mais de US$ 35 bilhões (R$ 178 bilhões), e as máquinas criadas pretendem ensinar história e literatura e construir habilidades de relacionamento, entre outras funções.
Não é que o filme M3gan seja exatamente realista, mas a ficção científica pode alertar — ainda que de forma exagerada —, para a necessidade de um cuidado com a criação de algoritmos para crianças. O que sabemos até o momento é que qualquer erro na elaboração desses sistemas pode custar muito caro.
-10-28-18_b5874967-1jeo9lksincxd.jpg)
