Inteligência artificial pode ser mais mortal que armas nucleares, dizem cientistas

Pesquisadores da Universidade de Oxford declararam aos legisladores do Reino Unido que uma inteligência artificial (IA) muito avançada pode acabar sendo tão perigosa quanto as armas nucleares, e por isso deveria ser regulamentada como se fosse uma, informou jornal The Telegraph na última quarta-feira (25).

Os cientistas conversaram com os deputados do Comitê Seleto de Ciência e Tecnologia do governo do Reino Unido sobre os perigos de a IA assumir o próprio controle sobre sua própria programação e aprender a atingir seus objetivos de maneira diferente da projetada, podendo chegar até a "matar todo mundo". 

Notícias relacionadas

Artista usa IA para transformar Brasil e outros países em vilões

IA do Google é capaz de criar música 'do zero' a partir de simples comandos

Banco de imagens Shutterstock lança ferramenta de IA para gerar fotos em parceria com OpenAI

O doutorando e professor de aprendizado de máquina (machine learning, em inglês) da Universidade de Oxford, Michael Osborne, afirmou que o desenvolvimento de IA se tornou uma "corrida armamentista literal", em que países e empresas estão competindo para criar algoritmos que são perigosamente avançados. 

Ele também defendeu que os países envolvidos nessa disputa, como EUA e China, e mesmo as empresas de tecnologia competindo entre si, estariam dispostos a "jogar segurança e cautela pela janela e correr o mais rápido possível para a IA mais avançada". 

Normas e possibilidade de "puxar o plugue"

O que ele e seus colegas reivindicam, portanto, é uma regulamentação global que impeça que as empresas criem sistemas fora de controle que podem começar eliminando a concorrência, mas que depois podem "dizimar toda a raça humana".

"Os sistemas artificiais podem se tornar tão bons em nos superar geopoliticamente quanto nos ambientes simples como jogos", afirmou o professor. Ele argumenta que, à medida que essas tecnologias progridem, precisamos ter a capacidade de "puxar o plugue" se elas se tornarem "muito mais inteligentes do que nós em todos os domínios".

Osborne espera que outros países reconheçam os perigos das IAs avançadas e se unam para impedir desenvolvimento de sistemas perigosos. Ele e sua equipe também acreditam que é razoável esperar que, até o fim do século, uma IA seja capaz de fazer muito mais do que qualquer ser humano.