Hackers exploram falha em assistentes de IA para roubar dados; entenda

Uma nova ameaça cibernética está colocando em risco a segurança de usuários de assistentes de inteligência artificial como o ChatGPT. A tática, descrita em um artigo do Ars Technica, mostra que hackers estão explorando um tipo de falha nos sistemas  para inserir comandos maliciosos e extrair informações confidenciais sem que o usuário perceba.

A técnica, chamada de "ASCII Smuggling", consiste em utilizar caracteres invisíveis — que humanos não podem ver — mas modelos de IA conseguem identificar. Esses caracteres são inseridos em links ou comandos (prompts), permitindo que os cibercriminosos roubem senhas, dados financeiros e outras informações sensíveis.

Notícias relacionadas

App dos Jogos Olímpicos é o principal alvo de ataques hackers; entenda

Você pode estar sendo monitorado por hackers dentro de casa, diz estudo

Hackers chineses exploraram bug para comprometer empresas de Internet, diz companhia

A principal vulnerabilidade está na capacidade dos modelos de IA de processar comandos ocultos dentro de textos aparentemente inofensivos. Essa técnica, conhecida como "prompt injection", permite que os hackers manipulem o comportamento do assistente de inteligência aartificial para realizar ações não autorizadas.

Ainda que algumas empresas tenham implementado medidas para mitigar esses ataques, o problema persiste, segundo a reportagem.

Especialistas apontam a falta de práticas de segurança robustas durante o desenvolvimento desses modelos e a complexidade da inteligência artificial como desafios paraproteger os usuários.

Segundo eles, existe a necessidade de uma maior conscientização sobre essa nova ameaça e defendem a implementação de medidas de segurança mais rigorosas. 

Algumas medidas como empresas desenvolvedoras de IA invistam apostar em análises para aprimorar a segurança de seus sistemas e proteger os dados dos usuários podem ser a solução.