Caçadores de Tecnologia Mantenha-se atualizado com as últimas novidades tecnológicas! Análises, tutoriais e lançamentos de celulares, TVs e mais. Junte-se aos Caçadores de Tecnologia!
HashJack: Nova ameaça virtual usa navegadores de IA para ataques ocultos
Uma pesquisa da empresa de cibersegurança Cato Networks descobriu um novo tipo de ataque virtual: chamado HashJack, ele esconde comandos maliciosos após o ‘#’ de endereços de sites legítimos. Com isso, criminosos digitais conseguem fazer navegadores de IA executarem códigos enquanto realizam suas funções normais.
O tipo de ataque, por ocorrer diretamente no navegador, não é detectado por antivírus do computador ou defesas dos servidores dos sites, tendo ótima capacidade de evasão. É uma espécie de injeção de prompt, que acontece quando um texto que o usuário não digitou gera comandos para um bot de IA.
Ataques de prompt pelo navegador
Contextualizando, a injeção de prompt direta ocorre quando o texto inesperado é inserido no momento em que o usuário dá o comando ao chatbot, enquanto a injeção indireta acontece quando o conteúdo, como uma página web ou um PDF que o bot deve resumir, contém comandos ocultos.
Os navegadores de IA, um tipo relativamente novo de navegador que usa a inteligência artificial para prever o que o usuário deseja fazer, são especialmente vulneráveis a injeção de prompt indireta, respondendo a comandos ocultos como se o internauta os tivesse dado.
Segundo a Cato, o HashJack é o primeiro ataque de injeção de prompt indireta capaz de usar sites legítimos como arma para manipular os assistentes de IA virtuais. Ferramentas como o Copilot, do Edge, Gemini, do Chrome, e Comet, da Perplexity AI, estão vulneráveis a esse tipo de iniciativa maliciosa.
O ataque consiste em adicionar um ‘#’ no final de uma URL normal, o que não altera o destino, e inserir instruções maliciosas após o símbolo. Após o usuário interagir com a página com o assistente de IA, as instruções são enviadas para o modelo e podem causar o roubo de dados, phishing, desinformação, instalação de malwares e muito mais.
Como a tendência dos internautas é a de confiar no assistente de IA, a chance de sucesso é muito maior do que a de phishings comuns. O braço de pesquisa da empresa, Cato CTRL, descobriu que navegadores de IA com agência, como o Comet, podem ser comandados a enviar dados de usuários para servidores de hackers, enquanto assistentes mais passivos, embora menos capazes, ainda conseguem dar instruções falsas aos usuários ou entregar links maliciosos.
A pesquisa foi compartilhada com a Google e a Microsoft em agosto, enquanto a Perplexity foi avisada em julho. As duas últimas empresas aplicaram correções nos navegadores, mas a Google afirmou que não irá corrigir a falha, já que representa comportamento esperado, e classificou o problema como de ‘baixa severidade’.
Fonte: Cato Networks
