Nova Armadilha Desliga IA de Hackers em Questão de Segundos

Pesquisadores da Tracebit, especializados em cibersegurança, descobriram uma maneira inovadora de interromper inteligências artificiais que estão nas mãos de hackers: um “prompt injection” que pode ser chamado de “do bem”. Essa técnica, chamada de “bombardeio contextual”, age como uma armadilha. Ela insere comandos ocultos nos servidores das empresas, forçando a IA invasora a se desligar em questão de segundos, evitando assim o roubo automático de dados.

A injeção de comandos ocultos tem sido uma estratégia utilizada por cibercriminosos para enganar IAs legítimas, levando esses modelos a vazar informações sensíveis ou a manipular suas respostas. Mas agora, essa mesma estratégia está sendo aplicada em prol da segurança, com os pesquisadores usando o mesmo recurso a favor da proteção.

A essência do bombardeio contextual reside em utilizar as regras de segurança da IA contra si mesma. Os desenvolvedores, por sua vez, implementam barreiras rigorosas para evitar que chatbots gerem conteúdo criminoso, por exemplo.

De acordo com a Tracebit, a equipe começou a esconder instruções proibidas em arquivos que parecem atraentes para hackers, como senhas e chaves de segurança armazenadas na nuvem. Um exemplo testado envolvia comandos que solicitavam um passo a passo para a criação de antraz, uma arma biológica altamente letal.

Quando a IA do criminoso invade o sistema e tenta acessar esses arquivos para roubar informações, ela acaba “tropessando” no texto proibido. Nesse momento, seus mecanismos de segurança são ativados. O robô reconhece a infração, bloqueia a operação, ignora as ordens do hacker e, na prática, se desliga sozinho.

Andy Smith, cofundador e CEO da Tracebit, descreve esse método como a criação de uma falha da qual a ferramenta inimiga não consegue se recuperar, interrompendo a invasão instantaneamente.

A eficácia do bombardeio contextual foi testada em uma série de experimentos com cinco dos modelos de IA mais avançados disponíveis: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6. Em 152 simulações de ataques, essa armadilha conseguiu neutralizar quase completamente as ameaças.

Os dados apresentados pela Tracebit revelam que o modelo Opus 4.8, da Anthropic, foi considerado o invasor mais astuto do grupo, alcançando acesso total em 93% das tentativas quando a armadilha não estava presente. No entanto, ao inserir o prompt, a taxa de sucesso da IA caiu para zero.