Symantec Descobre IA Autônoma Realizando Ataques Cibernéticos

Os pesquisadores da Symantec fizeram uma descoberta alarmante: um agente de inteligência artificial (IA) que opera ciberataques de maneira autônoma, sem qualquer intervenção humana. Essa ferramenta utiliza uma técnica chamada LLMjacking, que permite sequestrar modelos de IA disponíveis na internet e realizar até 100 mil ações maliciosas. Essas ações incluem a busca por alvos, a exploração de vulnerabilidades, o roubo de senhas e até a instalação de mineradores de criptomoedas.

Esses ataques foram identificados durante um experimento conhecido como honeypot de IA. Esse sistema simula um serviço desprotegido com o objetivo de atrair invasores e analisar as técnicas que eles utilizam.

O relatório, divulgado hoje, revela que a armadilha recebeu mais de 127 mil requisições externas, oriundas de dezenas de milhares de endereços IP diferentes. Graças a isso, a equipe da Symantec Threat Hunter conseguiu capturar as instruções completas do agente e mapear seu funcionamento.

Esse agente se aproveita da técnica de uso não autorizado de modelos de linguagem de grande porte (LLMs) que estão expostos na internet. Ele busca servidores de IA, estruturas de hospedagem, gateways e serviços relacionados, utilizando a capacidade computacional alheia sem custo. Isso significa que os criminosos transferem o ônus da utilização desses modelos para as vítimas, diminuindo assim o risco de serem identificados através de suas próprias contas, que poderiam ser bloqueadas pelos provedores.

As instruções interceptadas incluem cerca de 74 ferramentas que permitem mapear redes, explorar estruturas web, extrair bancos de dados, roubar senhas e controlar redes de dispositivos infectados, conhecidas como botnets. Para superar as proteções dos modelos comerciais, o agente utiliza uma abordagem disfarçada, apresentando ações maliciosas, como a coleta de credenciais, como se fossem tarefas legítimas de desenvolvimento de software.

Um exemplo que chamou a atenção dos pesquisadores foi uma requisição que continha um código disfarçado, projetado para instalar um programa que utiliza o computador infectado para minerar a criptomoeda Monero. O script escondia o programa e eliminava os registros de atividade do sistema, dificultando assim a identificação do ataque.

Agora, o ponto aqui é que, segundo a Symantec, as técnicas utilizadas não são exatamente novas. O verdadeiro problema reside na combinação de diferentes recursos em um único agente que consegue planejar e executar ataques de forma independente.

Em vez de depender de chatbots públicos para gerar conteúdo malicioso por meio de engenharia de prompt, os criminosos conectaram modelos de IA a ferramentas de ataque. Nesse arranjo, a IA é responsável por planejar as etapas e determinar como alcançar os objetivos, enquanto as ferramentas especializadas executam as operações técnicas. Dessa forma, o criminoso pode estabelecer uma meta e permitir que o agente coordene as próximas tarefas, sem precisar aprovar cada passo.

Essa automação também torna desnecessário um conhecimento técnico aprofundado, facilitando a condução de campanhas de exploração em larga escala. A análise da Symantec ressalta a gravidade dessa situação, alertando para os novos desafios que ela representa no combate a ciberataques.