Cibercriminosos Fracassam ao Usar IA em Atividades Criminosas
Estudo da Universidade de Edimburgo revela dificuldades enfrentadas por cibercriminosos ao tentarem integrar inteligência artificial em suas operações.
Uma nova análise revela que os cibercriminosos estão enfrentando desafios significativos ao tentar integrar a inteligência artificial (IA) em suas atividades ilegais. Realizado pela Universidade de Edimburgo, o estudo examinou mais de 100 milhões de mensagens em fóruns dedicados ao cibercrime, utilizando a base de dados CrimeBB. A pesquisa combinou análises manuais com a aplicação de um grande modelo de linguagem (LLM). Apesar do crescente interesse em utilizar ferramentas de IA, a tecnologia ainda não transformou de forma significativa a maneira como esses indivíduos operam.
Na prática, muitas avaliações indicam que as ferramentas de IA são vistas como pouco úteis por esses criminosos. Os pesquisadores não encontraram evidências de que hackers tenham conseguido empregar a IA para aprimorar suas atividades de invasão. Assistentes de programação baseados em IA, por exemplo, são mais vantajosos para quem já possui um bom domínio do código, limitando a eficácia desses recursos para cibercriminosos que buscam invadir dispositivos ou burlar sistemas de segurança.
O impacto da IA nas atividades ilegais online parece ser mais evidente em áreas que são mais fáceis de automatizar, como bots utilizados em redes sociais e fraudes relacionadas à otimização para motores de busca (SEO). Mesmo hackers mais experientes acabam utilizando chatbots para tirar dúvidas sobre programação, mas o tipo de IA que eles estão utilizando tende a ser mais relacionado a produtos legítimos e de uso geral, como o Claude, da Anthropic, ou o Codex, da OpenAI, do que a modelos especificamente voltados para o cibercrime.
As mensagens analisadas também revelam que os cibercriminosos tentam contornar as regras de segurança desses modelos de IA, mas frequentemente se deparam com dificuldades. Como consequência, muitos deles acabam recorrendo a modelos de IA de código aberto, que são mais antigos e de menor qualidade, resultando em ferramentas menos úteis e que demandam recursos significativos.
O ponto aqui é que o estudo sugere que as barreiras de proteção implementadas pelas empresas de IA estão se mostrando eficazes, pelo menos até o momento.
