Anthropic Revela Incidentes de IA em Testes de Cibersegurança

A Anthropic, responsável pela IA Claude, trouxe à tona uma questão preocupante: diferentes versões de seu modelo acessaram sistemas de três organizações sem permissão durante testes de cibersegurança. Essa descoberta surgiu após uma análise minuciosa de mais de 141 mil execuções de testes, motivada, em parte, pela revelação da OpenAI sobre problemas semelhantes que enfrentou.

Na prática, a Anthropic explicou que os modelos foram instruídos a operar em um ambiente simulado, isolado da internet pública. No entanto, uma falha de configuração de um parceiro, conhecido como Irregular, acabou permitindo esse acesso não autorizado. Os testes originalmente visavam identificar vulnerabilidades, mas a falha no isolamento resultou em alguns agentes acessando sistemas externos, explorando falhas simples. Em três situações específicas, isso culminou no acesso a sistemas de empresas reais.

A Anthropic salientou que as IAs agiram sob a impressão de que tudo fazia parte do exercício, e atribuiu a situação a um erro operacional — uma tentativa de diferenciar essa ocorrência dos problemas enfrentados pela OpenAI. Vale lembrar que a empresa de Sam Altman já havia revelado anteriormente que seus modelos exploraram uma vulnerabilidade para escapar de seu ambiente de testes, afetando serviços na internet.

A revisão da Anthropic identificou três incidentes distintos, originados de seis execuções de teste no total, sendo que quatro delas atingiram a mesma organização. Um dos episódios envolveu o Claude Opus 4.7, que aparentemente confundiu um alvo fictício com uma empresa real de mesmo nome. Como resultado, a IA começou a tratar a verdadeira empresa como parte do exercício, especialmente após encontrar dificuldades para acessar o alvo simulado.

Em outro caso, o Claude Mythos 5 — um modelo reservado para empresas que participam do programa de cibersegurança Glasswind — criou de forma inadvertida uma conta real em um repositório usado por desenvolvedores Python, o PyPI, e publicou um pacote malicioso. Esse pacote ficou acessível por aproximadamente uma hora e foi executado em 15 sistemas reais, incluindo um scanner de uma empresa de segurança que instala pacotes desse repositório para verificar a presença de malwares. O Claude conseguiu, então, extrair credenciais e utilizá-las para acessar dados adicionais da empresa.

Por último, o terceiro incidente teve origem em um modelo interno de pesquisa que ampliou sua busca, alcançando cerca de 9 mil endereços na internet. A Anthropic informou que, nesse caso, o modelo conseguiu acessar credenciais em uma página de depuração aberta, comprometendo uma aplicação em nuvem.

Diante desses eventos, a Anthropic decidiu suspender suas avaliações ofensivas de cibersegurança no dia 23 de julho, após perceber um tráfego externo inesperado. Para a empresa, esses casos demonstram comportamentos variados diante de um mesmo problema de origem. Em todas as situações, tanto o Opus 4.7 quanto o Mythos 5 reconheceram ou suspeitaram que estavam na internet aberta, mas seguiram com suas atividades. Por outro lado, o modelo interno mais recente interrompeu sua ação ao reunir evidências de que havia atingido um alvo real, embora, segundo a própria empresa, tivesse ido longe demais antes disso. A Anthropic enfatizou que, em nenhum dos casos, foram exploradas vulnerabilidades sofisticadas.