Anthropic Bloqueia Uso de IA em Armas Biológicas

Anthropic revelou que conseguiu identificar e interromper tentativas de uso de seu modelo de IA para atividades maliciosas, que poderiam apoiar o desenvolvimento de armas biológicas. Essas descobertas foram apresentadas no mais recente relatório de inteligência sobre ameaças da empresa, que se insere em uma crescente série de alertas de pesquisadores e especialistas da indústria sobre os riscos potenciais dessa tecnologia para a humanidade.

Esses avisos têm gerado um clamor por ação. O senador norte-americano Bernie Sanders, por exemplo, pediu uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial. Por outro lado, o ex-presidente Donald Trump tem se mostrado cético em relação a esses temores e, na quinta-feira, expressou sua preocupação, afirmando que "se não vencermos a IA, vamos ficar em uma posição muito ruim".

O relatório de inteligência mais recente da empresa foi publicado na quinta-feira e, assim como outros documentos similares, busca mostrar como as empresas estão se esforçando para identificar e interromper o uso indevido de seus modelos. Um caso interessante surgiu com o Google, que, na terça-feira, informou que alguém havia tentado usar sua ferramenta de IA, chamada Gemini, para obter um guia técnico completo e passo a passo para sintetizar agentes biológicos armados.

O modelo Claude, da Anthropic, também foi mencionado no relatório como sendo utilizado por atores ligados a uma campanha de espionagem cibernética com base na Rússia e por uma instituição de propaganda iraniana. Nos últimos oito meses, a empresa detectou casos preocupantes que variaram desde aplicativos de namoro falsos e golpes com Wi-Fi em hotéis até sistemas de vigilância destinados a identificar dissidentes.

Além disso, a Anthropic acusou empresas de IA da China de tentarem replicar as capacidades de Claude. O relatório extenso lista situações em que grupos suspeitos de serem patrocinados pelo estado, criminosos, vendedores de spyware, instituições de propaganda estatal e indivíduos politicamente motivados usaram sua tecnologia de maneira inadequada. A empresa afirmou que o uso malicioso de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026.

Curiosamente, nenhum dos casos de uso indevido envolveu os modelos Claude Fable ou os poderosos modelos da classe Mythos, exceto por uma única instância de destilação — um processo de treinamento de modelos de IA menores usando modelos maiores e mais caros. Além de detectar o uso de seus modelos em operações cibernéticas e de influência, vigilância, fraudes e desenvolvimento de armas, a Anthropic também afirmou ter bloqueado cientistas que usaram sua IA de formas que poderiam apoiar o desenvolvimento de armas biológicas.

O relatório destacou cinco estudos de caso de atores utilizando nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas. O uso biológico inadequado, segundo a empresa, é um dos riscos mais sérios dos modelos de IA de ponta. Sem as devidas salvaguardas, tais capacidades podem ter consequências catastróficas. A Anthropic observou que a mesma informação que pode ser usada para desenvolver uma arma biológica também pode ser utilizada para criar, por exemplo, uma vacina ou um tratamento para uma doença.

Jacob Klein, chefe de inteligência de ameaças da Anthropic, comentou ao New York Times que a situação é incrivelmente complexa.