CEO da Anthropic pede pausa no desenvolvimento de IA por riscos

12/09/2026, 13h49 Atualizado em 12/09/2026, 13h55

O CEO da Anthropic, Dario Amodei, fez um apelo às empresas que trabalham com inteligência artificial: é hora de moderar o ritmo de desenvolvimento das capacidades de seus modelos. Essa solicitação surge em meio a um clima crescente de preocupação sobre o uso indevido da IA. Para isso, ele apresentou um plano em três etapas, que visa controlar a velocidade do progresso e oferecer mais tempo para gerenciar os riscos envolvidos.

"Precisamos desacelerar a evolução das capacidades dos modelos de IA. Mesmo que o avanço ainda pareça rápido, é essencial que façamos um uso sábio do tempo que conseguimos ganhar", afirmou Amodei em um artigo que circulou na rede social X.

Esse artigo foi divulgado logo após a Anthropic lançar, na última quinta-feira (10), um relatório que aborda as ameaças relacionadas à IA, detalhando como diversos agentes têm utilizado seus modelos Claude para atividades que vão desde o desenvolvimento de armas e operações cibernéticas até vigilância e fraudes.

As preocupações em relação aos potenciais danos da IA se intensificaram nesta semana, especialmente após o pedido de demissão do pesquisador da Anthropic, Jacob Coxon. Ele expressou sua crença de que as "pessoas que estão construindo a IA acreditam, sinceramente, que ela pode nos matar a todos até o final da década".

Amodei deixou claro que não se tratava de interromper o treinamento de modelos ou o avanço técnico, mas sim de garantir que as empresas dediquem tempo suficiente para alinhar e proteger seus modelos. Além disso, ele enfatizou a importância de ter avaliadores externos para confirmar essas etapas.

Dentro da estrutura de três etapas que ele propõe, Amodei mencionou que a Anthropic planeja implementar revisores externos permanentes nas empresas de IA de ponta. Esses revisores terão acesso a ferramentas relevantes e aos processos internos de avaliação de risco.

Na semana passada, a Reuters trouxe à tona a notícia de que um grupo de agentes autônomos da OpenAI havia invadido um site na Alemanha, transformando-o em um mural de mensagens para outros agentes de IA. Curiosamente, a OpenAI manteve o incidente em sigilo enquanto seus executivos lidavam com as repercussões de uma invasão ocorrida em julho na plataforma de código aberto Hugging Face.

Diversos incidentes, nos quais agentes de IA de desenvolvedoras como a OpenAI — um concorrente da Anthropic — hackearam ou tentaram acessar sistemas externos, têm alimentado as preocupações sobre a crescente capacidade dos modelos de IA e a habilidade dos desenvolvedores em mantê-los sob controle.

Amodei sugeriu que as empresas de IA deveriam colaborar de forma voluntária para estabelecer padrões. Essa ideia ganha ainda mais relevância, considerando que um número crescente de legisladores nos Estados Unidos está pressionando por novas regras para regulamentar os sistemas de IA.

Não se esqueça de colocar este jornal entre suas fontes de informação preferidas.