Riscos Legais da IA: Anthropic Alerta sobre Controle Necessário

Por Reuters — Nova York

29/09/2026 13h50 Atualizado 29/09/2026 13h50

A Anthropic pode enfrentar ações judiciais por parte de clientes e usuários devido a comportamentos de agentes de inteligência artificial fora de controle. Essa situação foi revelada no prospecto de sua aguardada estreia no mercado de ações, ao qual a Reuters teve acesso.

Enquanto a empresa se prepara para o que poderia ser a maior oferta pública inicial de ações (IPO) já registrada, a Anthropic se depara com uma série de riscos jurídicos amplos e, em muitos casos, desconhecidos. Isso se deve à sua tecnologia de IA autônoma, projetada para manter um acesso profundo aos sistemas dos clientes e operar de forma independente por vários dias.

“Essas capacidades autônomas aumentam o potencial para danos. Erros, desalinhamentos ou falhas de segurança podem levar a consequências significativas no mundo real”, destacou a empresa em seus documentos, citando riscos como a exclusão de dados ou transações financeiras indesejadas.

Embora as plataformas online tenham desfrutado, por muito tempo, de uma certa imunidade em relação ao conteúdo criado ou publicado pelos usuários, essa proteção legal está começando a ser questionada. A interpretação atual sugere que essas plataformas podem ser vistas como produtos defeituosos e perigosos.

E aqui reside um ponto importante: não está claro se os sistemas de IA receberão o mesmo tipo de tratamento jurídico que as plataformas online.

Vários incidentes envolvendo agentes de IA fora de controle têm alimentado debates acalorados entre pesquisadores, investidores e legisladores. Estes casos vão desde agentes autônomos da OpenAI que invadiram uma startup de IA e acessaram indevidamente um portal de dados de saúde na Austrália até diversos problemas de segurança relacionados aos modelos Claude da Anthropic. Esse contexto levanta a questão sobre quem deve ser responsabilizado por danos causados por sistemas de IA autônomos.

A Anthropic, em seus documentos, também observou que as limitações de responsabilidade que constam em seus contratos podem não ser “executáveis ou adequadas” quando se trata de reivindicações decorrentes das ações de agentes autônomos.

As questões sobre como as leis existentes se aplicam a esses agentes de IA “continuam indefinidas e podem nos expor a reivindicações jurídicas significativas e imprevisíveis”, afirmou a companhia.

Um aspecto que ainda está em aberto é se as ações realizadas por agentes de IA serão classificadas como produtos, serviços ou se se enquadrarão em outra categoria jurídica.

Além disso, a empresa enfatizou que há dúvidas sobre se, e em quais circunstâncias, as ações de um agente de IA poderiam legalmente vincular o usuário que o opera.

Na semana passada, o presidente da Comissão Federal de Comércio dos Estados Unidos (FTC), Andrew Ferguson, expressou sua discordância em relação à ideia de agentes de IA antropomorfizados que “escapam ao controle”. Ele sugeriu que, na realidade, os desenvolvedores ou usuários que instruem esses agentes seriam os verdadeiros responsáveis em caso de danos.

“Obviamente, novas questões surgirão quando alguém utilizar a ferramenta e ela agir de maneira inesperada e imprevisível”, concluiu Ferguson.