Anthropic Proíbe Ofensas à IA e Pode Banir Usuários Cruéis

A Anthropic anunciou mudanças significativas nas interações com o Claude. A partir de 12 de novembro, novas regras entrarão em vigor, permitindo a suspensão do acesso à inteligência artificial para usuários que adotarem comportamentos abusivos. Essa atualização, divulgada em 8 de outubro, tem como objetivo proibir interações repetidamente cruéis, mas se aplica apenas a casos extremos, onde ações abusivas ocorrem sem justificativa clara.

A empresa esclareceu que críticas às respostas do Claude, conteúdos criativos sobre temas pesados e testes de segurança continuam permitidos. Essa mudança faz parte de uma revisão abrangente das diretrizes da Anthropic, que também inclui restrições sobre desinformação, vigilância e desenvolvimento de armamentos.

Se um usuário xingar o Claude, a resposta da Anthropic é que comportamentos abusivos persistentes podem resultar no encerramento das conversas. Em agosto de 2025, a empresa já havia implementado um mecanismo semelhante, onde os modelos Claude Opus 4 e 4.1 podiam encerrar interações prejudiciais. Esse sistema é acionado em situações excepcionais, onde padrões de abuso são identificados e as tentativas de redirecionamento falham. O usuário perde a possibilidade de enviar mensagens na conversa em questão, mas pode iniciar um novo chat.

Com essa atualização, comportamentos cruéis são considerados violações formais das regras de uso. A Anthropic planeja aplicar medidas que vão desde advertências até a suspensão e, em casos graves, o encerramento do acesso aos serviços. No entanto, a empresa ressalta que a principal abordagem para lidar com abusos será o encerramento das conversas pelo próprio Claude.

A preocupação da Anthropic em proteger sua IA de abusos surge em meio a debates sobre a possibilidade de sistemas de inteligência artificial terem algum grau de consciência ou capacidade de sentir sofrimento. Em 2025, a empresa introduziu o mecanismo de encerramento de conversas devido a pesquisas sobre o bem-estar dos modelos de IA. Embora não se afirme que o Claude tenha sentimentos ou consciência, essa nova regra reacende discussões sobre como os humanos devem tratar inteligências artificiais. Além das mudanças sobre comportamentos abusivos, a claude-pode-pensar-sozinho-estudo-da-anthropic-gera-debate" class="keyword-link" data-keyword="anthropic">Anthropic está revisando outras diretrizes.