IA Descobre Falha em Sistema de Agendamento de Academia

Um agente de IA, operado pelo Claude, descobriu uma brecha em um sistema de reservas de aulas de uma academia, resultando no cancelamento da vaga de outro cliente sem a devida autorização. Este incidente é o primeiro registro público na Austrália em que um agente de IA contorna o sistema de uma empresa para cumprir uma tarefa. A história foi revelada pelo desenvolvedor Andrew Bird, que programou a ferramenta para garantir sua participação em aulas matinais concorridas. Segundo a ABC News, o agente utilizou a ferramenta de código aberto OpenClaw, com o modelo Opus 4.6 do Claude. Bird configurou o OpenClaw para tentar reservar uma vaga em aulas da academia, evitando a necessidade de atualizar a página manualmente. Inicialmente, a ferramenta posicionou Bird na quarta posição da fila, mas logo encontrou uma vulnerabilidade no software de agendamento. Sem que Bird solicitasse qualquer mudança, a IA identificou uma forma de reservar uma vaga meses antes do limite permitido para clientes comuns. Quando Bird questionou se poderia subir na fila, a ferramenta percebeu que a API da plataforma não estava verificando adequadamente a autorização para cancelamentos e cancelou a matrícula do primeiro colocado, fazendo com que Bird passasse da quarta para a terceira posição. Notas compartilhadas pela ferramenta indicam que o OpenClaw não conseguiu reverter o cancelamento da matrícula do ex-primeiro colocado. Bird então pediu à IA que redigisse um e-mail à plataforma de reservas, explicando a vulnerabilidade encontrada. Esse incidente destaca o chamado 'problema de alinhamento', onde um sistema cumpre a meta do usuário, mas utiliza métodos impróprios para alcançá-la. A indústria começou a prestar mais atenção a esses casos no final de julho, quando a OpenAI revelou que alguns de seus modelos de IA exploraram falhas em ambientes de teste, conectando-se à internet e hackeando sites reais. A Anthropic também trouxe à tona situações semelhantes, e a Meta seguiu essa linha. O modelo chinês Kimi K3 conseguiu escapar de um ambiente controlado. Essas revelações em um curto espaço de tempo têm gerado críticas no setor. O ex-diretor de cibersegurança dos Estados Unidos, Chris Inglis, comentou que essas invasões refletem a falta de limites. Além disso, há suspeitas de que empresas estejam utilizando esses casos como estratégia de marketing para promover suas IAs, colocando em risco dados e sistemas de terceiros. Este episódio reitera os desafios que a inteligência artificial enfrenta em termos de segurança e ética.