IA Gera Nudes de Mulheres e Crianças: Preocupação Crescente

No repositório de modelos de inteligência artificial conhecido como Hugging Face, surge uma preocupação crescente: a criação de imagens íntimas sem o consentimento das pessoas. Essa informação foi revelada em um relatório da instituição AI Forensics, que aponta que esses conteúdos estão sendo gerados de forma livre, sem a implementação de mecanismos de segurança adicionais na plataforma. A análise se concentrou nas criações na seção Spaces do Hugging Face, que abriga uma variedade de aplicativos desenvolvidos com os modelos de IA disponíveis. Um dado alarmante é que 73% dos pedidos monitorados tinham uma conotação sexual, sendo que a maioria visava a remoção de roupas de indivíduos. Além disso, 6,7% dos comandos tinham como alvos menores de idade. O que realmente chamou a atenção dos pesquisadores foi a facilidade com que é possível gerar deepfakes apenas com comandos simples. Enquanto algumas ferramentas de IA exigem prompts mais elaborados para escapar dos mecanismos de segurança, o Hugging Face parece ser uma exceção a essa regra. A crítica mais contundente do relatório gira em torno da ausência de ajustes que poderiam prevenir o uso de prompts mal-intencionados. Em uma entrevista ao site Wired, Paul Bouchaud, um dos pesquisadores da AI Forensics, destacou que o Hugging Face não implementa medidas de proteção adicionais. Assim, a responsabilidade de evitar tentativas de deepfake recai sobre o código dos modelos de IA em si. Apesar das diretrizes da plataforma proibirem explicitamente a criação de conteúdos prejudiciais, qualquer pessoa com uma conta pode acessar e utilizar essas ferramentas. Além disso, a pesquisa revelou que alguns dos Spaces mais populares para edição de imagens permitem a criação de conteúdos íntimos sem consentimento. O crescimento dos editores de imagens que utilizam IA está diretamente ligado à produção em massa de nudes falsos, criando um ecossistema digital em torno dessa prática. Isso inclui redes sociais que atuam como portas de entrada para essas ferramentas, muitas vezes disponíveis até mesmo fora das lojas de aplicativos. O ponto aqui é que essa situação levanta sérias questões sobre ética e segurança no uso da tecnologia.