MPF e ANPD Cobram Ações do X Contra Conteúdos Ilegais
Órgãos determinam medidas imediatas para impedir produção de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento.
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) analisaram as respostas da plataforma X e concluíram que as ações da empresa em relação à sua ferramenta de inteligência artificial, o Grok, são claramente insuficientes. Essa ferramenta tem sido utilizada inadequadamente para criar e disseminar imagens de pessoas em contextos de sexualização, sem a devida autorização.
No mês passado, essas três entidades emitiram recomendações para a plataforma X, incluindo a necessidade de implementar procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos inadequados, especialmente aqueles gerados pelo Grok a partir de comandos de usuários.
Em resposta, a plataforma X informou ter removido milhares de publicações e suspenso centenas de contas por violação de suas políticas, além de mencionar a adoção de algumas medidas de segurança. No entanto, as instituições afirmam que essa resposta não trouxe evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovassem a efetividade das ações. Testes preliminares indicaram que falhas persistem, permitindo a continuidade da geração e circulação de conteúdos que vão contra as recomendações emitidas.
Na nova declaração divulgada em 11 de fevereiro, os três órgãos exigiram que a plataforma X implemente, de forma imediata, medidas eficazes para impedir a produção de conteúdos sexualizados ou erotizados envolvendo crianças e adolescentes, assim como adultos que não consentiram. Além disso, solicitaram informações detalhadas sobre as providências que a empresa já tomou para resolver os problemas identificados. O MPF enfatizou que o X deve fornecer relatórios mensais sobre suas ações nesse tema, destacando a falta de transparência por parte da empresa em sua resposta.
Essas três instituições estão trabalhando de forma coordenada para investigar o uso indevido da ferramenta de inteligência artificial Grok. Cada uma possui um procedimento administrativo aberto contra a plataforma, de acordo com suas competências. A ANPD estipulou que os recursos destinados a impedir o uso indevido da ferramenta de IA devem abranger todas as versões e modalidades do Grok.
O MPF exige que a plataforma envie relatórios mensais, a partir de fevereiro, detalhando como o X está se empenhando para coibir a produção de deepfakes envolvendo crianças e adolescentes, assim como adultos sem autorização prévia. Esses relatórios devem incluir o número de postagens nocivas removidas e o total de contas suspensas por essas práticas em cada período reportado pelos responsáveis pela plataforma.
