Instagram Luta Contra Deep Fakes: Desafios e Soluções

O chefe do Instagram, Adam Mosseri, admitiu que a plataforma ainda enfrenta desafios em lidar com perfis que utilizam deep fakes gerados por inteligência artificial. Essa questão tem sido levantada por criadores que usam o Instagram, conforme reportado pelo jornal britânico The Independent. Um exemplo notável foi compartilhado pelo comediante norte-americano George Brett Olson, que se deparou com uma conta que publicou uma de suas apresentações. No vídeo, em vez de aparecer ele, um avatar feminino gerado por IA ocupava seu lugar. Embora o áudio e o texto fossem os mesmos, a imagem foi completamente alterada. Mosseri expressou sua preocupação com essa prática, embora tenha descartado a ideia de uma proibição geral de conteúdos criados com essa tecnologia. Ele mencionou que discutiria possíveis medidas com sua equipe. Olson também ressaltou que esse tipo de conteúdo não se restringe apenas ao seu caso. Outros segmentos estão vendo perfis que utilizam vídeos de dançarinos como base para gerar gravações em que personagens criados por IA imitam as coreografias. A conta que reproduziu a apresentação de Olson contava com mais de 300 mil seguidores e direcionava os usuários para uma página no OnlyFans. Outro perfil, mencionado pela comediante Julia Jasunas, reunia cerca de 250 mil seguidores. Mosseri respondeu diretamente ao post de Olson no Instagram, afirmando que a Meta está atenta a esses perfis, mas uma proibição ampla de conteúdo gerado por IA não seria viável. “Vai ficar cada vez mais difícil de identificar, e nem todo conteúdo é ruim, embora haja muito lixo”, comentou ele. Além disso, Mosseri mencionou que o Instagram busca direcionar mais tráfego para os criadores originais. Ele reconheceu que a plataforma precisa encontrar formas de agir quando conteúdos são cópias integrais das obras desses autores. Para isso, ele citou exemplos de outras redes sociais: o X, de Elon Musk, recentemente alterou seu algoritmo de recomendação para limitar o alcance de conteúdo copiado e fez mudanças na monetização para dar mais destaque a criações originais. Em um outro momento, Mosseri falou sobre as ferramentas que permitem solicitar a remoção de conteúdos. Embora a plataforma aceite denúncias por violação de direitos autorais, ele destacou que esse mecanismo nem sempre resolve as questões levantadas pelos criadores. Ele observou que muitos criadores podem não ter tomado as medidas necessárias para proteger seus trabalhos e que a rede social precisa encontrar uma forma de “ajudar esses criadores sem permitir que pessoas mal-intencionadas façam denúncias falsas”. Segundo Mosseri, “isso acontece o tempo todo”. Ele já tinha abordado essa questão complexa sobre o tratamento à IA na plataforma, afirmando que conteúdos gerados por inteligência artificial não deveriam ser exibidos para quem não demonstrasse interesse. No entanto, negou que os usuários devessem ter controle total para bloqueá-los — essa responsabilidade, segundo ele, ainda recai sobre o algoritmo.