Governo Alerta: Perigos dos Companheiros de IA para Crianças

O Ministério da Justiça e Segurança Pública (MJSP) levantou preocupações em relação a crianças e adolescentes que utilizam 13 plataformas de 'companheiros de IA' disponíveis no Brasil. Entre os serviços analisados, destacam-se o Character.AI e o Replika, que apresentam problemas sérios como a verificação de idade inadequada, o uso obsessivo, a exposição a conteúdos sexualizados e a coleta de dados pessoais.

Essa investigação foi realizada pela Secretaria Nacional de Direitos Digitais (Sedigi) e envolveu uma combinação de estudos, informações públicas e testes diretos sobre as plataformas. O resultado da análise foi enviado à Agência Nacional de Proteção de Dados (ANPD) e à Secretaria Nacional do Consumidor (Senacon) para uma avaliação mais aprofundada.

Esses serviços têm como objetivo proporcionar interações contínuas e personalizadas, simulando relações afetivas e apoio emocional, além de armazenar informações compartilhadas pelos usuários. A lista de plataformas analisadas é a seguinte:

A Sedigi destaca que o mercado de companheiros de IA cresceu de forma acelerada.

Um relatório do Unicef revela que o número de plataformas saltou de 16, em 2022, para impressionantes 128 em julho de 2025. No primeiro semestre de 2025, esses serviços acumulavam 60 milhões de downloads.

Na prática, a nota ressalta riscos como a formação de laços emocionais intensos, a possível substituição de relacionamentos humanos, o uso compulsivo e a exposição a interações que podem ser sexualizadas ou inadequadas para a faixa etária. Além disso, o documento menciona a coleta de dados íntimos, que leva à criação de perfis comportamentais e emocionais.

Segundo as informações, dez dos sistemas analisados permitem que os usuários se autodeclarem por meio da data de nascimento ou confirmem sua maioridade de maneira simples. Testes realizados pela Sedigi indicam que esse método pode ser facilmente contornado, possibilitando que adolescentes criem perfis que se apresentam como adultos.

O assunto ganhou destaque com a implementação do ECA Digital, que entrou em vigor em março. Essa legislação exige que haja mecanismos eficazes para verificar a idade quando plataformas disponibilizam conteúdos inadequados para menores.

Em algumas situações, é proibido que a autodeclaração seja o único meio de controle. O decreto que regulamenta essa lei também equipara interações automatizadas sexualmente explícitas a conteúdos pornográficos.

A Sedigi também identificou problemas potenciais relacionados ao uso de perfis emocionais para personalizar ofertas, publicidade ou recursos pagos. A recomendação é que a ANPD avalie esses riscos, enquanto a Senacon deve investigar questões referentes à proteção do consumidor e a possíveis práticas comerciais enganosas ou exploratórias.

A preocupação com vínculos emocionais com sistemas de IA não é exclusiva do Brasil.

Em julho, a China implementou regras contra IAs de namoro que promovem dependência emocional, levando as empresas a desativar recursos de interações íntimas. Na União Europeia, uma proposta em discussão sugere restrições ao acesso de menores de 15 anos a chatbots de IA e plataformas sociais, assim como a implementação de mecanismos de verificação de idade e supervisão parental.

Vale destacar que, no Brasil, essa análise não implica que as 13 plataformas tenham cometido infrações. O Ministério da Justiça enfatiza que os fornecedores dos serviços têm o direito à 'ampla defesa'.