O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) decidiram intensificar a fiscalização sobre a plataforma X após considerarem insuficientas as medidas apresentadas pela empresa para conter o uso indevido da ferramenta de inteligência artificial Grok. Segundo os órgãos, ainda há falhas que permitem a geração e circulação de conteúdos sexualizados envolvendo crianças, adolescentes e adultos sem consentimento.

Em resposta às recomendações anteriores, o X informou ter removido milhares de publicações e suspendido centenas de contas, além de adotar medidas de segurança. No entanto, conforme nota divulgada nesta quarta-feira (11), a empresa não apresentou relatórios técnicos, evidências documentais ou mecanismos de monitoramento que comprovem a efetividade das ações anunciadas.

Testes preliminares realizados pelas equipes técnicas das três instituições indicaram que o problema persiste, com registros de produção e disseminação de conteúdos incompatíveis com as determinações já emitidas.

O cenário ocorre em meio ao aumento das denúncias de crimes cibernéticos no Brasil. Dados divulgados pela SaferNet Brasil apontam crescimento nos registros em 2025. Do total de denúncias recebidas, 63.214 estavam relacionadas a imagens de abuso sexual infantil.

O avanço das ocorrências também reacendeu o debate sobre o uso de ferramentas de inteligência artificial. Levantamento do Center for Countering Digital Hate (CCDH) indica que, após o lançamento do gerador de imagens do Grok, cerca de três milhões de imagens sexualizadas teriam sido produzidas, sendo aproximadamente 23 mil envolvendo crianças.

Diante do cenário, ANPD e Senacon determinaram que o X implemente imediatamente soluções técnicas, administrativas e organizacionais para impedir que o Grok produza imagens, vídeos ou áudios envolvendo menores de idade e adultos sem consentimento.

O MPF também ordenou que a plataforma apresente relatórios mensais, a partir deste mês, com informações detalhadas sobre as medidas adotadas para prevenir e reprimir a produção de conteúdos erotizados e deepfakes. Os documentos deverão indicar dados quantitativos sobre remoções e suspensões de contas.

O descumprimento das determinações poderá resultar na abertura de processos administrativos sancionadores, aplicação de multas e outras penalidades previstas na legislação brasileira.