O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) consideraram insuficientes as respostas apresentadas pela plataforma X em relação ao uso indevido de sua ferramenta de inteligência artificial (IA), o Grok. A ferramenta tem sido utilizada para gerar e divulgar imagens sexualizadas de pessoas sem autorização.

No mês anterior, as três entidades haviam emitido recomendações para que a plataforma adotasse medidas para identificar, revisar e remover conteúdos gerados pelo Grok com comandos de usuários. Em resposta, a plataforma X alegou ter removido “milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança”. Contudo, as instituições avaliaram que as informações não foram acompanhadas de evidências concretas ou mecanismos de monitoramento que comprovassem sua efetividade. Testes preliminares indicaram a persistência das falhas.

Diante disso, os órgãos determinaram que o X implemente imediatamente medidas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem consentimento. Além disso, o MPF ordenou que a empresa forneça relatórios mensais sobre sua atuação no combate à produção de deepfakes, apontando falta de transparência na resposta anterior.

A ANPD determinou que as medidas de proteção contra o uso indevido da IA devem abranger todas as versões do Grok. O MPF exigiu relatórios mensais detalhando as ações para “impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia”, incluindo o número de postagens removidas e contas suspensas. O não cumprimento das determinações pode acarretar multas diárias, responsabilização por crime de desobediência, medidas investigatórias mais severas e ação judicial.

A Senacon cobrou a comprovação das medidas já adotadas para conter os riscos identificados e um “relatório métrico detalhado” com dados quantitativos sobre a identificação, moderação e remoção de conteúdos sexualizados relacionados ao Grok. A reportagem busca contato com a assessoria da Plataforma X no Brasil para obter um posicionamento sobre a manifestação conjunta dos órgãos.

Fonte e Fotos: Agência Brasil

https://agenciabrasil.ebc.com.br/geral/noticia/2026-02/violacoes-no-grok-continuam-dizem-mpf-anpd-e-senacon