O governo federal determinou nesta terça-feira (20) que a plataforma X, antigo Twitter, suspenda imediatamente as contas que utilizaram o sistema de inteligência artificial Grok para produzir imagens sexualizadas de mulheres, adolescentes e crianças.
A orientação consta de nota técnica assinada em conjunto pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon), órgão do Ministério da Justiça. O documento fixa 27 de janeiro de 2026 como data-limite para a empresa comprovar adoção de medidas emergenciais.
Risco de sanções
As entidades alertam que o descumprimento poderá gerar punições previstas no Marco Civil da Internet, na Lei Geral de Proteção de Dados (LGPD) e no Código de Defesa do Consumidor. Entre as penalidades estão advertência, multa de até 10% do faturamento no Brasil, suspensão temporária ou até proibição de operar no país.
Testes confirmaram falhas
Segundo a ANPD, testes da Coordenação de Fiscalização mostraram que o Grok consegue alterar fotografias reais, inserindo pessoas em contextos íntimos ou eróticos, em violação aos princípios de boa-fé, finalidade e proteção de crianças e adolescentes previstos na LGPD.
Recomendações à plataforma
A nota exige que a X Brasil Internet Ltda.:
- implemente barreiras técnicas que impeçam o Grok de gerar conteúdos sexualizados de menores ou de adultos sem consentimento;
- localize e remova, em até 30 dias, material já publicado desse tipo;
- suspenda de forma definitiva contas dedicadas a compartilhar deepfakes não consensuais;
- apresente Relatório de Impacto à Proteção de Dados Pessoais específico sobre o uso da IA e ofereça canal acessível para denúncias.
Denúncias motivaram ação
A iniciativa foi motivada por queixas da deputada federal Erika Hilton (PSOL-SP), do Instituto Brasileiro de Defesa do Consumidor (Idec) e da Secretaria de Políticas Digitais da Presidência da República. Hilton celebrou a decisão, classificando-a como “vitória gigante” na proteção de mulheres e crianças.
Partidos também questionam o uso da ferramenta. O PSOL acionou ANPD e MPF em 5 de janeiro, enquanto o PT solicitou ao MPF no Distrito Federal e à Senacon a abertura de investigação que pode levar até ao bloqueio do Grok no Brasil.
Cenário internacional
O governo lembra que órgãos reguladores do Reino Unido e da Itália investigam casos semelhantes e que Malásia e Indonésia chegaram a restringir o acesso ao Grok por conteúdo pornográfico gerado de forma sintética.
Com informações de Gazeta do Povo
