O Governo do Brasil e o Ministério Público Federal (MPF) emitiram recomendações à empresa responsável pela plataforma X após denúncias de que usuários estariam utilizando o Grok, assistente de inteligência artificial integrado à rede, para gerar conteúdos sintéticos com conotação sexualizada. As informações apontam para a manipulação de imagens reais de mulheres, crianças e adolescentes por meio de deepfakes.
A ação, realizada de forma conjunta pela Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o MPF, tem como objetivo apurar e conter a violação de direitos humanos e de dados pessoais provocada pelo uso abusivo da ferramenta de IA.
As denúncias se baseiam em reportagens veiculadas na imprensa e em testes conduzidos pelas próprias instituições. Os resultados revelaram o uso do Grok para produzir imagens falsas de conteúdo erótico ou pornográfico envolvendo pessoas reais, inclusive crianças e adolescentes. Também foram relatados casos de fotos de mulheres e menores de idade nuas ou vestindo roupas íntimas, disponíveis publicamente na plataforma.
Diante da gravidade das situações descritas, as autoridades destacaram a necessidade de uma atuação coordenada. A iniciativa busca garantir a proteção de dados, preservar as relações de consumo e resguardar direitos fundamentais, especialmente os de grupos vulneráveis como mulheres e crianças.
Entre as recomendações, está a exigência de que a empresa implemente, de forma imediata, mecanismos para impedir que o Grok gere qualquer conteúdo visual ou sonoro com pessoas reais em contextos sexualizados, especialmente se envolver menores de idade ou adultos sem consentimento.
As instituições também solicitaram que a empresa:
Estabeleça, em até 30 dias, procedimentos técnicos e operacionais eficazes para identificar, revisar e remover conteúdos indevidos já disponíveis, quando gerados via Grok;
Suspenda imediatamente as contas envolvidas na criação de conteúdos sexuais ou erotizados com IA, apresentando relatórios mensais que comprovem a aplicação das medidas;
Crie um canal acessível e transparente para que titulares de dados possam denunciar o uso indevido de suas informações e recebam respostas em prazo razoável;
Elabore um relatório de impacto à proteção de dados pessoais, detalhando as atividades relacionadas à criação de conteúdos sintéticos a partir de fotos, vídeos e áudios de usuários.
As entidades alertaram que, caso as recomendações não sejam seguidas ou sejam consideradas insuficientes para mitigar os riscos, outras medidas administrativas e judiciais poderão ser adotadas.