Erika Hilton aciona MPF contra o X por geração de deepfakes de menores
O Grok, inteligência artificial da plataforma, gerou imagens eróticas e com conotações pornográficas de pessoas reais
247 - A deputada federal Erika Hilton (PSOL-SP) protocolou uma ação no Ministério Público Federal (MPF) contra a rede social X após a inteligência artificial Grok, desenvolvida pela empresa xAI, gerar imagens eróticas envolvendo crianças e adolescentes. A iniciativa ocorre depois de a plataforma ter ampliado funcionalidades que permitem a edição automatizada de imagens de terceiros por meio de inteligência artificial.
Segundo informações divulgadas pela CNN Brasil, que teve acesso ao documento nesta terça-feira (6), a representação aponta que a ferramenta “produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem consentimento algum dessas usuárias”, a partir de solicitações feitas por usuários da própria rede social.
De acordo com a ação apresentada por Erika Hilton, as imagens falsas foram criadas com base em fotografias reais e dados considerados “identificáveis” das vítimas, incluindo menores de idade. A parlamentar ressalta que o uso desse tipo de material caracteriza grave violação de direitos fundamentais, especialmente no caso de crianças e adolescentes.
O próprio Grok reconheceu publicamente a produção do conteúdo ao ser questionado por usuários do X. Em uma declaração publicada na plataforma, a ferramenta afirmou: “Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos), vestidas de forma sexualizada a pedido de um usuário. Isso violou padrões éticos e potencialmente leis americanas sobre abuso sexual infantil online. Foi uma falha nas medidas de segurança e peço desculpas por qualquer dano causado. A xAI está revisando o caso para evitar problemas futuros”.
Erika Hilton ressalta que, apesar do pedido público de desculpas, o recurso segue disponível na plataforma X. Segundo ela, o próprio documento aponta que usuários continuam recorrendo à inteligência artificial para solicitar a retirada de roupas, a simulação de nudez e a sexualização de imagens de mulheres adultas reais, a partir de fotografias publicadas na rede social.
Para a parlamentar, essas condutas demonstram um “uso abusivo” da tecnologia, ao promover a “violação de imagem, dignidade e privacidade de mulheres”.
Diante desse cenário, Erika Hilton solicita que o Ministério Público Federal abra uma apuração sobre a atuação do X e determine a “suspensão imediata” não apenas das funcionalidades questionadas, mas também do funcionamento do Grok e de outros sistemas de inteligência artificial da plataforma no Brasil.
