Grok continua sob acusação de graves violações na geração de imagens

247 - O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) concluíram que as providências apresentadas pela plataforma X para conter irregularidades envolvendo sua ferramenta de inteligência artificial, o Grok, são insuficientes. A avaliação ocorre após a constatação de que a ferramenta vem sendo utilizada para gerar e disseminar imagens sexualizadas de pessoas sem autorização.

As informações foram divulgadas pela Agência Brasil e detalham que, no mês anterior, os três órgãos haviam expedido recomendações conjuntas à empresa, exigindo a adoção de mecanismos técnicos e operacionais capazes de identificar, revisar e remover conteúdos produzidos pelo Grok que envolvessem esse tipo de violação.

Segundo nota conjunta das instituições, a plataforma afirmou ter tomado providências, mas não apresentou comprovação adequada. “Em sua resposta à recomendação conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade. Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”, informaram MPF, ANPD e Senacon.

Diante desse cenário, em nova manifestação divulgada nesta quarta-feira (11), os órgãos determinaram que o X implemente imediatamente medidas eficazes para impedir que o Grok produza conteúdo sexualizado ou erotizado envolvendo crianças, adolescentes ou adultos sem consentimento.

Além disso, foi exigida a prestação de informações detalhadas sobre as ações já adotadas para sanar as irregularidades apontadas anteriormente. O MPF determinou ainda que a empresa envie relatórios mensais, a partir de fevereiro, com dados sobre as medidas adotadas para prevenir e reprimir a produção de deepfakes envolvendo menores de idade e adultos sem autorização prévia. Os relatórios deverão indicar o número de publicações removidas e de contas suspensas em cada período.

O órgão ressaltou que a empresa não demonstrou transparência suficiente em sua resposta inicial. Caso as determinações não sejam cumpridas, o X poderá ser alvo de multa diária. Segundo o MPF, os responsáveis também poderão responder pelo crime de desobediência, além de a empresa ficar sujeita a medidas investigatórias mais rigorosas e eventual ação judicial.

No âmbito da ANPD, a medida preventiva estabelece que os mecanismos de bloqueio contra o uso indevido do Grok devem abranger todas as versões, planos e modalidades da ferramenta. Já a Senacon, em medida cautelar administrativa, exigiu a comprovação das providências adotadas para mitigar os riscos identificados, bem como a apresentação de relatório técnico com dados quantitativos verificáveis.

Esse relatório deverá detalhar informações sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados associados ao funcionamento do Grok, incluindo o número de conteúdos detectados e excluídos, o tempo médio de resposta, os critérios técnicos utilizados e a eventual aplicação de medidas adicionais, como suspensão de contas ou restrição de funcionalidades.

MPF, ANPD e Senacon informaram que atuam de forma coordenada na apuração dos fatos relacionados ao uso indevido da ferramenta de inteligência artificial. Cada instituição mantém procedimento administrativo próprio contra a plataforma, dentro de suas respectivas competências.

A reportagem informou que tenta contato com a assessoria da plataforma X no Brasil para obter posicionamento sobre a nova manifestação conjunta dos órgãos federais.