X anuncia bloqueio de imagens sexuais ilegais
Plataforma reage a críticas globais, investigações e acusações de facilitação de deepfakes envolvendo mulheres e menores
247 - A rede social X, antigo Twitter, anunciou nesta quarta-feira (14) que adotará medidas para impedir que o chatbot de inteligência artificial Grok seja usado para transformar fotos de pessoas reais em imagens com conotação sexual em países onde esse tipo de prática é proibida por lei. A decisão ocorre após uma onda de críticas internacionais envolvendo a geração de imagens sexualizadas sem consentimento, inclusive de mulheres e menores de idade.
As informações foram publicadas pela Folha de S.Paulo, que detalhou o novo posicionamento da empresa comandada por Elon Musk diante da crescente pressão de autoridades, especialistas e organizações da sociedade civil. Segundo o X, a funcionalidade será restringida de forma geográfica, respeitando a legislação vigente em cada país.
Em comunicado oficial, a empresa informou que “bloqueará geograficamente a capacidade” de usuários do Grok e da própria plataforma X de criar imagens de pessoas usando “biquínis, roupas íntimas e outras peças similares” em jurisdições onde esse tipo de conteúdo é considerado ilegal. A equipe de segurança da companhia afirmou ainda: “Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”.
De acordo com o X, a restrição será aplicada a todos os usuários, inclusive aqueles que assinam o serviço pago do chatbot. “Esta restrição se aplica a todos os usuários, incluídos os assinantes do serviço pago”, reforçou a empresa, ao tentar responder às críticas de que medidas anteriores eram insuficientes para coibir abusos.
Medidas consideradas tardias
Na semana passada, o X havia anunciado que a geração e edição de imagens ficariam limitadas apenas a assinantes pagos, decisão que foi duramente criticada por especialistas e autoridades. Mesmo após o anúncio, usuários relataram que o Grok continuava a produzir imagens sexualizadas ilegais e não consentidas no mesmo dia, o que aumentou a desconfiança sobre a eficácia das restrições.
O novo posicionamento da plataforma ocorre após o procurador-geral da Califórnia, Rob Bonta, iniciar uma investigação contra a xAI, empresa de inteligência artificial de Musk. Segundo o órgão, há indícios de que a companhia estaria “facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X”.
“Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico”, declarou Bonta. Ele acrescentou que a investigação vai apurar “se, e como, a xAI violou a lei”.
O governador da Califórnia, Gavin Newsom, também se manifestou sobre o caso. Segundo ele, a decisão da xAI de permitir a proliferação de deepfakes sexualmente explícitos foi “vil” e o levou a cobrar ações mais duras por parte do procurador-geral contra a empresa.
Análises e reação internacional
Um estudo divulgado recentemente pela ONG AI Forensics analisou mais de 20 mil imagens geradas pelo Grok e apontou que mais da metade retratava pessoas com pouca roupa. Do total, 81% das imagens sexualizadas envolviam mulheres, e cerca de 2% aparentavam retratar menores de idade, o que intensificou o debate sobre os riscos do uso da ferramenta.
A indignação internacional cresceu nas últimas semanas, especialmente pela facilidade com que usuários conseguiam criar deepfakes sexualizados a partir de comandos como “coloque-a em um biquíni” ou “tire a sua roupa”, utilizando imagens originalmente publicadas no próprio X.
A reação de governos foi rápida. Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia informou que o X removeu milhares de publicações e centenas de contas após reclamações formais. Nesta quinta-feira (15), as Filipinas anunciaram que também irão suspender o acesso ao chatbot.
No Reino Unido, o gabinete do primeiro-ministro Keir Starmer classificou a limitação do recurso apenas para assinantes pagos como uma afronta às vítimas, “não uma solução”. Já o regulador de mídia britânico, Ofcom, abriu uma investigação para apurar se o X violou a legislação local relacionada a imagens sexualizadas.
Pressão sobre big techs
A crise envolvendo o Grok aumentou ainda mais após uma coalizão de 28 organizações da sociedade civil enviar cartas abertas aos presidentes da Apple e do Google, pedindo que o Grok e o X sejam removidos das lojas de aplicativos diante do aumento de conteúdos sexualizados e da dificuldade de controle.
Na França, a comissária para a infância, Sarah El Hairy, informou que encaminhou as imagens geradas pelo Grok à promotoria, ao regulador de mídia Arcom e à União Europeia, que pediu a paralisação total da geração desse tipo de conteúdo.
Diante do avanço das investigações e do cerco regulatório em diferentes países, a decisão do X de bloquear geograficamente a geração de imagens sexuais ilegais é vista como uma tentativa de conter danos. Especialistas, no entanto, avaliam que a eficácia das medidas dependerá da aplicação rigorosa das restrições e da cooperação com autoridades nacionais e internacionais.
