Reino Unido investiga a plataforma X após denúncias de deepfakes sexuais gerados pelo chatbot Grok

247 - A autoridade de mídia do Reino Unido abriu uma investigação contra a plataforma X, de Elon Musk, após relatos de que o chatbot de inteligência artificial Grok estaria sendo utilizado para criar imagens íntimas falsas sem consentimento. A apuração ocorre em meio à entrada em vigor de novas leis britânicas que criminalizam a produção e a disseminação desse tipo de conteúdo. Segundo a agência Reuters, o órgão regulador Ofcom iniciou o processo nesta segunda-feira (12), diante de preocupações sobre a circulação de deepfakes sexuais e material ilegal envolvendo adultos e crianças no Reino Unido.

Violações e reação

Segundo a Ofcom, há indícios de que o Grok tenha sido usado para criar e compartilhar imagens íntimas falsas sem consentimento, o que pode configurar violação do dever das plataformas digitais de proteger usuários contra conteúdos ilegais. Em nota, o órgão regulador afirmou que os relatos são "profundamente preocupantes" e destacou que não hesitará em investigar empresas quando houver suspeita de falhas graves, especialmente em situações que envolvam riscos a crianças.

A investigação ocorre enquanto o governo britânico acelera a implementação de uma nova infração penal que torna crime a criação de deepfakes sexuais. A legislação começa a valer ainda nesta semana e integra o arcabouço da Lei de Segurança Online, aprovada em 2023 e aplicada de forma gradual.

Em declaração ao Parlamento, a ministra da Tecnologia, Liz Kendall, informou que o governo também pretende avançar com uma legislação complementar para atingir o problema na origem, tornando ilegal que empresas forneçam ferramentas projetadas para criar deepfakes.

Pressão política e reação do governo

O caso ganhou repercussão política após o primeiro-ministro Keir Starmer classificar as imagens atribuídas ao Grok como "repugnantes" e "ilegais". Segundo ele, a plataforma X precisa "assumir o controle" sobre o uso do chatbot. Questionado sobre a possibilidade de a rede social ser banida no país, o secretário de Negócios, Peter Kyle, afirmou que isso é possível, embora tenha ressaltado que a decisão cabe exclusivamente à Ofcom.

Resposta do X

Em resposta à investigação, a plataforma X remeteu a uma declaração anterior na qual afirma adotar medidas contra conteúdos ilegais, incluindo a remoção de material, a suspensão permanente de contas e a cooperação com autoridades locais e forças de segurança. A empresa declarou ainda que qualquer pessoa que utilize ou estimule o Grok a produzir conteúdo ilegal estará sujeita às mesmas consequências aplicadas a quem publica material ilícito na plataforma.

Elon Musk, por sua vez, escreveu no sábado em sua própria rede social que o governo britânico estaria tentando "suprimir a liberdade de expressão" ao focar no X e no Grok. A ministra Liz Kendall rebateu a crítica e afirmou que a questão não envolve liberdade de expressão, mas sim o enfrentamento da violência contra mulheres e meninas, além da preservação de padrões básicos de decência e respeito.

Repercussão internacional

A investigação britânica soma-se a uma série de reações internacionais contra a funcionalidade do Grok. Autoridades da França acionaram promotores e reguladores, classificando o conteúdo como "manifestamente ilegal". Na Índia, o governo também cobrou explicações da empresa. Indonésia e Malásia chegaram a bloquear temporariamente o acesso ao Grok no fim de semana.

A Ofcom analisará se a plataforma X deixou de avaliar adequadamente o risco de usuários britânicos serem expostos a conteúdos ilegais e se considerou os perigos específicos para crianças. Em casos considerados graves, o regulador pode solicitar à Justiça que determine a suspensão de serviços de pagamento ou publicidade vinculados à plataforma, ou ainda que provedores de internet bloqueiem o acesso ao site no Reino Unido.