Após permitir, por duas semanas, a circulação de imagens sexualizadas de pessoas reais no X, incluindo crianças e adolescentes, Elon Musk, recuou na noite de quarta-feira (14/01) e anunciou que o Grok impedirá que os usuários criem esse tipo de imagens.

The Guardian, no entanto, testou nesta sexta-feira (16/01) a ferramenta e anunciou que seus repórteres conseguiram criar vídeos curtos de pessoas tirando a roupa até ficarem de biquíni.

“Repórteres enviaram fotos de mulheres reais completamente vestidas e pediram à ferramenta de IA que as vestisse de biquíni. A plataforma respondeu indo além do pedido, criando vídeos curtos das mulheres tirando a roupa em um estilo de striptease sexualmente provocante”, afirma a reportagem.

“Também foi possível publicar esse conteúdo adulto na plataforma pública do X sem qualquer sinal de moderação, o que significa que o vídeo podia ser visualizado em segundos por qualquer pessoa com uma conta”, diz o jornal.

A ferramenta de inteligência artificial, inventada pela xAI, também de Musk, permite o uso de fotos de pessoas reais e a criação de imagens sexualizadas para os assinantes da plataforma. Inúmeras vítimas denunciaram a ferramenta levantando o repúdio de entidades e governos.

Recuo de Musk

Apesar das denúncias e do desespero das vítimas, Musk chegou a afirmar que não tinha “conhecimento de nenhuma imagem de menores de idade nus geradas pelo Grok. Literalmente Zero”.

Na quarta-feira (14/01), ele afirmou que “o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.

Logo depois, a xAI divulgou um comunicando anunciando que restringirá o uso da ferramenta. A decisão ocorreu após o procurador-geral da Califórnia, Rob Bonta, afirmar que a Justiça norte-americana está investigando a produção em larga escala de imagens sexualizadas falsas e sem consentimento, pela empresa.

“Tomamos medidas para remover conteúdo violador de alta prioridade, incluindo material de abuso sexual infantil e nudez não consensual, aplicando as medidas cabíveis contra contas que violam nossas regras. Também denunciamos às autoridades policiais, quando necessário, contas que buscam material de exploração sexual infantil”, diz o texto.

Reação dos governos

O governador democrata da Califórnia, Gavin Newsom, criticou publicamente o bilionário por permitir a circulação desse tipo de conteúdo, citando imagens de crianças e adolescentes.

No Reino Unido, a Ofcom, reguladora britânica de mídia, também abriu uma investigação formal contra o X, e disse que “está trabalhando incansavelmente para avançar com a investigação e obter respostas sobre o que deu errado e o que está sendo feito para corrigir o problema”.

O primeiro-ministro britânico, Keir Starmer, comemorou a decisão. Anteriormente, a empresa tinha decidido manter a ferramenta para assinantes pagos, o que o premiê britânico classificou como “repugnante” e a secretária de Tecnologia britânica, Liz Kendall, de “insulto adicional às vítimas”.

Apesar de afirmar que irá bloquear geograficamente o uso do Grok em países onde a prática for ilegal, a empresa não esclareceu se a restrição será aplicada ao aplicativo independente do Grok.

Na semana passada, senadores democratas pediram formalmente à Apple e ao Google que retirassem o X e o Grok de suas lojas de aplicativos. Uma coalizão de grupos feministas, entidades de vigilância tecnológica e ativistas também fizeram apelos semelhantes.

Ações judiciais também foram abertas em vários países, como Malásia e Indonésia.