A plataforma X, de propriedade do bilionário Elon Musk, anunciou nesta quarta-feira (14) novas medidas para impedir que o chatbot de inteligência artificial Grok transforme fotos de pessoas reais em imagens com conotação sexual. A decisão ocorre após uma onda de críticas internacionais e investigações oficiais sobre a geração de montagens íntimas não consentidas, incluindo conteúdos envolvendo mulheres e crianças.
Em comunicado, a rede social informou que vai bloquear geograficamente a capacidade de usuários do Grok e do próprio X de criar imagens de pessoas vestindo “biquínis, roupas íntimas e outras peças similares” em países onde esse tipo de prática é considerada ilegal. Segundo a empresa, a restrição valerá para todos os usuários, inclusive assinantes do serviço pago.
“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, afirmou a equipe de segurança do X. “Essa restrição se aplica a todos os usuários”, acrescentou.
O anúncio acontece após o procurador-geral da Califórnia, Rob Bonta, abrir uma investigação contra a xAI, empresa de inteligência artificial de Musk. De acordo com o gabinete do procurador, a apuração busca esclarecer se a companhia “facilitou a produção em larga escala de montagens íntimas não consentidas (deepfakes), usadas para assediar mulheres e meninas na internet, principalmente por meio da plataforma X”.
“Temos tolerância zero em relação à criação e disseminação, por meio de IA, de imagens íntimas não consentidas ou de material pedopornográfico”, declarou Bonta. A investigação vai analisar se, e de que forma, a xAI violou a legislação vigente.
Reação internacional
Nas últimas semanas, cresceu a indignação global em torno do Grok e de suas ferramentas de edição de imagens, que permitiam a criação de deepfakes sexualizados a partir de comandos simples, como “coloque-a em um biquíni” ou “retire a roupa”. As montagens utilizavam, em muitos casos, fotos reais publicadas na própria rede social X.
Na tentativa de responder às críticas, a plataforma anunciou, na semana passada, uma mudança na política de monetização, limitando a geração e edição de imagens aos usuários do serviço pago. A medida, no entanto, foi duramente criticada por autoridades internacionais.
O gabinete do primeiro-ministro do Reino Unido, Keir Starmer, classificou a iniciativa como uma afronta às vítimas, e não como uma solução efetiva. Já o regulador britânico de mídia, Ofcom, informou que abriu uma investigação para apurar se o X descumpriu a legislação do país ao permitir a disseminação de imagens sexualizadas.
Outros países também reagiram. Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia informou que o X removeu milhares de publicações e centenas de contas após reclamações oficiais. Na França, a comissária para a infância, Sarah El Hairy, afirmou ter encaminhado imagens geradas pelo Grok à promotoria, ao regulador Arcom e à União Europeia, que solicitou a suspensão total desse tipo de conteúdo.
Uma análise realizada pela organização sem fins lucrativos AI Forensics, sediada em Paris, reforçou as preocupações. O levantamento examinou mais de 20 mil imagens geradas pelo Grok e apontou que mais da metade retratava pessoas com pouca roupa. Desse total, 81% eram mulheres e 2% aparentavam ser menores de idade.
