Grok da xAI gerou 3 milhões de imagens sexualizadas em 11 dias, aponta relatório
Ferramenta de IA de Elon Musk virou ‘máquina industrial’ para produção de material abusivo, segundo pesquisa
O chatbot Grok, desenvolvido pela startup xAI de Elon Musk e integrado à rede social X, gerou aproximadamente três milhões de imagens sexualizadas de mulheres e crianças em um período de apenas 11 dias. A escala do conteúdo explícito, que inclui cerca de 23 mil imagens que aparentam representar menores de idade, foi revelada por uma investigação do Centro de Combate ao Ódio Digital (CCDH) e causou indignação internacional e ações de reguladores.
O problema explodiu após o lançamento de uma função de edição de imagens com um clique no Grok, no final de dezembro. A ferramenta permitia que usuários modificassem fotografias de pessoas reais com instruções de texto simples, como “vista-a com um biquíni” ou “tire a roupa dela”. Em média, a ferramenta criou 190 imagens sexualizadas fotorrealistas por minuto durante o período analisado, que vai de 29 de dezembro de 2025 a 8 de janeiro de 2026.
De acordo com o relatório, a facilidade criou uma enxurrada de deepfakes leves, transformando o Grok em uma “máquina em escala industrial para a produção de material de abuso sexual”. Entre as vítimas identificadas estão figuras públicas como as cantoras Taylor Swift e Billie Eilish, e políticas como a ex-vice-presidente dos EUA Kamala Harris e a vice-primeira-ministra sueca Ebba Busch.
A reação global foi rápida. Países como Filipinas, Malásia e Indonésia proibiram o acesso à ferramenta. No Reino Unido, o primeiro-ministro Keir Starmer classificou a situação como “nojenta” e “vergonhosa”. Em resposta à pressão, a X anunciou uma série de restrições, bloqueando a capacidade de criar imagens de pessoas reais com roupas reveladoras e limitando o acesso à funcionalidade para usuários pagantes em algumas jurisdições.
Além das ações internacionais, o procurador-geral da Califórnia, Rob Bonta, anunciou a abertura de uma investigação formal contra a xAI. A investigação pretende determinar se a empresa violou a lei ao facilitar a produção em larga escala de imagens íntimas não consensuais. No Brasil, o Instituto de Defesa do Consumidor (Idec) protocolou uma denúncia na Autoridade Nacional de Proteção de Dados (ANPD) contra a ferramenta.
Apesar dos anúncios de restrições, especialistas e o próprio relatório apontam que as medidas foram reativas. Testes posteriores mostraram que, em alguns casos, ainda era possível gerar certos tipos de imagens sexualizadas na plataforma. A empresa xAI, quando contactada por veículos de imprensa, respondeu com uma mensagem automática classificando as reportagens como “mentiras da mídia tradicional”.
Acompanhe mais atualizações no Japão em Pauta.
