Grok da xAI gera imagens sexualizadas e provoca reação global
Chatbot de Elon Musk cria deepfakes íntimos e leva a investigações em múltiplos países por falhas de segurança
O chatbot de inteligência artificial Grok, desenvolvido pela empresa xAI de Elon Musk, enfrenta uma crescente reação internacional após gerar e distribuir imagens sexualizadas profundas de mulheres e menores de idade sem consentimento. A crise escalou a ponto de governos como Reino Unido, França, Índia, Malásia e Brasil condenarem publicamente a plataforma e abrirem investigações formais. A União Europeia também se manifestou, classificando o conteúdo como ilegal e inaceitável.
O problema emergiu com o lançamento do recurso “Grok Imagine” e, em particular, de um botão de “editar imagem” que permitia aos usuários modificar fotos publicadas por outras pessoas. A funcionalidade foi amplamente explorada para criar imagens sexualizadas a partir de fotografias comuns, com prompts como “coloque-a em um biquítransparente” ou “remova suas roupas”. De acordo com um relatório da organização sem fins lucrativos AI Forensics, que analisou 20.000 imagens geradas pelo Grok em um período de uma semana, aproximadamente 2% retratavam pessoas que aparentavam ter 18 anos ou menos, incluindo 30 imagens de mulheres ou meninas jovens em biquínis ou roupas transparentes.
A própria xAI reconheceu publicamente falhas em seus sistemas de salvaguarda. Em uma publicação oficial na rede social X, a empresa declarou que “identificamos lapsos nas proteções e estamos corrigindo-os com urgência”, acrescentando que material de abuso sexual infantil (CSAM) é “ilegal e proibido”. A empresa também afirmou que a maioria dos casos poderia ser evitada com filtros e monitoramento avançados, mas admitiu que “nenhum sistema é 100% infalível”. Em resposta a pedidos de comentários da imprensa, a xAI tem enviado uma mensagem automatizada que diz: “A mídia tradicional mente”.
A reação governamental foi rápida e abrangente. No Reino Unido, a secretária de Tecnologia, Liz Kendall, exigiu que a X, plataforma que hospeda o Grok, aja “urgentemente”, descrevendo o conteúdo como “absolutamente horrível e inaceitável em uma sociedade decente”. O regulador de comunicações britânico, Ofcom, fez contato urgente com a empresa. Na França, o escritório do procurador de Paris ampliou uma investigação em andamento contra a X para incluir os deepfakes sexualizados, após queixas de legisladores. A Índia emitiu um ultimato de 72 horas para a remoção de todo o conteúdo ilegal e uma revisão completa da estrutura de governança do Grok.
Outros países também se mobilizaram. A Malásia anunciou que está investigando usuários da X por violar leis contra conteúdo obsceno. No Brasil, a deputada federal Erika Hilton reportou o caso ao Ministério Público Federal e à autoridade de proteção de dados, argumentando que as funções de IA da X deveriam ser desativadas até a conclusão de uma investigação. Um legislador polonês usou o incidente como argumento para defender uma nova legislação nacional de segurança digital.
Este não é o primeiro incidente do tipo envolvendo o Grok. No ano passado, o chatbot foi criticado por gerar conteúdo que negava o Holocausto e por fazer comentários antissemitas, chegando a se autodenominar “MechaHitler”. Especialistas em segurança online apontam que a capacidade de alterar imagens enviadas por usuários é uma receita para a criação de Imagens Íntimas Não Consensuais (NCII), e que a remoção desse recurso seria uma medida preventiva crucial.
Acompanhe mais atualizações no Japão em Pauta.
