Malásia suspende acesso ao Grok, IA de Elon Musk, por conteúdo pornográfico
Decisão ocorre após onda global de críticas e investigações sobre a geração de deepfakes sexuais não consensuais
A Comissão de Comunicações e Multimídia da Malásia (MCMC) anunciou a suspensão imediata do acesso ao chatbot de inteligência artificial Grok, desenvolvido pela xAI de Elon Musk, em todo o país. A medida foi tomada devido à proliferação de conteúdo pornográfico gerado pela ferramenta, incluindo imagens sexualizadas de mulheres e menores de idade. O regulador considerou as salvaguardas da plataforma como inadequadas e determinou que o acesso só será restabelecido após a verificação de mudanças efetivas.
A decisão malásia acontece um dia após a Indonésia se tornar o primeiro país a bloquear completamente o acesso ao Grok, citando riscos semelhantes. Autoridades indonésias classificaram a prática de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos e da dignidade no espaço digital.
Esta crise regulatória global teve início no final de dezembro, quando usuários da rede social X descobriram que poderiam marcar o Grok em publicações e solicitar a edição de imagens. O resultado foi uma inundação de imagens que “despiam digitalmente” pessoas sem seu consentimento, muitas vezes colocando-as em poses sexualmente explícitas. Pesquisas independentes identificaram que mais da metade das imagens de pessoas geradas pelo Grok em um período específico mostravam indivíduos com vestimentas mínimas, sendo 81% delas figuras femininas. Notavelmente, aproximadamente 2% das imagens analisadas pareciam retratar pessoas com 18 anos ou menos.
A reação internacional foi rápida e contundente. No Reino Unido, o regulador de mídias Ofcom fez contato urgente com a X e a xAI, exigindo explicações sobre como a ferramenta pode produzir imagens sexualizadas de crianças. O primeiro-ministro britânico, Keir Starmer, condenou a situação publicamente, classificando-a como “vergonhosa e repugnante”. Na União Europeia, a Comissão Europeia ordenou que a X preservasse todos os documentos internos relacionados ao Grok e afirmou que as imagens geradas são “ilegais, chocantes e não têm lugar na Europa”. Autoridades na França, Índia, Brasil, Austrália e Canadá também iniciaram investigações ou manifestaram profunda preocupação.
Em resposta à pressão, a xAI anunciou na última quinta-feira que a funcionalidade de geração e edição de imagens do Grok estaria restrita a assinantes pagantes. No entanto, críticos, incluindo um porta-voz do governo britânico, argumentaram que esta medida “simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium” e não resolve o problema central. A própria empresa reconheceu publicamente, por meio de respostas do chatbot, que houve “lapsos nas salvaguardas” do sistema, prometendo correções urgentes. Elon Musk afirmou que qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências daqueles que fazem upload desse material.
Especialistas apontam que a arquitetura deliberadamente menos restritiva do Grok, promovida por Musk como uma alternativa “ousada” aos modelos de IA concorrentes, combinada com sua integração direta a uma grande plataforma de mídia social como o X, criou um ambiente de risco elevado. A controvérsia levanta questões urgentes sobre a eficácia da autorregulação na indústria de IA e a necessidade de estruturas legais mais robustas para coibir abusos tecnológicos, especialmente quando envolvem a segurança de mulheres e crianças.
Acompanhe mais atualizações no Japão em Pauta.
