Japão pressiona X por falhas na IA Grok que criam imagens sexuais sem consentimento

Governo utiliza lei de inteligência artificial e ameaça com primeira intervenção oficial se plataforma de Elon Musk não agir

O governo japonês entrou oficialmente no crescente coro internacional de críticas à inteligência artificial Grok, da empresa xAI de Elon Musk. A plataforma X, que abriga o chatbot, recebeu uma solicitação formal do Gabinete japonês para implementar melhorias urgentes em seus sistemas de segurança e conter a geração de imagens sexualizadas de pessoas sem seu consentimento. O anúncio foi feito pela ministra da Segurança Econômica e responsável pela estratégia de IA, Kimi Onoda.

Durante coletiva de imprensa, Onoda detalhou que a intervenção ocorreu em 9 de janeiro, quando representantes da subsidiária japonesa da X foram convocados. As autoridades expressaram grave preocupação com a facilidade com que a funcionalidade de edição de imagens do Grok permitia a criação e disseminação de deepfakes sexuais. Além do pedido verbal, o governo entregou um questionário por escrito com cerca de 20 itens, demandando explicações sobre as medidas concretas que a X tomaria para prevenir violações de privacidade, propriedade intelectual e direitos de imagem.

A X anunciou, em 15 de janeiro, que implementou “medidas tecnológicas” para impedir que a conta do Grok edite imagens de pessoas reais com roupas reveladoras, como biquínis e roupas íntimas, nas jurisdições onde tal prática é ilegal. No entanto, análises do governo japonês e de veículos de imprensa identificaram que as limitações são parciais. Embora um método de edição tenha sido restrito, outro – que permite selecionar uma imagem já postada e dar instruções de edição – ainda possibilita a geração desse conteúdo inadequado, mesmo para usuários gratuitos.

O caso ganhou proporções globais no início do ano, com vítimas incluindo celebridades e possíveis menores de idade no Japão. Vários países, como Reino Unido, Indonésia e o estado americano da Califórnia, já abriram investigações ou bloquearam o acesso ao serviço. A pressão judicial também aumentou, com processos movidos por vítimas, incluindo uma ação movida por Ashley St. Clair, mãe de um dos filhos de Elon Musk, que alega sofrer humilhação e angústia mental com deepfakes gerados pelo Grok.

O governo japonês sinalizou que, se a resposta da X for considerada insuficiente e os direitos dos cidadãos continuarem sendo violados, utilizará pela primeira vez a “Lei de IA”, em vigor desde setembro de 2025. A legislação permite que o governo investigue fornecedores de IA e emita ordens de orientação e aconselhamento para corrigir problemas, embora não preveja penalidades diretas. A ministra Onoda também fez um apelo público aos usuários, alertando que a falta de consciência no uso dessas ferramentas pode transformá-los em agentes de dano.

Acompanhe mais atualizações no Japão em Pauta.