A Indonésia anunciou neste sábado (10) que vai bloquear temporariamente o acesso ao Grok, chatbot de inteligência artificial desenvolvido pela xAI e que funciona integrado ao X (antigo Twitter). O país é o primeiro a restringir oficialmente o uso da ferramenta, citando riscos relacionados à geração de conteúdo pornográfico.
A decisão vem após denúncias de que o Grok gerou imagens sexualizadas sem consentimento, incluindo de mulheres e crianças.
Indonésia bloqueou o Grok
Em comunicado obtido pela agência Reuters, Meutya Hafid, Ministra da Comunicação e Assuntos Digitais da Indonésia, justificou a decisão de bloquear o Grok no país:
O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital.
Meutya Hafid, Ministra da Comunicação e Assuntos Digitais da Indonésia
O ministério também convocou funcionários do X para discutir o assunto.
Vale lembrar que a Indonésia é o país com a maior população muçulmana do mundo e possui regras rígidas que proíbem o compartilhamento online de conteúdo considerado obsceno.
Imagens sexualizadas, investigação internacional e limitações no uso do Grok
Conforme reportado pelo Olhar Digital, o Grok começou a ser usado por usuários para criar imagens sexualizadas, incluindo a geração de conteúdos de mulheres e crianças nuas e de biquíni. A Internet Watch Foundation alertou que a ferramenta de IA estaria sendo citada como um recurso para gerar conteúdos de abuso sexual infantil.
Até a escritora e estrategista política Ashley St. Clair, mãe de um dos filhos de Elon Musk, afirmou ter sido alvo em um caso deste tipo, em que usuários usaram sua imagem para criar conteúdos sexualizados.
As denúncias geraram pressão sobre o X e a xAI, ambas empresas de Musk. Autoridades e reguladores de diferentes regiões, incluindo do Reino Unido e da União Europeia, abriram investigações sobre o caso.
Como resposta, a xAI começou a limitar quem pode gerar imagens no chatbot, passando a exigir a assinatura do plano pago. No entanto, o site The Verge descobriu que a restrição não é bem o que parece e é possível driblar essa limitação. Veja os detalhes neste link.
O que dizem Elon Musk e a xAI?
Com a repercussão negativa, Elon Musk e a xAI afirmaram que podem tomar medidas contra internautas que produzirem conteúdo ilegal;
A estratégia tem sido questionada por especialistas, já que foca em punições posteriores em vez de implementar barreiras técnicas que impeçam a criação desse tipo de material em primeiro lugar;
A Reuters entrou em contato com a xAI para comentários sobre a proibição na Indonésia. A empresa respondeu com uma resposta que pareceu ser automática e dizia apenas: “A mídia tradicional mente”, sem mais detalhes.
O post Este país decidiu bloquear o Grok após a geração de imagens sexualizadas apareceu primeiro em Olhar Digital.
