A União Europeia abriu nesta segunda-feira (26) uma nova frente de investigação contra o X (antigo Twitter) pelo caso da geração de imagens sexualizadas usando o Grok. A apuração busca determinar se a plataforma avaliou e mitigou de forma adequada os riscos associados ao chatbot, como manda a legislação europeia.

A abertura do processo vem poucos dias depois da Ofcom, órgão regulador de mídia do Reino Unido, iniciar uma investigação semelhante para determinar se as imagens sexualizadas violam a obrigação do X de proteger os cidadãos.

União Europeia abre investigação contra o X

Em comunicado, a Comissão Europeia afirmou que irá analisar se o X adotou medidas suficientes para proteger os consumidores europeus das funcionalidades do Grok que permitiram a geração das imagens sexualizadas. A lei que rege a atuação das grandes empresas de tecnologia no bloco é a Lei de Serviços Digitais (DSA).

A investigação ocorre em meio a protestos públicos e à reação de reguladores em diferentes países, alarmados com a disseminação de deepfakes de caráter sexual envolvendo mulheres e crianças.

No início do mês, autoridades europeias classificaram como ilegais e repugnantes as imagens compartilhadas na plataforma. De acordo com a agência Reuters, a chefe de tecnologia da UE, Henna Virkkunen, já havia afirmado que deepfakes sexuais não consensuais são “uma forma violenta e inaceitável de degradação”.

Segundo ela, a investigação vai apurar se a X cumpriu suas obrigações legais ou se tratou os direitos dos cidadãos europeus como “dano colateral” de seus serviços.

Outras investigações contra o Grok e X

O movimento da União Europeia não é o primeiro:

Há duas semanas, a Ofcom iniciou uma investigação por suspeitas de que o Grok estaria produzindo imagens sexualmente explícitas geradas por IA. O Olhar Digital deu detalhes aqui;

Com isso, o Reino Unido decidiu antecipar a entrada em vigor de leis que criminalizam a criação de deepfakes íntimos não consensuais;

Em meio à onda de disseminação das imagens, Indonésia, Filipinas e Malásia chegaram a bloquear temporariamente o Grok. A decisão foi revertida após a xAI, empresa responsável pelo chatbot, anunciar a adoção de medidas adicionais de segurança;

No Brasil, o Idec pediu ao governo a suspensão do Grok por violação de direitos de crianças, adolescentes e mulheres.

Medidas de restrição no Grok não foram suficientes

Como resposta às investigações, o X tem citado uma declaração publicada em 14 de janeiro, na qual informou que a xAI restringiu ferramentas de edição de imagens do Grok e passou a bloquear pedidos para gerar imagens de pessoas com roupas consideradas reveladoras em jurisdições onde esse tipo de conteúdo é ilegal. A empresa, no entanto, não detalhou em quais países o bloqueio está vigente.

Apesar de reconhecer avanços, a Comissão Europeia avalia que as ações não resolvem todos os problemas. Um alto funcionário do órgão afirmou que há indícios de que a xAI não realizou uma avaliação específica do impacto das funcionalidades do Grok ao lançá-las na Europa. Caso sejam confirmadas violações à DSA, o X pode ser multado em até 6% de seu faturamento anual global.

O caso também reacendeu o debate sobre a regulação de inteligência artificial no bloco. A eurodeputada Regina Doherty afirmou que o episódio expõe fragilidades na aplicação das regras atuais e defendeu que a Lei de IA da União Europeia permaneça flexível e adaptável. Segundo ela, eventuais lacunas de supervisão precisam ser corrigidas rapidamente quando danos graves se tornam evidentes.

O post Caso Grok: União Europa inicia investigação oficial contra o X apareceu primeiro em Olhar Digital.