A deputada trabalhista britânica Jess Asato entrou com uma ação judicial contra a xAI, empresa de inteligência artificial (IA) ligada a Elon Musk, após afirmar que a ferramenta Grok foi utilizada para criar imagens falsas e sexualizadas dela sem consentimento. O caso foi levado à Alta Corte de Londres e pode se tornar um marco para definir até que ponto empresas de IA podem ser responsabilizadas pelo conteúdo gerado por seus sistemas.

Asato, que representa o distrito de Lowestoft no Parlamento do Reino Unido, afirmou que tomou conhecimento das imagens em janeiro. Segundo ela, a ferramenta produziu representações suas usando biquíni sem autorização, algo que classificou como uma experiência “violadora”.

Ação judicial questiona responsabilidade da xAI

De acordo com informações apresentadas no processo, a deputada acusa a xAI de descumprir leis relacionadas à proteção de dados e ao uso indevido de informações privadas ao permitir que usuários utilizassem o Grok para criar esse tipo de conteúdo.

A ação sustenta que a empresa deveria ter adotado mecanismos de proteção para impedir a geração de imagens sexualizadas de pessoas reais sem consentimento.

Em entrevista ao Financial Times, Asato afirmou que, além das imagens em biquíni, a ferramenta também teria produzido um vídeo em que ela aparecia sendo cloroformizada e preparada para sofrer uma agressão sexual.

Segundo a parlamentar, o material começou a ser criado depois que ela criticou publicamente a produção de imagens sexualizadas não consensuais geradas por inteligência artificial.

“Minha esperança é que isso reequilibre os direitos dos indivíduos frente a empresas de tecnologia muito grandes que deveriam ter implementado salvaguardas antes de causar danos a mulheres e crianças”, declarou Asato ao Financial Times.

Caso semelhante já foi apresentado nos Estados Unidos

O processo movido por Jess Asato ocorre após uma ação semelhante apresentada no estado de Nova York por Ashley St Clair, mãe de um dos filhos de Elon Musk.

Ela alegou que o Grok também foi utilizado para criar imagens explícitas falsas envolvendo sua imagem. Entre os conteúdos citados na ação estaria uma representação em que ela aparecia menor de idade.

Para Ravi Naik, advogado que representa Asato, a discussão central do caso está na responsabilidade dos desenvolvedores pela forma como suas ferramentas são projetadas e disponibilizadas ao público.

“O princípio central deste caso é que os desenvolvedores devem responder pela maneira como projetam e implementam suas ferramentas”, afirmou o advogado ao Financial Times.

Governo britânico e regulador já investigaram o caso

O uso do Grok para gerar grandes quantidades de imagens sexualizadas de mulheres reais e, em alguns casos, de crianças, já havia provocado reações do governo britânico no início do ano.

Em janeiro, autoridades do Reino Unido ameaçaram adotar medidas contra a plataforma X após a circulação desse tipo de conteúdo. O órgão regulador de mídia Ofcom também abriu uma investigação sobre o assunto.

Inicialmente, a empresa de Musk informou que limitaria a criação dessas imagens a usuários pagantes da rede social. A medida foi criticada pelo primeiro-ministro Keir Starmer, que a classificou como “horrível”.

Poucos dias depois, o X anunciou que havia interrompido completamente a função que permitia ao Grok editar fotografias de pessoas reais para exibi-las usando roupas mais reveladoras.

Outros problemas envolvendo o Grok

O Grok também esteve envolvido em outro episódio de repercussão no Reino Unido. A ferramenta identificou incorretamente dois policiais de Hampshire como participantes da prisão de Henry Nowak.

Uma das profissionais citadas erroneamente foi Christi Hill, que trabalhou como policial por 12 anos. Segundo relatos, ela precisou se deslocar para um local seguro após passar a ser alvo de publicações na plataforma X.

Diversas postagens pediam que Hill e outro policial, também identificado de forma incorreta pela inteligência artificial, fossem localizados, presos ou até sofressem atos de violência.

O post Parlamentar britânica processa xAI de Elon Musk por imagens sexualizadas apareceu primeiro em Olhar Digital.