O governo federal e o Ministério Público Federal (MPF) concluíram que o X não comprovou ter adotado medidas eficazes para conter a criação e a disseminação de imagens eróticas geradas pelo Grok, ferramenta que adultera fotos sem consentimento, conforme informações do g1.
Segundo as autoridades, as informações apresentadas pela empresa “não foram acompanhadas de evidências concretas” e testes indicam que ainda é possível gerar e compartilhar imagens sexualizadas sem autorização.
O caso está sob análise da Agência Nacional de Proteção de Dados (ANPD), do MPF e da Secretaria Nacional do Consumidor (Senacon).
Desde o fim do ano passado, milhares de denúncias surgiram em diversos países relatando que a ferramenta atende a pedidos de usuários para modificar imagens publicadas por mulheres nas redes sociais, fazendo com que elas apareçam nuas ou de biquíni, por exemplo. Ao menos duas brasileiras afirmam ter sido vítimas desses deepfakes.
X não cumpre o que lhe foi ordenado
Em 20 de janeiro, ANPD, MPF e Senacon recomendaram que o X impedisse esse tipo de adulteração feita pelo Grok;
A plataforma, que pertence ao bilionário Elon Musk, informou ter removido milhares de publicações com essas imagens e suspendido centenas de contas por violação de suas políticas;
No entanto, a avaliação das autoridades brasileiras foi de que as informações fornecidas pela empresa “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”;
De acordo com os órgãos, testes realizados por suas equipes técnicas indicaram que a rede social ainda permite a geração e o compartilhamento, sem consentimento, de imagens sexualizadas ou erotizadas envolvendo crianças, adolescentes e adultos.
O MPF afirmou que a empresa não foi transparente e determinou que o X apresente relatórios mensais detalhando sua atuação para evitar a produção desse tipo de conteúdo. A ANPD também exigiu que a plataforma enumere as providências adotadas para solucionar o problema e apresente evidências passíveis de verificação pelas autoridades.
Leia mais:
X: como se proteger contra invasões hackers
X (Twitter): como ver minhas sessões ativas e sair delas
BBB de robôs e a normalização do absurdo
Novo prazo para o X
A ANPD e a Senacon estabeleceram um novo prazo de cinco dias úteis para que o X aprimore e implemente medidas capazes de impedir que o Grok crie esse tipo de conteúdo. As ações adotadas deverão ser explicadas dentro desse período. O ofício não informa quando a contagem do prazo teve início.
Caso a determinação não seja cumprida, a empresa poderá sofrer sanções mais severas, incluindo multas. Os envolvidos também podem responder pelo crime de desobediência. O MPF ainda poderá aprofundar as investigações, o que pode resultar em ação judicial para reparação de eventuais danos causados pela criação das imagens.
Investigações na Europa
A atuação do X também é alvo de apurações na Europa. No dia 3 deste mês, foram realizadas buscas nos escritórios da empresa na França a mando do Ministério Público de Paris e pela polícia francesa, no âmbito de uma investigação preliminar que apura supostos crimes, entre eles a disseminação de pornografia infantil e de deepfakes.
A adulteração de imagens pelo Grok também está sendo investigada no Reino Unido e na União Europeia.
O Grok é desenvolvido pela xAI também de Musk. No início do mês, o empresário anunciou a fusão da xAI com a SpaceX, companhia do setor aeroespacial que também lhe pertence. A operação deverá criar um negócio trilionário. A SpaceX deve estrear na bolsa de valores de Nova York ainda neste ano.
O post X não comprovou ter agido contra erotização do Grok, dizem governo e MPF apareceu primeiro em Olhar Digital.
