A rede social X, controlada por Elon Musk, passou a enfrentar uma mobilização inédita de autoridades brasileiras após a circulação em massa de imagens sexuais geradas pelo Grok, ferramenta de inteligência artificial (IA) integrada à plataforma que antes se chamava Twitter. As informações foram reveladas pela newsletter Radar Big Tech, do UOL, que teve acesso a documentos internos sobre as medidas em análise no país.
O caso ganhou repercussão depois que usuários identificaram que a IA conseguia gerar imagens em que roupas de pessoas reais eram substituídas por trajes íntimos, prática conhecida como “deepnude”, associada a um tipo de deepfake. Em menos de dez dias, mais de 3 milhões de imagens desse tipo se espalharam pela internet, segundo os dados reunidos pela publicação.
União de órgãos públicos e primeiras exigências ao X
No Brasil, a resposta passou a ser coordenada pelo Ministério Público Federal (MPF), pela Secretaria Nacional do Consumidor (Senacon) e pela Agência Nacional de Proteção de Dados (ANPD). Em meados de janeiro, segundo a newsletter, os três órgãos emitiram uma recomendação conjunta ao X para interromper imediatamente a geração de conteúdos sexualizados e adotar medidas para localizar e remover as imagens já produzidas.
Entre as exigências, também constariam a remoção de contas responsáveis pelos conteúdos irregulares e a criação de um canal de denúncia online para que vítimas possam sinalizar o uso indevido de suas imagens.
Relatório detalha punições possíveis
Um documento ao qual a Radar Big Tech teve acesso mostra que as autoridades informaram ao X sobre a possibilidade de aplicar sanções caso as determinações não sejam cumpridas. O relatório lista dispositivos legais que permitem desde advertências e multas até a suspensão temporária ou proibição das atividades da plataforma no Brasil.
As penalidades citadas incluem medidas previstas no Marco Civil da Internet, no Código de Defesa do Consumidor (CDC) e na Lei Geral de Proteção de Dados (LGPD). Entre elas, estão multas que podem chegar a 10% do faturamento no país, bloqueio parcial ao acesso a dados de usuários brasileiros e até a interrupção do serviço.
Prazo de 30 dias e resposta sob sigilo
O X respondeu dentro do prazo inicial estabelecido pelos órgãos, o que impediu a aplicação imediata das sanções. No entanto, a resposta permanece sob sigilo, a pedido da empresa, segundo a newsletter.
Agora, corre um novo prazo de 30 dias para que a plataforma consiga localizar e remover os “deepnudes” já existentes. Caso isso não ocorra, as punições descritas no relatório podem voltar a ser analisadas pelas autoridades.
Possível investigação internacional
O documento obtido pela Radar Big Tech também aponta que imagens sexualizadas de crianças são classificadas como material de abuso sexual infantil (CSAM). Como empresa sediada nos Estados Unidos, o X teria obrigação legal de reportar esses casos ao NCMEC (Centro Nacional para Crianças Exploradas e Desaparecidas).
O comitê intersetorial informou ter solicitado à Polícia Federal que apure se os casos foram devidamente comunicados. Caso contrário, o órgão brasileiro poderá informar o Departamento de Justiça dos EUA e o FBI sobre uma possível infração à legislação federal norte-americana.
Leia mais:
O que é o hiperfoco? Entenda a relação disso com os memes no TikTok e X (ex-Twitter)
Grok: como acessar e usar a inteligência artificial do X (antigo Twitter)
X (Twitter): como ver minhas sessões ativas e sair delas
Histórico recente no Brasil
A plataforma já enfrentou suspensão no Brasil em 2024, quando ficou 38 dias fora do ar por decisão do ministro Alexandre de Moraes, do STF. Na ocasião, a medida foi aplicada por descumprimento de exigências judiciais e ausência de representante legal no país.
Diferentemente daquele episódio, o caso atual envolve diretamente o uso de inteligência artificial e proteção de dados, com processos paralelos conduzidos por ANPD, MPF e Senacon, cada um com regras e prazos próprios para apuração e eventual punição.
O post X entra na mira de autoridades no Brasil por imagens sexuais do Grok apareceu primeiro em Olhar Digital.
