Recentemente, políticos da França e Índia denunciaram o comportamento da inteligência artificial do X, o Grok, após o chatbot gerar conteúdo sexualmente explícito. Em um comunicado a promotores, ministros relataram que as mídias eram de cunho “sexual e sexista” e “ilegais“.
Como qualquer chatbot alimentado IA, o Grok recebe comandos por textos, enviados pelos usuários do X, os quais devem ser executados. Contudo, uma brecha nos códigos do Grok permitia que as fotos postados na rede fossem digitalmente alteradas para contextos obscenos.
O jornal Reuters entrevistou a brasileira Julie Yukari, de 31 anos, que mora no Rio de Janeiro. Ela conta ao periódico que postou uma foto na véspera de ano-novo que a mostrava de vestido, deitada na cama. Alguns usuários que visualizaram o post, contudo, solicitaram ao Grok que a deixassem apenas de biquíni, um pedido que a inteligência artificial de Elon Musk executou.
Ainda segundo a Reuters, o Grok divulgou um esclarecimento público, informando que problemas no código-fonte da IA permitiu que “imagens de menores com roupas íntimas” fossem retratadas, mas que as devidas melhoras já estavam sendo feitas para resolver o problema.
Para quem tem pressa:
Políticos da Índia e França denunciaram publicamente o comportamento do Grok, inteligência artificial de Elon Musk que funciona na rede social X, que gerou imagens obscenas de mulheres;
As mentes por trás do Grok utilizaram a plataforma para informar que os erros no software já passam por correção;
Dentre as principais vítimas, destacam-se crianças e mulheres.
Leia mais:
IA faz chantagem e ameaça contar sobre traição de engenheiro
IA do mal? Gemini ofende usuário e pede que ele morra
O lado obscuro da IA: o perigo invisível dos dados contaminados
França e Índia contra os problemas técnicos no X
Os ministros franceses que denunciaram o Grok pela geração de conteúdo sexualmente explícito também contataram o Arcom: o órgão francês de regulação de conteúdos digitais e audiovisuais. Assim, o estas autoridades devem verificar a conformidade dos conteúdos gerados com a Lei de Serviços Digitais da União Europeia.
Noutro continente, a Índia entrou em ação e exigiu que o X de Elon Musk trabalhasse imediatamente para mudar as normas técnicas e processuais que permitiram esta brecha no código-fonte do Grok.
Consoante as informações compartilhadas pelo TechCrunch, o Ministério de TI indiano instruiu que o X restringisse a geração de conteúdo digital que envolva “nudez, sexualização, material sexualmente explícito e/ou outras manifestações ilegais.“
Além da ordem, o ministério também exigiu que a plataforma enviasse um relatório detalhado com as ações tomadas para corrigir as falhas que permitiram a disseminação de conteúdos considerados “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo, ou de outra forma proibida por lei.”
O X detinha 72 horas para entregar o relatório; do contrário, a rede social arriscaria ficar de fora da lei ‘porto seguro’, expedida pela Índia. Resumidamente, é uma lei que impede uma plataforma (neste caso, o X) de pagar pelos erros/crimes cometidos pelos seus usuários. Caso o X ficasse de fora, seria responsabilizada pelos crimes digitais cometidos pelos internautas.
Das vítimas que tiveram as imagens alteradas, a maioria são mulheres. Esse detalhe pode ter influenciado na reclamação formal emitida pela parlamentar Priyanka Chaturvedi, que escreveu em seu perfil no X a sua insatisfação quanto ao comportamento obsceno dos usuários.
No mesmo ritmo, o repúdio do governo francês segue a mesma denúncia, incluindo, ainda, o fato de que crianças também estão entre as vítimas, como publicado na Bloomberg.
O post França e Índia denunciam Grok de Elon Musk por gerar conteúdo sexual no X apareceu primeiro em Olhar Digital.
