Tempestade de fakes: vídeos de IA enganam usuários sobre furacão Melissa

As notícias sobre o furacão Melissa, que chegou à categoria 5 e atingiu a Jamaica nesta terça-feira (28), com ventos intensos e chuvas fortes, estão sendo acompanhadas por uma enxurrada de vídeos gerados por inteligência artificial (IA). O material, que circulou amplamente nas redes sociais nesta segunda-feira (27), acabou desviando a atenção do público de informações de segurança essenciais sobre o fenômeno.

Segundo a AFP, dezenas de vídeos falsos — muitos marcados com a marca d’água do modelo Sora, da OpenAI — inundaram as plataformas no momento em que o país caribenho se preparava para o impacto da tempestade. As imagens apresentavam desde supostos noticiários e cenas de enchentes até montagens com tubarões em ruas alagadas e retratos de sofrimento humano.

Muitos dos vídeos identificados tinham a marca d’água do Sora, IA geradora de vídeos da OpenAI (Imagem: Photo For Everything / Shutterstock.com)

Falsos vídeos do furacão Melissa e estereótipos

Algumas das produções mostravam moradores locais com acentos jamaicanos exagerados, retratados em festas ou passeios de barco, minimizando o risco do furacão. O conteúdo, embora falso, teve grande alcance nas redes, o que levou autoridades a reforçarem alertas sobre as fontes oficiais de informação.

A ministra da Informação da Jamaica, Dana Morris Dixon, afirmou durante coletiva que o governo tem monitorado a circulação das falsificações. “Estou em vários grupos de WhatsApp e vejo esses vídeos chegando. Muitos deles são falsos”, disse Dixon. “Pedimos que as pessoas acompanhem apenas os canais oficiais.”

Pesquisadores alertam que mesmo vídeos aparentemente inofensivos podem ofuscar alertas de emergência ou levar a população a subestimar o perigo. “Esse é um evento climático de grande magnitude, e o conteúdo falso reduz a seriedade das mensagens do governo sobre a necessidade de preparação”, disse à AFP Amy McGovern, professora de meteorologia da Universidade de Oklahoma. Segundo ela, a proliferação de fakes pode “eventualmente causar perda de vidas e danos materiais”.

Leia mais:

Como são feitos os testes para prever a força de um furacão?

É possível um furacão se formar no Brasil?

Os 5 maiores (e piores) furacões da história

Propagação nas redes sociais

A AFP identificou que a maior parte dos vídeos circulava no TikTok, onde apenas parte do conteúdo tinha rótulos indicando uso de IA — algo exigido pela política da plataforma. Após o alerta, o aplicativo removeu mais de duas dezenas de vídeos e perfis que os publicavam. Casos semelhantes também foram encontrados no Facebook e Instagram, que possuem regras semelhantes sobre transparência em vídeos fotorrealistas gerados por inteligência artificial.

A maioria dos vídeos falsos criados por IA do furacão foram localizados no TikTok, mas também circulavam em redes como Instagram e Facebook, da Meta (Imagem: Sidney de Almeida/Shutterstock)

De acordo com Hany Farid, cofundador da empresa de cibersegurança GetReal Security e professor da Universidade da Califórnia em Berkeley, a situação mostra como os novos modelos de texto para vídeo “aceleraram a disseminação de falsificações convincentes”.

Os vídeos analisados mostravam pessoas reagindo às imagens como se fossem reais. Em um dos comentários, um usuário do TikTok escreveu: “Deus, por favor, proteja a casa e a mangueira do meu avô”, referindo-se a um vídeo de um idoso enfrentando o furacão. Outro pedia atualizações sobre o estado da propriedade.

Para Farid, o caso exemplifica um dos dilemas atuais da era digital: “O paradoxo da era da informação é que nos tornamos menos informados à medida que a quantidade de informação aumenta”, afirmou à AFP.

O post Tempestade de fakes: vídeos de IA enganam usuários sobre furacão Melissa apareceu primeiro em Olhar Digital.