O avanço das ferramentas de inteligência artificial criou um cenário em que a aparência de autenticidade é tão convincente que a simples percepção do usuário já não basta para diferenciar conteúdo verdadeiro de fraude. Um levantamento realizado pela empresa de segurança McAfee revela que o problema dos golpes com o uso de deepfakes — técnica que possibilita alterar um vídeo ou imagem com auxílio de inteligência artificial (IA) — é extremamente alarmante.

Resultados da pesquisa

46% dos norte-americanos já se depararam com algum tipo de golpe apoiado por IA durante compras na internet.

Entre eles, 39% afirmam que os vídeos adulterados se tornaram significativamente mais complexos, dificultando a identificação. 

A pesquisa mostra ainda que um em cada cinco consumidores nos EUA já foi vítima de fraudes durante períodos festivos, com prejuízo médio de US$ 840 (cerca de R$ 4,5 mil) por pessoa.

Apesar de 38% dos entrevistados acreditarem que são capazes de reconhecer uma investida criminosa, 22% admitiram ter sido enganados em algum momento.

Os números também apontam uma escalada impressionante: somente nos EUA, desde 2024, o volume de deepfakes usados em golpes no país cresceu 1.740%.

Leia mais:

Este novo recurso usa IA para identificar deepfakes

Real ou deepfake? Veja como identificar se uma imagem foi gerada por inteligência artificial

O truque de cinco minutos para descobrir deepfakes feitos por IA

Deepfake envolvendo a Taylor Swift

A McAfee destacou em seu YouTube um dos episódios mais emblemáticos e recentes, o qual envolveu a cantora Taylor Swift, cantora e compositora muito bem sucedida no mundo da música.

Criminosos utilizaram uma montagem digital da artista para promover falsamente a distribuição gratuita de panelas da marca Le Creuset — item que ela realmente aprecia — explorando a confiança dos fãs e o apelo da celebridade.

No vídeo abaixo, a McAfee, demonstrou uma detecção avançada de áudio deepfake para identificar golpe de Taylor Swift gerado por meio de inteligência artificial.

O mecanismo dessas fraudes costuma seguir um padrão conhecido. As imagens e vídeos manipulados direcionam o público para páginas falsas que simulam sites, logins e formulários de pagamento legítimos, muitas vezes alterando apenas detalhes mínimos, como um traço ou vírgula no endereço. É o phishing em sua forma mais moderna — e mais difícil de detectar.

Como detectar uma deepfake

A detecção de uma deepfake é uma tarefa um tanto complicada, mas por meio de análise em relação a textura de uma imagem ou detalhes sobre palavras desconexas, além de um exercício de observação pode ajudá-lo a constatar se um determinado vídeo ou foto na verdade trata-se de uma tentativa de golpe.

O post Deepfakes impulsionadas por IA disparam 1.740% e tornam golpes praticamente imperceptíveis apareceu primeiro em Olhar Digital.