A inteligência artificial oferece uma série de benefícios para empresas, pesquisas e pessoas, mas também contribui para disseminar discursos de ódio e mentiras, manipular vídeos e áudios e implementar os mais diferentes golpes.
Para reduzir o impacto negativo que a IA pode trazer, pesquisadores da UC Riverside e cientistas do Google criaram um sistema que identifica modificações, como troca de rostos e fala alterada.
Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering, e Amit Roy-Chowdhury, professor de engenharia elétrica e computação e codiretor do Instituto de Pesquisa e Educação em Inteligência Artificial (RAISE) na mesma instituição, junto com a equipe do Google, criaram o Universal Network for Identifying Tampered and SynthEtic Videos (UNITE).
O sistema examina rostos, quadros de vídeo, como fundos e padrões de movimento, para detectar vídeos adulterados que não se limitam unicamente à troca de rostos.
As deepfakes evoluíram, não se limitando mais a trocas de rostos. As pessoas estão criando vídeos totalmente falsos, de rostos e locais, utilizando modelos generativos poderosos.
Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering.
Inteligência artificial torna a criação de vídeos cada vez mais fácil
Os sistemas de inteligência artificial generativa disponíveis atualmente tornam a criação de vídeos acessível para todos os usuários, permitindo o desenvolvimento de conteúdos manipulados, altamente convincentes.
É assustador como essas ferramentas se tornaram acessíveis. Qualquer pessoa com habilidades moderadas pode gerar vídeos realistas de figuras públicas dizendo coisas que nunca disseram e contornar filtros de segurança.
Rohit Kundu, doutorando na UC Riverside Marlan and Rosemary Bourns College of Engineering
Kundu explica que detectores de deepfake só conseguem detectar manipulações quase exclusivamente em sinais faciais, não identificando mudanças no fundo de uma cena que também podem distorcer a verdade.
O UNITE, para superar esse obstáculo, usa um modelo de aprendizado profundo que detecta inconsistências espaciais e temporais sutis.
Esse modelo utiliza uma estrutura conhecida como SigLIP, que utiliza características não vinculadas a uma pessoa ou objeto específico para analisar possíveis manipulações em vídeo.
Detector universal de falsificações
O resultado é um sistema capaz de sinalizar as mais diferentes falsificações, desde trocas faciais simples até produções mais complexas e não baseadas em filmagens reais.
A arquitetura, metodologia e descobertas foram apresentadas durante a Conferência sobre Visão Computacional e Reconhecimento de Padrões (CVPR) e contou com a coautoria de Hao Xiong, Vishal Mohanty e Athula Balachandra, pesquisadores do Google.
A parceria permitiu acesso a grandes conjuntos de dados e recursos computacionais para treinar o modelo de inteligência artificial, incluindo vídeos gerados a partir de texto ou imagens estáticas, que são formatos que normalmente confundem os detectores de fraudes existentes.
Leia mais:
Marcas d’água não são suficientes contra deepfakes, diz estudo
Por que IA é o pesadelo e a esperança da cibersegurança
Avanço da IA depende da nossa capacidade de enfrentar a crise da verdade
Como identificar deepfakes
Enquanto o sistema não está disponível para os usuários, há maneiras que ajudam a identificar deep fakes:
Preste atenção aos detalhes no rosto, como mudanças no tom da pele, sombras e rugas
Fique atento às expressões, principalmente movimentos bruscos e não naturais
Observe o movimento dos olhos, como piscadas em exagero ou com baixa frequência
Analise o movimento do corpo para identificar movimentos mecanizados
Foque na sincronia entre o movimento dos lábios e as palavras
O post Saiba como a inteligência artificial pode ajudar a identificar vídeos falsos apareceu primeiro em Olhar Digital.
