A inteligência artificial, obviamente, traz diversos benefícios para usuários e empresas. Mas seria ingenuidade acreditar que ela seria usada apenas para o bem. Segundo matéria do The New York Times, empresas estão sendo enganadas por seus próprios funcionários, que utilizam modelos de IA para gerar falsos recibos de despesas.
O problema tomou tamanha proporção que as companhias estão atualizando seus sistemas para detectar quando os recibos foram criados por chatbots de IA, como o ChatGPT ou o Gemini.
Fraude causada pela IA, mas não por culpa dela
O problema surgiu logo após o lançamento de ferramentas capazes de gerar imagens realistas. O CEO da AppZen, Anant Kale, explica que começou a ver nas redes sociais diversos tutoriais ensinando como criar recibos falsos e percebeu o quanto era fácil.
Por isso, a empresa (responsável por auditar relatórios de despesas corporativas) começou a desenvolver ferramentas específicas para identificar recibos gerados por IA. Outras plataformas seguiram o mesmo caminho, como a SAP Concur.
Os recibos gerados por IA só vão melhorar a partir de agora. [Por isso] para combater a IA fraudulenta, precisamos também usar a inteligência artificial.
Nicolas Ritz, desenvolvedor de produtos na Navan, empresa de software de viagens corporativas, ao The New York Times.
A AppZen detectou casos em que funcionários de seus clientes enviaram recibos de hotéis e passagens aéreas em cidades que nunca visitaram, todos criados por IA. Segundo a empresa, cerca de 30% dos recibos fraudulentos identificados atualmente foram gerados por chatbots, e o número total de fraudes aumentou 30% desde maio de 2024.
IA contra IA: um jogo de gato e rato
Mason Wilder, diretor de pesquisa da Association of Certified Fraud Examiners, comentou ter ouvido de especialistas “que a IA está resultando diretamente não apenas no aumento desse tipo de fraude, mas também tornando-o mais difícil de detectar.”
Leia mais:
AI World Models: o que é o próximo passo da inteligência artificial?
Carta aberta de famosos e cientistas pede proibição da superinteligência artificial
Como a China pode usar IA da DeepSeek em futuras guerras
A matéria explica que os chatbots deixam uma impressão digital nos metadados das imagens, mas esse rastro desaparece quando alguém faz uma captura de tela ou tira uma foto do recibo.
Para contornar esse desafio, as plataformas de auditoria estão desenvolvendo novos métodos. Os algoritmos comparam recibos suspeitos com versões reais do mesmo fornecedor, analisando detalhes imperceptíveis aos olhos humanos, como espaçamento entre letras ou formatação.
Além disso, sistemas como o da AppZen cruzam padrões de comportamento dos funcionários (como horários de envio e histórico de gastos) aplicando uma segunda camada de auditoria para identificar indícios do uso de IA. Isso inclui, por exemplo, quando o chatbot repete o mesmo nome de garçom ou o mesmo prato em diferentes recibos.
Não existe uma única técnica capaz de detectar esses recibos. Tem que ser em camadas e mais camadas. É um jogo de gato e rato.
Anant Kale, CEO da AppZen, ao The New York Times.
Como as empresas estão tentando conter a fraude com IA
Análise de metadados e padrões gráficos das imagens.
Cruzamento de dados de fornecedores e horários de envio.
Sistemas automatizados de aprendizado profundo para auditoria.
Identificação de repetições e anomalias em recibos suspeitos.
O post Fraudes com recibos gerados por inteligência artificial disparam nas empresas apareceu primeiro em Olhar Digital.
