O lançamento recente de novos modelos de geração de imagens por grandes companhia de tecnologia, como OpenAI e Google fez aumentar o número de falsificações de comprovantes de despesas apresentadas por funcionários a suas empresas, segundo reportagem do Financial Times.

Em setembro, um montante de recibos analisados pela startup de contabilidade AppZen identificou 14% tinham sido falsificados com o uso de IA. Um ano antes, não havia registro desse tipo de fraude. Em um intervalo de 90 dias, a plataforma de automação financeira Ramp identificou mais de US$ 1 milhão em notas falsas.

Um levantamento da plataforma Medius, que também oferece soluções para administração de despesas, mostrou que cerca de 30% dos profissionais de finanças nos EUA e no Reino Unido notaram crescimento nas falsificações após o lançamento do GPT-4o, da OpenAI.

Imperceptível

Essas novas ferramentas quebram barreiras à falsificação, que antes exigia habilidades em edição de imagem ou o pagamento por esse tipo de serviço em sites especializados. Agora, é possível criar recibos falsos em segundos e de forma gratuita, bastando digitar instruções em um chatbot.

Apesar da OpenAI adotar medidas para evitar fraudes, como a inclusão de metadados que identificam imagens geradas pelo ChatGPT, plataformas apontaram um salto expressivo no número de recibos criados por IA após o lançamento do modelo aprimorado de geração de imagens da companhia em março.

O Financial Times verificou exemplos altamente realistas fornecidos por plataformas de controle de despesas, mostrando que a IA é capaz de simular recibos em papel amassado, com cardápios, assinaturas e outros detalhes autênticos.

“Esses recibos ficaram tão convincentes que dizemos aos nossos clientes: ‘não confiem em seus olhos’”, afirmou, ao FT, Chris Juneau, vice-presidente sênior da SAP Concur, uma das maiores plataformas de controle de despesas do mundo, que realiza mais de 80 milhões de verificações mensais com o uso de IA.

Preocupação atual

Sebastien Marchon, presidente da plataforma de gestão de despesas Rydo, também disse ao jornal que o aumento das fraudes já se tornou um problema e acredita que recibos irregulares forjados por IA tendem a crescer.

Em contrapartida, as empresas estão recorrendo a ferramentas também de inteligência artificial para identificar comprovantes fraudulentos, visto que a maioria é convincente demais para ser identificada por revisores humanos.

As ferramentas verificam metadados das imagens para identificar se foram criadas por IA. Por outro lado, especialistas alertam que o dado pode ser facilmente apagado quando o usuário tira uma foto ou faz uma captura de tela do recibo.

Para identificar falsificações, as empresas passaram a usar IA capaz de analisar não apenas metadados das imagens, mas também informações contextuais, como horários e nomes de servidores repetidos.

Segundo Calvin Lee, da Ramp, a tecnologia detecta detalhes que escapam aos revisores humanos. Uma pesquisa da SAP mostrou que 70% dos diretores financeiros acreditam que funcionários já usaram IA para falsificar despesas, e 10% afirmam ter certeza disso. Mason Wilder, da ACFE, alerta que os recibos criados por IA são um problema crescente: “Hoje, qualquer pessoa pode fazer isso — não é mais preciso saber usar o Photoshop.”