Golpistas na China estão usando imagens geradas por IA para obter reembolsos

Não quero admitir, mas gastei muito dinheiro online nesta temporada de compras natalinas. E, sem surpresa, algumas dessas compras não atenderam às minhas expectativas. Um álbum de fotos que comprei foi danificado durante o transporte, então tirei algumas fotos, enviei-as por e-mail ao comerciante e recebi um reembolso. As plataformas de compras online dependem há muito tempo de fotos enviadas pelos clientes para confirmar se os pedidos de reembolso são legítimos. Mas IA generativa agora está começando a quebrar esse sistema.

Uma pitada muito suspeita

Sobre os chineses aplicativo de mídia social RedNotea WIRED encontrou pelo menos uma dúzia de postagens de vendedores de comércio eletrônico e representantes de atendimento ao cliente reclamando de solicitações de reembolso supostamente geradas por IA que receberam. Em um caso, um cliente reclamou que o lençol que comprou estava rasgado, mas os caracteres chineses na etiqueta de remessa pareciam sem sentido. Em outra, o comprador enviou a foto de uma caneca de café com rachaduras que pareciam rasgos de papel. “Este é um copo de cerâmica, não de papelão. Quem poderia rasgar um copo de cerâmica em camadas como esta?” o vendedor escreveu.

Os comerciantes relataram que existem algumas categorias de produtos em que as fotos de danos geradas por IA são mais abusadas: mantimentos frescos, produtos de beleza de baixo custoe itens frágeis, como xícaras de cerâmica. Os vendedores muitas vezes não pedem aos clientes que devolvam esses produtos antes de emitir um reembolso, o que os torna mais propensos a fraudes de devolução.

Em novembro, uma comerciante que vende caranguejos vivos no Douyin, a versão chinesa do TikTok, recebeu uma foto de um cliente que fazia parecer que a maioria dos caranguejos que ela comprou já haviam chegado mortos, enquanto outros dois haviam escapado. O comprador ainda enviou vídeos mostrando os caranguejos mortos sendo picados por um dedo humano. Mas algo estava errado.

“Minha família cria caranguejos há mais de 30 anos. Nunca vimos um caranguejo morto cujas pernas estivessem apontando para cima”, disse Gao Jing, a vendedora, em um vídeo que postou posteriormente no Douyin. Mas o que acabou revelando a fraude foram os sexos dos caranguejos. Havia dois homens e quatro mulheres no primeiro vídeo, enquanto o segundo clipe tinha três homens e três mulheres. Um deles também tinha nove pernas em vez de oito.

Mais tarde, Gao denunciou a fraude à polícia, que determinou que os vídeos foram de facto fabricados e deteve o comprador durante oito dias, de acordo com um aviso policial que Gao partilhou online. O caso atraiu ampla atenção nas redes sociais chinesas, em parte porque foi o primeiro golpe conhecido de reembolso de IA desse tipo a desencadear uma resposta regulatória.

Reduzindo Barreiras

Este problema não é exclusivo da China. A Forter, uma empresa de detecção de fraudes sediada em Nova York, estima que as imagens manipuladas por IA usadas em pedidos de reembolso aumentaram mais de 15% desde o início do ano e continuam a aumentar globalmente.

“Essa tendência começou em meados de 2024, mas acelerou no ano passado, à medida que as ferramentas de geração de imagens se tornaram amplamente acessíveis e incrivelmente fáceis de usar.” diz Michael Reitblat, CEO e cofundador da Forter. Ele acrescenta que a IA não precisa acertar tudo, pois os funcionários do varejo da linha de frente e as equipes de revisão de reembolsos podem não ter tempo para examinar minuciosamente cada imagem.