A plataforma ultrarrealista de troca de rosto com IA que gera golpes românticos

O artificial da língua chinesa o aplicativo de inteligência Haotian é tão eficaz que ganhou milhões de dólares vendendo sua tecnologia de troca de rosto em Telegrama. O serviço integra-se facilmente com plataformas de mensagens como WhatsApp e WeChat e afirma que os usuários podem ajustar até 50 configurações – incluindo a capacidade de ajustar coisas como tamanho das maçãs do rosto e posição dos olhos – para ajudar a imitar o rosto que estão representando. Mas embora o Haotian seja uma plataforma robusta e versátil, os pesquisadores e a própria análise da WIRED descobriram que o serviço tem sido comercializado para o chamado “abate de porcos” golpistas e aqueles que executam operações fraudulentas online no Sudeste Asiático.

Os golpistas usaram Haotian e outras ferramentas deepfake para fundamentar mais facilmente seus enganos, permitindo que as vítimas “conversem por vídeo” com o personagem com quem acreditam estar conversando como parte de uma oportunidade de investimento, amizade ou até mesmo relacionamento romântico. A análise realizada pela empresa de rastreamento de criptomoedas Elliptic de quatro carteiras de criptomoedas vinculadas ao Haotian mostra que a empresa recebeu pelo menos US$ 3,9 milhões em pagamentos nos últimos anos, incluindo dinheiro de carteiras de criptomoedas vinculadas a supostas atividades criminosas, incluindo fraude. Além disso, quase metade de seus pagamentos estavam vinculados a uma fraude mercado sancionado pelo governo dos EUA, diz Elliptic.

Hieu Minh Ngo, um hacker criminoso reformado que se tornou investigador de crimes cibernéticos na organização sem fins lucrativos vietnamita ChongLuaDao, diz que o Haotian, que surgiu por volta de 2021, foi “um dos primeiros desse tipo e muito popular”. Ngo conduziu uma extensa pesquisa sobre Haotian e suas operações. “Seus resultados são quase perfeitos”, diz ele. “E eles estão cada vez melhores a cada dia. Se você verificar a carteira criptografada, verá o dinheiro entrando todos os dias.”

Haotian é apenas uma parte do ecossistema tecnológico mais amplo que surgiu em torno do Sudeste Asiático crescendo indústria do crime cibernético e compostos fraudulentos de trabalho forçado. E à medida que a troca de rostos e outras ferramentas de vídeo deepfake se tornaram mais amplamente disponíveis, elas foram cada vez mais incorporadas em fraudes e outros tipos de crimes cibernéticos em todo o mundo. Nos últimos dois anos, funcionários que trabalham para o Escritório das Nações Unidas sobre Drogas e Crime identificaram mais de 10 ferramentas de troca de rosto potencialmente usadas por cibercriminosos no Sudeste Asiático, inclusive para fraudes com criptomoedas e personificação de policial.

Haotian tem um site para sua ferramenta de troca de rosto, mas promove principalmente seu aplicativo para desktop por meio de um canal público do Telegram, lançado em outubro de 2023, de acordo com a pesquisa de Ngo. Por meio desse canal, que já conta com mais de 20 mil assinantes, a empresa comercializa novas versões do aplicativo, atualiza o desenvolvimento e oferece suporte técnico. Embora o software de marketing através do Telegram não seja inerentemente nefasto, os pesquisadores dizem que a base de clientes de Haotian tem aumentado cada vez mais. distorcido para golpistas que já buscam informações sobre um variedade de serviços do mercado cinza no aplicativo de mensagens.

O Telegram se recusou a comentar. No entanto, depois que a WIRED entrou em contato com a empresa, o principal canal público do Haotian Telegram e algumas contas associadas tornaram-se inacessíveis ou pareciam ter sido excluídas. O Telegram não retornou um pedido de comentário sobre se a empresa retirou essas contas do ar.