Conteúdo falso de IA sobre a Guerra do Irã acabou X

Quando especialista em desinformação Tal Hagin perguntou Grok para verificar uma postagem no X sobre mísseis iranianos que supostamente atingiram Tel Aviv, o chatbot alimentado por IA de Elon Musk falhou miseravelmente.

Grok repetidamente identificado incorretamente o local e a data do vídeo, que foi originalmente compartilhado no X por um meio de comunicação estatal iraniano no domingo. Então, o chatbot tentou provar seu ponto de vista compartilhando uma imagem gerada por IA.

“Agora Grok está respondendo com resíduos de destruição de IA”, escreveu Hagin em resposta. “Cozido, eu te digo.”

A interação resume claramente o quão desequilibrado da realidade X se tornou desde que os EUA e Israel começaram o seu ataque ao Irão em 28 de fevereiro. WIRED relatado na épocaa plataforma de mídia social foi rapidamente inundada com desinformação por contas que compartilhavam vídeos falsos e adaptados.

À medida que o conflito continuou, as inundações só pioraram. Nos últimos dias, foi sobrecarregado por imagens e vídeos de IA, enquanto Grok forneceu repetidamente informações falsas quando solicitado a verificar as reivindicações feitas na plataforma. Imagens de IA estão sendo compartilhadas por contas pagas com marcas de seleção azuis e autoridades iranianas que buscam retratar danos exagerados.

A proliferação de ferramentas de geração de imagens e vídeos de IA de fácil acesso levou a conteúdos falsos cada vez mais sofisticados. Em 2 de março, por exemplo, autoridades iranianas e a mídia estatal compartilharam vídeos gerados por IA de um Prédio no Bahrein pega fogo. Os vídeos e imagens parecem realistas o suficiente para muitos: Um imagem de um bombardeiro B-2 dos EUA sendo abatido pelo Irã com tropas dos EUA detidas foi visto mais de um milhão de vezes antes de ser excluído, enquanto imagens de membros da Força Delta capturados pelas autoridades iranianas foram vistos mais de 5 milhões de vezes antes de serem excluídos.

Parte do conteúdo de IA promovido no X é menos realista. Um vídeo, por exemplo, pretende mostrar as forças iranianas fabricando mísseis nas profundezas de uma caverna. No entanto, o vídeo ainda foi compartilhado por várias contas e visto mais de um milhão de vezes.

A IA também está a ser usada pelo governo iraniano para promover narrativas abertamente anti-semitas, com contas numa rede de propaganda pró-regime no X a partilhar publicações geradas por IA que retratam judeus ortodoxos a liderar soldados americanos para a guerra ou a celebrar mortes americanas, de acordo com investigadores do Instituto de Diálogo Estratégico (ISD), que partilharam a sua análise com a WIRED.

Várias contas nesta rede pró-regime também compartilhou um vídeo falso que supostamente mostrava uma fila de meninas passando pelo presidente Donald Trump vestindo apenas roupas íntimas. A postagem foi visualizada mais de 6,8 milhões de vezes, segundo o ISD, antes de ser removida, embora continue a ser compartilhada por outras contas no X.

“O que é particularmente único nesta guerra é o aumento dramático no conteúdo gerado por IA que estou desmascarando”, disse Hagin à WIRED. “Isso provavelmente se deve ao fato de a IA ser avançada o suficiente para enganar os jornalistas e à facilidade com que os usuários podem criar esse lixo de IA sem consequências. Quanto mais tempo ficarmos sem regulamentações contra o abuso da IA, mais danos serão causados. Vejo a proliferação de notícias falsas baseadas em IA nos empurrando para o limite de um mundo baseado em fatos, a menos que promulguemos mudanças agora.”

Quando a enxurrada de falsificações geradas por IA começou a tomar conta da plataforma na semana passada, X anunciou que desmonetizaria temporariamente as contas com marca de seleção azul se publicassem vídeos de conflitos armados gerados por IA sem rótulo. X não respondeu a um pedido de comentário sobre quantas contas desmonetizou desde a introdução da medida. Até recentemente, uma série de Autoridades iranianas pareciam estar pagando X por seu serviço premium, que fornecia marcas de seleção azuis às suas contas, aumentava o engajamento e criava o potencial de ganhar dinheiro com suas postagens.