xAI pede ao tribunal para retirar supostas vítimas de nudez profunda de Grok do anonimato

“Descartando a própria imagem deepfake – já que ela permanecerá sob sigilo – não há nada inerentemente estigmatizante em revelar o fato de que uma imagem deepfake foi criada de South Carolina Doe sem revelar a imagem em si”, escreveram os advogados em um de seus registros de 15 de maio. “Como resultado, este caso simplesmente não envolve os tipos de interesses convincentes de privacidade tradicionalmente reconhecidos como exigindo pseudonimato.”

Nem a xAI nem os advogados que representam a empresa responderam ao pedido da WIRED para comentar o caso.

Danielle Citron, professora de direito da Faculdade de Direito da Universidade da Virgínia, especializada em lidar com o abuso digital, diz que casos civis em que as pessoas são obrigadas a processar usando seus nomes verdadeiros podem levar ao arquivamento dos processos, criando uma situação “inaceitável e injusta”. “Forçar os demandantes em ações de privacidade a processar em seus nomes contribui muito pouco para a transparência judicial e muito para impedir litígios”, disse Citron à WIRED.

Todos os quatro requerentes de pseudônimos no caso, de acordo com seus registros legais de 29 de maio, considerariam desistir do processo se seus nomes tivessem que ser revelados. Nestes registros mais recentes, os advogados dos reclamantes dizer O pedido da xAI deve ser negado, acrescentando que o caso é sobre “deepfakes altamente pessoais e embaraçosos representando os Requerentes que foram disseminados sem o seu consentimento”.

The South Carolina Doe descreveu como eles encontraram o suposto deepfake deles “despojados para um biquíni revelador” online e disse como isso mostra seu corpo “de uma forma que eu nunca compartilharia publicamente”. Eles afirmam que estavam preocupados com o que os empregadores ou colegas pensariam se vissem a imagem e temiam ser ainda mais alvo de ataques online. “Também fiquei enojado ao pensar no que o indivíduo que pediu a Grok para criar o deepfake estava fazendo com a foto”, escreveram eles.

“Se eu fosse forçado a revelar meu nome publicamente como parte deste caso, temeria que aqueles que apoiam Elon Musk, suas empresas e Grok, que observei ser muito vocal online, encontrassem meu nome em registro público, disseminassem-no, me enganassem e retaliassem contra mim criando deepfakes adicionais e mais extremos de mim”, diz o processo.

Declarações semelhantes de outras supostas vítimas de deepfake descrevem-nas experimentando “grave sofrimento emocional”, constrangimento e choque ao ver as imagens criadas sem o seu consentimento. Em termos gerais, outras vítimas de abuso sexual falso e imagens não consensuais descreveram sentimentos semelhantes.

Um homem, identificado como New Jersey Doe no processo, diz que viu pessoas no X usando Grok para criar imagens sexualizadas e postou um pedido para que “Grok não crie imagens minhas sem meu consentimento”. No dia seguinte, dizem os autos do tribunal, ele descobriu duas imagens falsas de si mesmo, incluindo uma que o retratava “abrindo as nádegas”. Ele diz que acreditou que a mensagem para Grok pedindo para não criar deepfakes dele “trouxe minha conta à atenção de trolls online que estavam usando Grok para assediar e causar angústia”.