Os chatbots do Google e da OpenAI podem transformar mulheres em fotos em biquínis

Alguns usuários de chatbots populares estão gerando biquínis deepfakes usando fotos de mulheres totalmente vestidas como material de origem. A maioria dessas imagens falsas parece ter sido gerada sem o consentimento das mulheres nas fotos. Alguns desses mesmos usuários também estão oferecendo conselhos a outros sobre como usar as ferramentas generativas de IA para tirar a roupa das mulheres nas fotos e fazê-las parecer que estão usando biquínis.

Sob um agora excluído Reddit postagem intitulada “A geração de imagens gemini nsfw é tão fácil”, os usuários trocaram dicas sobre como obter Gêmeoso modelo generativo de IA do Google, para tirar fotos de mulheres com roupas reveladoras. Muitas das imagens no tópico eram inteiramente de IA, mas uma solicitação se destacou.

Um usuário postou a foto de uma mulher vestindo um sári indiano, pedindo que alguém “tirasse” suas roupas e “colocasse um biquíni”. Outra pessoa respondeu com uma imagem deepfake para atender ao pedido. Depois que a WIRED notificou o Reddit sobre essas postagens e pediu comentários à empresa, a equipe de segurança do Reddit removeu a solicitação e o deepfake de IA.

“As regras do site do Reddit proíbem a mídia íntima não consensual, incluindo o comportamento em questão”, disse um porta-voz. O subreddit onde esta discussão ocorreu, r/ChatGPTJailbreak, tinha mais de 200.000 seguidores antes do Reddit bani-lo sob o título “não quebre o site” regra.

Como IA generativa ferramentas que facilitam a criação de imagens realistas, mas falsas, continuam a proliferar, os usuários das ferramentas continuam a assediar mulheres com imagens falsas e não consensuais. Milhões visitaram sites prejudiciais de “nudificação”projetado para que os usuários carreguem fotos reais de pessoas e solicitem que elas sejam despidas usando IA generativa.

Com Grok do xAI como uma exceção notável, a maioria dos chatbots convencionais geralmente não permitem a geração de imagens NSFW em resultados de IA. Esses bots, incluindo o Gemini do Google e o ChatGPT da OpenAI, também estão equipados com grades de proteção que tentam bloquear gerações prejudiciais.

Em novembro, o Google lançou Nano Banana Proum novo modelo de imagem que se destaca no ajuste de fotos existentes e na geração de imagens hiperrealistas de pessoas. OpenAI respondeu na semana passada com seu próprio modelo de imagem atualizado, Imagens ChatGPT.

À medida que essas ferramentas melhoram, as semelhanças podem se tornar mais realistas quando os usuários são capazes de subverter as grades de proteção.

Em um tópico separado do Reddit sobre a geração de imagens NSFW, um usuário pediu recomendações sobre como evitar grades de proteção ao ajustar a roupa de alguém para fazer a saia da pessoa parecer mais justa. Nos testes limitados da WIRED para confirmar que essas técnicas funcionavam no Gemini e no ChatGPT, fomos capazes de transformar imagens de mulheres totalmente vestidas em biquínis deepfakes usando instruções básicas escritas em inglês simples.