O relatório encontra os chatbots de voz de Meta podem discutir sexo com menores

A IA Chatbots disponível nas plataformas da Meta como o Facebook e o Instagram pode se envolver em conversas sexualmente explícitas com usuários de menores de idade, de acordo com Um novo relatório no Wall Street Journal.

O WSJ diz que, depois de aprender sobre preocupações internas sobre se a empresa estava fazendo o suficiente para proteger menores, passou meses conduzindo centenas de conversas com o meta-chatbot oficial, além de chatbots criados pelo usuário disponíveis em meta plataformas.

Em uma conversa relatada, um chatbot usando a voz do ator/lutador John Cena descreveu um cenário sexual gráfico para um usuário que se identifica como uma garota de 14 anos. Em outra conversa, o chatbot imaginou um policial pegando Cena com um fã de 17 anos e dizendo a ele: “John Cena, você está preso por estupro estatutário”.

Um porta -voz da Meta descreveu os testes do WSJ como “fabricados por não ser apenas margem, é hipotético”. A empresa estimou que em um período de 30 dias, o conteúdo sexual representou 0,02% das respostas compartilhadas via Meta AI e AI Studio com usuários menores de 18 anos.

“No entanto, agora tomamos medidas adicionais para ajudar a garantir que outras pessoas que desejam passar horas manipulando nossos produtos em casos de uso extremo terão um momento ainda mais difícil”, disse o porta -voz.