A segurança está ‘morta’ no xAI?

Elon Musk está trabalhando “ativamente” para tornar o chatbot Grok da xAI “mais desequilibrado”, de acordo com um ex-funcionário que falou com The Verge sobre as recentes saídas da empresa de IA de Musk.

Esta semana, após o anúncio de que SpaceX de Musk está adquirindo xAI (que anteriormente adquiriu sua empresa de mídia social X), pelo menos 11 engenheiros e dois co-fundadores disseram que estão saindo da empresa. Alguns disseram que estão partindo para começar algo novo, e O próprio Musk sugeriu isso faz parte de um esforço para organizar o xAI de forma mais eficaz.

Mas duas fontes que deixaram a empresa (pelo menos uma delas antes da onda atual) disseram ao The Verge que os funcionários estão cada vez mais desiludidos com o desrespeito da empresa pela segurança, resultando em um escrutínio global depois que Grok se acostumou a criar mais de 1 milhão de imagens sexualizadasincluindo deepfakes de mulheres e menores reais.

Uma fonte disse: “A segurança é uma organização morta na xAI”, enquanto a outra disse que Musk está “tentando ativamente tornar o modelo mais desequilibrado porque segurança significa censura, em certo sentido, para ele”.

Eles também reclamaram da falta de direção, com um deles dizendo que sentiam que o xAI estava “preso na fase de recuperação” em comparação aos concorrentes.