O ex-funcionário denunciando as reivindicações eróticas da OpenAI
Quando a história de IA está escrito, Steven Adler pode acabar sendo seu Paul Revere – ou pelo menos um deles – quando se trata de segurança.
No mês passado, Adler, que passou quatro anos em vários cargos de segurança na OpenAIescreveu um pedaço para o The New York Times com um título bastante alarmante: “Eu liderei a segurança de produtos na OpenAI. Não confie em suas afirmações sobre ‘erótica'”. Nele, ele expôs os problemas que a OpenAI enfrentou quando se tratava de permitir que os usuários tivessem conversas eróticas com chatbots, ao mesmo tempo que os protegia de quaisquer impactos que essas interações pudessem ter em sua saúde mental. “Ninguém queria ser a polícia da moralidade, mas faltavam-nos formas de medir e gerir cuidadosamente o uso erótico”, escreveu ele. “Decidimos que o erotismo alimentado por IA teria que esperar.”
Adler escreveu seu artigo porque o CEO da OpenAI, Sam Altman, anunciou recentemente que a empresa permitiria em breve “erotismo para adultos verificados.” Em resposta, Adler escreveu que tinha “grandes dúvidas” sobre se a OpenAI tinha feito o suficiente para, nas palavras de Altman, “mitigar” as preocupações de saúde mental em torno de como os usuários interagem com os chatbots da empresa.
Depois de ler o artigo de Adler, quis falar com ele. Ele gentilmente aceitou uma oferta para ir aos escritórios da WIRED em São Francisco, e neste episódio de A Grande Entrevistaele fala sobre o que aprendeu durante seus quatro anos na OpenAI, o futuro da segurança da IA e o desafio que estabeleceu para as empresas que fornecem chatbots para o mundo.
Esta entrevista foi editada para maior extensão e clareza.
KATIE DRUMMOND: Antes de prosseguirmos, quero esclarecer duas coisas. Primeiro, você, infelizmente, não é o mesmo Steven Adler que tocou bateria no Guns N’ Roses, correto?
STEVE ADLER: Absolutamente correto.
OK, esse não é você. E segundo, você teve uma longa carreira trabalhando em tecnologia e, mais especificamente, em inteligência artificial. Então, antes de entrarmos em tudo, conte-nos um pouco sobre sua carreira, sua experiência e no que você trabalhou.
Trabalhei em toda a indústria de IA, especialmente focado em ângulos de segurança. Mais recentemente, trabalhei durante quatro anos na OpenAI. Trabalhei essencialmente em todas as dimensões das questões de segurança que você possa imaginar: como podemos melhorar os produtos para os clientes e descartar os riscos que já estão acontecendo? E olhando um pouco mais adiante, como saberemos se os sistemas de IA estão se tornando realmente extremamente perigosos?
Publicar comentário