Caitlin Kalinowski, líder de robótica da OpenAI, renuncia em resposta ao acordo com o Pentágono

A executiva de hardware Caitlin Kalinowski anunciou hoje que, em resposta a O polêmico acordo da OpenAI com o Departamento de Defesaela renunciou ao cargo de líder da equipe de robótica da empresa.

“Esta não foi uma decisão fácil”, disse Kalinowski em uma postagem nas redes sociais. “A IA tem um papel importante na segurança nacional. Mas a vigilância dos americanos sem supervisão judicial e a autonomia letal sem autorização humana são linhas que mereciam mais deliberação do que tiveram.”

Kalinowski, que anteriormente liderou a equipe de construção de óculos de realidade aumentada na Meta, ingressou na OpenAI em novembro de 2024. Em seu anúncio de hoje, ela enfatizou que a decisão foi “uma questão de princípios, não de pessoas” e disse que tem “profundo respeito” pelo CEO Sam Altman e pela equipe OpenAI.

Em uma postagem de acompanhamento no XKalinowski acrescentou: “Para ser claro, meu problema é que o anúncio foi apressado sem as proteções definidas. É, antes de mais nada, uma preocupação de governança. Elas são importantes demais para que acordos ou anúncios sejam apressados”.

Um porta-voz da OpenAI confirmou a saída de Kalinowski para o TechCrunch.

“Acreditamos que o nosso acordo com o Pentágono cria um caminho viável para o uso responsável da IA ​​na segurança nacional, ao mesmo tempo que deixa claras as nossas linhas vermelhas: sem vigilância doméstica e sem armas autónomas”, afirmou a empresa num comunicado. “Reconhecemos que as pessoas têm opiniões fortes sobre estas questões e continuaremos a envolver-nos em discussões com funcionários, governo, sociedade civil e comunidades em todo o mundo.”

O acordo da OpenAI com o Pentágono foi anunciado há pouco mais de uma semana, após as discussões entre o Pentágono e a Antrópica fracassaram enquanto a empresa de IA tentava negociar salvaguardas que impedissem que a sua tecnologia fosse utilizada na vigilância doméstica em massa ou em armas totalmente autónomas. O Pentágono posteriormente designou Antrópico como um risco para a cadeia de abastecimento. (Anthropic disse que vai lutar contra a designação em tribunal; entretanto, Microsoft, Google e Amazon disseram que continuarão a disponibilizar Claude da Anthropic para clientes não relacionados à defesa.)

Então, OpenAI rapidamente anunciou um acordo próprio permitindo que sua tecnologia seja utilizada em ambientes classificados. Enquanto os executivos tentavam explicar o acordo nas redes sociais, a empresa descreveu como adotar “uma abordagem mais expansiva e multifacetada” que se baseia não apenas na linguagem contratual, mas também em salvaguardas técnicas, para proteger linhas vermelhas semelhantes às da Anthropic.

No entanto, a controvérsia parece ter prejudicado a reputação da OpenAI entre alguns consumidores, com Desinstalações do ChatGPT aumentam 295% e Claude subindo ao topo das paradas da App Store. Na tarde de sábado, Claude e ChatGPT continuam sendo os aplicativos gratuitos número um e segundo da App Store dos EUA, respectivamente.