Satya Nadella emitiu um aviso chocante para empresas que usam IA

De todos os debates sobre as potenciais desvantagens da IA, há uma preocupação que causa a maior preocupação entre os entusiastas da IA ​​no Vale do Silício. O medo deles é que os gigantescos laboratórios de IA que vendem modelos proprietários estejam de alguma forma agindo como cavalos de Tróia.

A preocupação é que, à medida que as startups e as empresas utilizem modelos de IA de laboratórios como OpenAI e Anthropic, os laboratórios ganhem acesso cada vez maior às informações comerciais mais confidenciais dessas empresas. Os criadores de modelos podem então usar esse conhecimento para si próprios, tornando-se potencialmente concorrentes dos seus próprios clientes. Aqueles que emitem tais avisos variam entre VCs como Jason Calacanis para CEO da Palantir, Alex Karp.

Agora, de uma forma surpreendente postagem no blog publicado na segunda-feira, o CEO da Microsoft, Satya Nadella, juntou-se a essa multidão. Nadella alerta que os usuários de IA (os “compradores”, como ele os chama) estão pagando duas vezes. Eles gastam conscientemente no uso de tokens de IA, mas também, inconscientemente, entregam dados valiosos no processo.

“Basicamente, você paga duas vezes pela inteligência, uma vez com dinheiro e outra com algo ainda mais valioso: o conhecimento proprietário que você deve revelar para tornar essa inteligência útil. Quanto melhor você quiser que o modelo funcione, mais desse conhecimento você terá para alimentá-lo!” ele escreve.

O mais perigoso é que as empresas estão literalmente ensinando aos modelos as nuances dos seus negócios, argumenta ele.

“Os modelos aprendem com a ‘exaustão’, com as instruções que as pessoas escrevem, com as ferramentas que os agentes utilizam e, especialmente, com as correções que as pessoas fazem quando o modelo está errado. Cada correção é destilada em conhecimento institucional”, escreve ele.

Este é “o tipo de conhecimento que um concorrente nunca poderia comprar”, e ainda assim as empresas estão a entregá-lo.

Nadella argumenta que se as empresas de IA conseguirem explorar livremente a Internet para treinar os seus modelos, é justo que as empresas estudem — ou “destilem” — esses modelos em troca. “Destilação” é a prática de usar os resultados do próprio modelo para aprender como ele funciona e treinar um modelo novo, muitas vezes mais barato, com base nesses insights. Em fevereiro, a Anthropic acusou os modelos chineses de código aberto de enviando milhões de avisos para Claude como forma de melhorar os seus próprios modelos e instaram o governo dos EUA a reprimir os controlos às exportações.

O argumento de Nadella é que os fabricantes de modelos não podem ter as duas coisas. É hipócrita para eles treinarem livremente com base nos dados do mundo e, ao mesmo tempo, restringirem outros de fazerem o mesmo com seus modelos.

“Embora seja necessária a grande inovação que vem dos fornecedores de modelos com direitos de uso justo para treinar modelos em dados públicos, acho irônico que o status quo seja então virar e impor termos restritivos à destilação”, escreve o CEO da Microsoft.

Nadella está particularmente preocupada quando os criadores de modelos “se reservam o direito de aprender com o uso do cliente e os dados de interação”.

A solução de Nadella é o tipo de coisa que o CEO de um gigante provedor de nuvem sugeriria. Ele quer que as empresas “mantenham a propriedade” dos seus dados, incluindo avisos, feedback, etc. Por isso, está a instá-las a construir os seus próprios “ambientes de aprendizagem proprietários” na nuvem (onde os seus dados provavelmente já estão armazenados de qualquer maneira e, convenientemente, o que poderia significar a nuvem da Microsoft, o Azure). Ele também quer que as empresas construam o que ele chama de “camadas de orquestração” – essencialmente, uma maneira de alternar facilmente entre modelos de IA de diferentes fornecedores, em vez de ficarem presas a um só. Ferramentas como “gateways” de IA, que permitem que as empresas façam exatamente isso, tornaram-se cada vez mais populares.

Embora Nadella nunca use as palavras “código aberto” como método para reter a propriedade, este é um subtexto óbvio. No entanto, há outro subtexto.

Grandes empresas, muitas das quais ainda possuem alguns data centers próprios, além de usarem a nuvem, já estão migrando para modelos de código aberto instalados em suas próprias instalações (“no local”, no jargão do setor). Idit Levine, fundadora e CEO da Solo.io – que fabrica software de rede e segurança que ajuda as empresas a gerenciar sistemas de IA – diz que está vendo exatamente essa mudança acontecer com seus próprios clientes. Depois de experimentar criadores de modelos proprietários, eles começaram a se perguntar: “Posso pegar um modelo de código aberto e executá-lo no local? Ele fará quase 90% do que os grandes estão fazendo. Custará muito menos”, ela diz ao TechCrunch. “Eles entendem isso e podem controlá-lo.”

A tecnologia da Solo.io foi selecionada no ano passado como a tecnologia que alimenta o Projeto Agentgateway da Linux Foundation. Sua empresa conta com empresas como T-Mobile, ADP e SAP como clientes. Ela vê as empresas instalando cada vez mais modelos de código aberto no local e vê isso como a próxima grande onda no uso empresarial de IA.

Ela não está sozinha. Vercel – mais conhecida como uma plataforma para construção e hospedagem de sites, que recentemente adicionou ferramentas de troca de modelo de IA – e OpenRouter, uma empresa que ajuda desenvolvedores a encaminhar solicitações entre diferentes modelos de IA – estão vendo um aumento no tráfego para modelos de código aberto. Na verdade, os modelos abertos representaram 29% de todo o tráfego trafegado através do gateway da Vercel mês passado.

Com o CEO da Microsoft, uma empresa que investiu tanto na OpenAI quanto na Anthropic, agora exortando abertamente as empresas a serem cautelosas ao usar modelos proprietários, apostamos que esta tendência continua a crescer. “Ao consumir inteligência, você está criando inteligência. E o que você cria deveria pertencer a você”, escreve Nadella.