Dario Amodei, da Anthropic, responde: não se opõe aos modelos de peso aberto, mas teme a IA chinesa

Fundador e CEO da Anthropic, Dario Amodei respondeu na tarde de segunda-feira ao murmúrio na indústria de que a sua empresa de alguma forma apoia os esforços do governo dos EUA para proibir os modelos chineses de peso aberto, ou possivelmente modelos de peso aberto em geral.

“Qualquer pessoa que tenha lido meus escritos anteriores deve saber que não considero tais proibições uma medida útil, mas deixe-me dizer isso claramente para que não haja dúvidas: A Anthropic nunca defendeu a proibição de modelos de peso aberto”, escreveu ele, com ênfase na sua.

Sua resposta veio depois que o fundador e CEO da Nvidia, Jensen Huang, adotou o X (sua primeira postagem na plataforma) para compartilhar uma carta aberta na sexta-feira no qual a Nvidia e uma longa lista de outras empresas de IA, incluindo Hugging Face, Meta, Microsoft, Mistral e Nvidia, instaram os legisladores a não imporem amplas “restrições prematuras” aos modelos de IA de peso aberto.

Embora essa carta não mencionasse especificamente a China, o debate na indústria centrou-se em alegações de que os laboratórios chineses de IA estão a aumentar a sua capacidade, muitas vezes roubando propriedade intelectual dos seus homólogos americanos. Um método é a destilação, onde uma IA bombardeia outro modelo com instruções para aprender como funciona.

Amodei disse na postagem do blog publicada na segunda-feira que vê os modelos de peso aberto como caindo em um balde diferente da ameaça que a China representa. “Modelos de peso aberto que não possuem capacidades perigosas são um bem público: não custam nada além da computação necessária para executá-los e fornecem valor para empresas, desenvolvedores e pesquisadores.”

Amodei disse em sua postagem que tem temores de longa data em relação à IA, mas as empresas que usam modelos de peso aberto, mesmo as da China, não estão entre elas.

O seu receio é que “governos autoritários” construam modelos mais poderosos do que os dos EUA para alcançar “superioridade militar permanente” e/ou utilizem a IA para reprimir o seu próprio povo. Ele disse que o Partido Comunista Chinês (PCC) não é o único governo autoritário que o preocupa, mas é o “mais capaz”.

Amodei também disse temer que a IA permita “ataques biológicos” e não apenas ataques de segurança cibernética. E, na sua opinião, os modelos de peso aberto são mais perigosos nesses cenários porque é difícil aplicar-lhes guarda-corpos ou monitorizar a sua utilização. Ele também observou, citando um relatório do Instituto de Segurança de IA do Reino Unido, que uma vez divulgados os pesos em aberto, eles não poderão ser retirados.

Isto vai contra o que argumentam os defensores do código aberto: que o acesso a modelos abertos poderosos não controlados por uma única entidade ajuda os defensores a protegerem-se.

Amodei listou ações que ele acredita que iriam frustrar a China, incluindo a restrição do seu acesso a chips poderosos (que tem sido uma política de longa data dos EUA) e o apelo a uma repressão formal à destilação. Os EUA ameaçaram sanções contra a China se determinasse que houve roubo de IP envolvendo modelos dos EUA.

Curiosamente, Amodei também disse que apoia esforços crescentes, alguns liderados pelos EUA, criar uma organização modelo de testes de segurança, especialmente se o mundo inteiro, incluindo a China, concordasse em submeter-se a ela.

“Penso que esta ideia está, na verdade, perto de um consenso: fiquei encorajado pelo facto de a administração Trump ter tomado essa direção nos últimos meses”, escreveu Amodei. “Observe que, para serem eficazes, os testes precisariam ser globais, o que significa que até mesmo o PCC precisaria estar a bordo. Acho que isso pode realmente ser possível… uma cooperação limitada em torno da prevenção de armas biológicas de IA pode ser possível porque também é do interesse da China.”