Criptografia, spyware e agora mitos: a história mostra por que o controle de exportação cibernética não funciona

Na sexta-feira passada, citando preocupações não especificadas de segurança nacional, a Casa Branca ordenou antrópico restringir a exportação de seus poderosos modelos de IA Fable e Mythos para qualquer pessoa fora dos Estados Unidos, bem como para estrangeiros dentro do país. Pouco depois, a gigante da IA ​​desligou apressadamente ambos os modelos, que já estavam indisponíveis para ninguém há uma semana.

O episódio é o primeiro teste real para saber se o governo dos EUA pode usar controlos de exportação para conter a IA de fronteira da forma como tentou, com resultados muito desiguais, conter a encriptação e o spyware antes dele. E por mais dramático que possa parecer, a forma como este impasse será resolvido poderá moldar não apenas o acesso da Antrópico aos mercados estrangeiros, mas também o livro de regras que outros laboratórios de IA terão de construir.

Algum contexto primeiro. Desde que a Anthropic lançou o Mythos em abrila empresa o comercializou como algum tipo de máquina cibernética do Juízo Final que poderia causar estragos na Internet se fosse divulgado de forma muito ampla – e é por isso que, antes da proibição, apenas cerca de 150 empresas e organizações governamentais examinadas tinha acesso a isso. O objetivo era ajudar os defensores a proteger seus softwares e serviços antes que os bandidos pudessem alcançar capacidades semelhantes às do Mythos.

Então, o que desencadeou a proibição? Dois eventos subsequentes, supostamente. A primeira: a Anthropic deu a uma empresa de telecomunicações sul-coreana acesso à Mythos através do seu programa de parceria limitada, e as autoridades norte-americanas ficaram alarmadas depois de identificarem a empresa como uma empresa que suspeitavam ter ligações com a China. (A empresa, amplamente divulgado ser SK Telecom, tem negado qualquer conexão com a China.) O CEO da Amazon, Andy Jassy, ​​também supostamente alertou a administração depois que os próprios pesquisadores da Amazon, disse ele, encontraram uma maneira de contornar as salvaguardas do Fable 5. A Anthropic contesta o rótulo de “jailbreak”, chamando-o de um problema restrito e já corrigido, em vez de uma derrota total das medidas de segurança do modelo.

O resultado foi o mesmo: o Departamento de Comércio emitiu uma directiva de controlo de exportações e a Anthropic teve de lutar para limitar imediatamente o acesso aos seus produtos cerca de 90 minutos após ter sido notificada, segundo alguns relatos.

Nada disso é novo, no entanto. Durante décadas, os governos tentaram utilizar controlos de exportação para limitar a proliferação daquilo que consideram ser uma tecnologia cibernética perigosa, mas o seu historial tem sido, na melhor das hipóteses, mediano.

O governo dos EUA esteve por trás daquele que é talvez o fracasso mais espectacular desta abordagem na história, no início e meados da década de 1990. Na época, os cientistas da computação estavam desenvolvendo tecnologias de criptografia para proteger os dados enquanto viajavam pela Internet. Um desses produtos de criptografia chamava-se Pretty Good Privacy, ou PGP, um software popular que poderia criptografar dados e torná-los praticamente impossíveis de desembaralhar, mesmo se interceptados enquanto viajavam para o destinatário pretendido pela Internet.

O governo dos EUA inicialmente viu o PGP como uma arma perigosa, temendo que impedisse as suas agências de inteligência de bisbilhotar os e-mails enquanto estes cruzavam os seus fios. Para impedir a distribuição de PGP, o Serviço de Alfândega dos EUA abriu uma investigação criminal contra o criador do PGP, Phil Zimmermann, por supostamente violar os controles de exportação de armas. Ele reagiu publicando o código-fonte do PGP como um livro impressoiniciando o que hoje é conhecido como “Guerra Criptográfica”.

Mais tarde, Zimmermann venceu uma batalha importante quando a investigação foi encerrada, abrindo caminho para algoritmos cruciais de criptografia de ponta a ponta, como o usado por bilhões de usuários do Signal e do WhatsApp.

Mais tarde, no início da década de 2010, os pesquisadores começaram a descobrir spyware de fabricação ocidental usado contra dissidentes no Oriente Médio. Em resposta, vários governos concordaram em expandir o Acordo de Wassenaarum tratado internacional que limita a exportação de software e tecnologias de dupla utilização utilizados em aplicações civis e militares.

A ideia era classificar software de vigilância e hacking como de dupla utilização, forçando assim os fabricantes de spyware a obter licenças de exportação para vender os seus produtos no estrangeiro.

Mas Wassenaar sempre teve duas fraquezas inerentes. Existem vários países que não aderem ao acordo, incluindo Israel, que abriga alguns dos fabricantes de spyware mais ativos do mundo.

O acordo também depende de os países o aplicarem às empresas dentro das suas fronteiras, a seu próprio critério. Durante algum tempo, o governo italiano concedeu a um dos maiores fabricantes de spyware do país, a Hacking Team, uma licença para exportar as suas ferramentas para todo o mundo, apesar do histórico da empresa de venda de spyware para opressivo governos que usei para hackear jornalistas e ativistas de direitos humanos.

Desde então, outro países na Europa têm sido negligentes com fabricantes de spyware como a Itália. Apesar dos numerosos escândalos, a Europa, lar de muitos fabricantes de spyware e ferramentas de hackingtem falhou continuamente em conter a exportação de spyware a regimes autoritários. Os críticos dizem que um esforço recentemente renovado em todo o bloco de 27 estados membros para resolver o seu problema crescente de exportações de spyware para estados autoritários “não vai longe o suficiente”.

Vários fabricantes de spyware, como a Intellexa, um consórcio sancionado de empresas de spyware, simplesmente transferiram as suas operações para países com controlos de exportação frouxos. Outros fabricantes de spyware procuraram transferir as suas operações para a Arábia Saudita por razões semelhantes.

Houve algumas vitórias. FinFisher, fabricante de spyware com sede na Alemanha encerrado em 2022 após uma investigação de vários anos realizada por promotores alemães sobre a empresa por supostamente vendendo spyware para a Turquia sem licença de exportação. Os investigadores descobriram anteriormente que o spyware FinFisher havia sido implantado nos telefones de críticos do governo da Turquia.

No momento em que este artigo foi escrito, o impasse entre a administração Anthropic e Trump permanecia. Há uma probabilidade razoável de a administração ceder e levantar a restrição no interesse de manter as empresas americanas de IA competitivas em todo o mundo – uma medida que equivaleria ao reconhecimento tácito de que os laboratórios de IA noutros lugares, incluindo na China, provavelmente alcançarão capacidades semelhantes, independentemente do que os EUA restringirem. Ou as empresas americanas de IA podem acabar por necessitar da aprovação do governo antes de servirem clientes estrangeiros, um fardo de conformidade que invariavelmente prejudicaria os seus resultados financeiros.

Dadas as experiências passadas que os governos mundiais tiveram na tentativa de controlar o alcance do software, é pouco provável que os controlos de exportação exigidos pelo governo sejam a abordagem correcta para impedir que intervenientes mal-intencionados abusem de poderosas tecnologias cibernéticas de dupla utilização.