Este ex-executivo da DeepMind acha que a corrida armamentista de IA pode terminar em desastre

Relatórios de um a corrida armamentista da inteligência artificial está por toda parte –mesmo nesta mesma publicação. Mas e se esse enquadramento for fundamentalmente perigoso?

Essa é a presunção de Verity Harding. Entre 2016 e 2020, Harding passou os dias informando políticos de todo o mundo, de Barack Obama a Emmanuel Macron, sobre os avanços na IA. Como chefe de políticas públicas globais do Google DeepMindHarding foi responsável por mapear enigmas éticos e riscos potenciais. Naquela época, ela disse à WIRED em uma entrevista recente, a pesquisa em IA “estava enraizada na cooperação internacional”. Mas algures ao longo do caminho, a indústria começou a ser moldada por rivalidades – entre laboratórios individuais como a Anthropic e a OpenAI e entre duas superpotências globais: os EUA e a China. A corrida armamentista da IA ​​tornou-se a metáfora do dia.

Em uma nova antologia de ensaios com curadoria de Harding, Reformulando a corrida armamentista da IAela e outras figuras da política e da academia globais, incluindo o historiador Lawrence Freedman e o político japonês Taro Kono, argumentam que a linguagem usada para descrever a IA dá o tom para a formulação de políticas e os termos de envolvimento entre as nações.

Harding acredita que considerar a IA como uma arma letal corre o risco de fechar a porta ao tipo de cooperação internacional necessária para garantir que a tecnologia seja segura e os seus benefícios sejam distribuídos uniformemente. Entretanto, para as potências mais pequenas que importam a tecnologia, ceder ao enquadramento da corrida armamentista significa alinhar-se atrás de uma superpotência ou de outra, potencialmente contra os seus próprios interesses.

Harding vê a administração Trump retórica nacionalista da IA e a sua proposta para impor controles de exportação em modelos nacionais como sintomas do enquadramento da corrida armamentista – e evidência de que o pior cenário está a tomar forma.

A WIRED reuniu-se com Harding no início de junho para discutir a origem da ideia da corrida armamentista, como a narrativa está moldando a geopolítica e o que os países menores podem fazer para garantir que tenham uma palavra a dizer no desenvolvimento da IA.

A conversa a seguir foi editada para maior extensão e clareza.

COM FIO: Por que você acha que as pessoas são atraídas por metáforas de guerra em relação à IA?

VERIDADE HARDING: Eu só acho que é um enquadramento sexy. É uma daquelas coisas que parece muito esclarecedora, mas se você for mais fundo, isso restringe seu pensamento.

Quando eu estava na DeepMind, o trabalho era tentar ajudar os líderes políticos a compreender a tecnologia e do que ela seria capaz. Estava enraizado na ideia de que a tecnologia era realmente excitante, mas também havia coisas com que se preocupar que seriam tratadas de forma mais adequada de uma forma colaborativa e internacional. O que comecei a notar (com o tempo) foi esta noção de que se tratava mais de uma batalha civilizacional: o Ocidente contra a China.

Quais foram as forças por trás dessa mudança?

Uma delas era a crença sincera de que a tecnologia era perigosa – ou estaria nas mãos erradas – e, portanto, que as democracias deveriam ter as chaves.

A outra era uma corrente anti-regulação, (para quem) era benéfico apontar a China como um papão: “Se nos regularem, deixarão a China vencer”.

Você apontaria algum momento específico como um gatilho?

Bate-papoGPT (lançado em novembro de 2022) de repente fez muitas pessoas prestarem atenção à IA. Mas outras coisas aconteceram ao mesmo tempo.

O ChatGPT surgiu ao mesmo tempo que uma pandemia global, quando as pessoas estavam em pânico com o facto de o mundo sem fronteiras voltar a ter fronteiras, e a guerra na Ucrânia, quando grande parte da discussão sobre IA e geopolítica – mas particularmente sobre armamento – de repente se tornou muito real.

Rapidamente se tornou consenso que a IA é a nova corrida armamentista. Foi mapeado na última corrida armamentista de que há memória, a Guerra Fria; as pessoas falavam sobre isso como algo semelhante a uma arma nuclear.