Amazon está usando agentes de IA especializados para caça profunda a bugs

Como IA generativa empurra o velocidade de desenvolvimento de softwaretambém está aumentando a capacidade dos invasores digitais de realizar motivado financeiramente ou apoiado pelo estado hacks. Isso significa que as equipes de segurança das empresas de tecnologia têm mais códigos do que nunca para revisar, ao mesmo tempo em que lidam com ainda mais pressão de malfeitores. Na segunda-feira, Amazônia publicará detalhes pela primeira vez de um sistema interno conhecido como Análise Autônoma de Ameaças (ATA), que a empresa tem usado para ajudar suas equipes de segurança a identificar proativamente pontos fracos em suas plataformas, realizar análises de variantes para procurar rapidamente outras falhas semelhantes e, em seguida, desenvolver soluções e recursos de detecção para tapar falhas antes que os invasores as encontrem.

O ATA nasceu de um hackathon interno da Amazon em agosto de 2024, e os membros da equipe de segurança dizem que ele se tornou uma ferramenta crucial desde então. O conceito-chave subjacente ao ATA é que ele não é um único agente de IA desenvolvido para conduzir testes de segurança e análises de ameaças de forma abrangente. Em vez disso, a Amazon desenvolveu vários agentes especializados de IA que competem entre si em duas equipes para investigar rapidamente técnicas de ataque reais e diferentes maneiras como elas poderiam ser usadas contra os sistemas da Amazon – e então propor controles de segurança para revisão humana.

“O conceito inicial tinha como objetivo resolver uma limitação crítica nos testes de segurança – cobertura limitada e o desafio de manter os recursos de detecção atualizados em um cenário de ameaças em rápida evolução”, disse Steve Schmidt, diretor de segurança da Amazon, à WIRED. “Cobertura limitada significa que você não consegue passar por todo o software ou não consegue acessar todos os aplicativos porque simplesmente não tem humanos suficientes. E então é ótimo fazer uma análise de um conjunto de software, mas se você não mantiver os próprios sistemas de detecção atualizados com as mudanças no cenário de ameaças, você estará perdendo metade do cenário.”

Como parte da expansão do uso do ATA, a Amazon desenvolveu ambientes de teste especiais de “alta fidelidade” que são reflexos profundamente realistas dos sistemas de produção da Amazon, para que o ATA possa ingerir e produzir telemetria real para análise.

As equipes de segurança da empresa também fizeram questão de projetar o ATA para que cada técnica que emprega e capacidade de detecção que produz sejam validadas com testes reais e automáticos e dados do sistema. Os agentes da equipe vermelha que estão trabalhando para encontrar ataques que possam ser usados ​​contra os sistemas da Amazon executam comandos reais nos ambientes de teste especiais do ATA que produzem logs verificáveis. A equipe azul, ou agentes focados na defesa, usam telemetria real para confirmar se as proteções que propõem são eficazes. E sempre que um agente desenvolve uma nova técnica, ele também extrai registros com registro de data e hora para provar que suas afirmações são precisas.

Essa verificabilidade reduz falsos positivos, diz Schmidt, e atua como “gerenciamento de alucinações”. Como o sistema é construído para exigir certos padrões de evidências observáveis, Schmidt afirma que “as alucinações são arquitetonicamente impossíveis”.