A Microsoft oferece aos desenvolvedores uma maneira melhor de controlar o comportamento do agente de IA

À medida que os agentes de IA se tornam cada vez mais capazes, as empresas que correm para colocá-los para trabalhar em aplicativos, fluxos de trabalho e produtos enfrentam um novo desafio: garantir que um agente faça o que deve fazer quando é implantado em diferentes ambientes.

A Microsoft está tentando resolver esse problema com um novo padrão de código aberto chamado Especificação de controle de agenteou ACS, que visa fornecer aos desenvolvedores uma maneira mais consistente e granular de controlar o que os agentes de IA podem fazer.

A especificação permite essencialmente que as equipes de desenvolvedor, conformidade e segurança definam suas próprias políticas a serem seguidas pelos agentes. As regras podem definir o que o agente pode fazer, o que não deve fazer, quando um humano deve aprovar uma ação e quais evidências devem ser registradas para análise posterior. Esses arquivos de políticas são verificados em vários “pontos de interceptação” quando o agente está fora da execução de uma tarefa para garantir que ela permaneça dentro das proteções.

A especificação surge enquanto os desenvolvedores estão improvisando maneiras de controlar o que sua IA vê e faz, especialmente com conversas focadas em fluxos de trabalho de IA que dão errado devido a uso indevido de ferramentaou ações não intencionais que resultam em falhas em cascata.

Hoje, os desenvolvedores podem especificar instruções em um prompt do sistema, adicionar verificações personalizadas no código do aplicativo ou usar classificadores para capturar entradas e saídas problemáticas. Essas abordagens funcionam, mas muitas vezes deixam as empresas com controles fragmentados que são difíceis de auditar e de reutilizar em diferentes estruturas, interfaces e sistemas.

A ACS pretende integrar esses controlos numa camada de governação comum. A Microsoft diz que a especificação pode ser usada para verificar se um agente está seguindo as proteções em vários pontos de seu fluxo de trabalho – antes de receber uma entrada, antes de chamar uma ferramenta, depois que uma ferramenta retorna um resultado e antes que a resposta final seja enviada ao usuário. Uma política pode permitir uma ação, bloqueá-la, redigir informações confidenciais ou até mesmo solicitar que uma pessoa a aprove.

Os desenvolvedores também podem inserir classificadores de entradas e saídas para categorizar informações, prever resultados ou determinar como um agente deve responder; adicionar LLMs com instruções para atuar como “juiz” de políticas; e lógica para verificar chamadas de ferramentas, seleção de ferramentas, precisão de entrada, uso de saída e respostas.

E como essas políticas podem ser escritas como arquivos únicos, elas podem ser agrupadas com agentes, permitindo que uma política de segurança siga um agente em diferentes estruturas e ambientes.

O ACS é enviado como um SDK com plug-ins para LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, ferramentas MCP e muito mais.