Microsoft lancia Guardian Agents per gestire i rischi degli agenti AI autonomi

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi destinati a monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle pratiche di sicurezza informatica, dove l’azienda sottolinea l’importanza di non considerare i modelli agentici come una sola autorità di sicurezza.

Secondo Microsoft, sebbene gli agenti AI non siano intrinsecamente maligni, possono comunque commettere errori o essere manipolati. Pertanto, l’azienda propone di separare la fornitura di intelligenza dall’autorità che controlla l’accesso e le azioni, affidando la sorveglianza a meccanismi esterni al modello stesso.

Questa proposta si integra con altre iniziative già in atto, come Project Perception e la cyber stack di Microsoft. Questi progetti coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire le contromisure necessarie. Project Perception, ad esempio, utilizza tre categorie di agenti (red, blue e green) per testare, investigare e correggere le minacce. Con l’introduzione dei Guardian Agents, l’architettura esistente viene estesa per proteggere gli “agentic insiders”, condividendo segnali e contesto con Microsoft Agent 365 per fornire una visione coerente dei rischi.

I controlli proposti dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici. Questi controlli si concentrano su sette aree chiave: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Le responsabilità principali includono la conoscenza dell’esistenza e del comportamento degli agenti, la limitazione dell’accesso e delle azioni, la protezione delle risorse e l’adattamento continuo delle protezioni in base al comportamento e al contesto.

Tra le funzionalità innovative dei Guardian Agents, Microsoft ha annunciato la scoperta di 35 nuovi tipi di agenti locali, inclusi strumenti noti come Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, l’ampliamento di Microsoft Entra Agent ID introduce nuovi tipi di identità per pattern di agenti locali e per agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per garantire un controllo operativo efficace, sono state implementate Dynamic Permissions, che limitano l’accesso degli agenti alle sole risorse necessarie per specifici compiti. Inoltre, Dynamic Agent Risk valuta le potenziali minacce, mentre Dynamic Conditional Access può reagire a rischi crescenti limitando permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni critiche, è possibile fermare e isolare un agente.

Microsoft descrive i Guardian Agents come strumenti fondamentali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio mira a comprendere i rischi emergenti associati agli agenti AI e ad adattare le contromisure in modo tempestivo ed efficace.