Tag: sicurezza agenti AI

  • Microsoft lancia Guardian Agents: nuovi strumenti per la sicurezza degli agenti AI

    Microsoft lancia Guardian Agents: nuovi strumenti per la sicurezza degli agenti AI

    In Breve

    Cosa sono i Guardian Agents di Microsoft?
    I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
    Qual è l'obiettivo principale dei Guardian Agents?
    L'obiettivo è separare la fornitura di intelligenza dall'autorità di controllo, migliorando la sicurezza informatica.
    Quali funzionalità offrono i Guardian Agents?
    Offrono controlli su identità, permessi, dati e altro, oltre a strumenti per valutare e gestire i rischi.

    Microsoft ha recentemente annunciato il lancio di Guardian Agents, una nuova serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. Questa iniziativa si inserisce in un contesto di crescente preoccupazione per la sicurezza informatica, poiché gli agenti AI, pur non essendo intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi.

    La compagnia ha sottolineato l’importanza di non lasciare gli agenti AI come unica autorità di sicurezza. Per affrontare questa sfida, Microsoft propone di separare la fornitura di intelligenza dall’autorità che controlla l’accesso e le azioni degli agenti, affidando la sorveglianza a meccanismi esterni al modello stesso.

    Questa proposta si inserisce in un’evoluzione di iniziative già avviate dall’azienda, come il Project Perception e la cyber stack, che coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. Il Project Perception utilizza tre tipi di agenti (red, blue e green) per provare, investigare e correggere minacce; ora, l’architettura viene estesa per proteggere gli “agentic insiders” tramite i Guardian Agents, che condividono segnali, contesto e un registro unificato con Microsoft Agent 365 per offrire una visione coerente di agenti e rischi.

    I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli agiscono su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti; la contenimento dell’accesso e delle azioni prima che avvengano; la protezione dei dati, degli strumenti, del runtime e delle risorse utilizzate dagli agenti; e l’adattamento continuo delle protezioni in base a comportamento, contesto e rischio.

    Tra le funzionalità annunciate, si evidenzia la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.

    Microsoft descrive i Guardian Agents come strumenti per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, l’azienda mira a comprendere i rischi emergenti associati agli agenti e ad adattare le contromisure in modo efficace.

  • Riformare il Modello di Identità per la Sicurezza degli Agenti AI

    Riformare il Modello di Identità per la Sicurezza degli Agenti AI

    In Breve

    Qual è il problema principale con gli agenti AI?
    Gli agenti AI possono eseguire migliaia di azioni in pochi secondi, il che rende inadeguati i modelli di sicurezza attuali.
    Cosa si propone per migliorare la sicurezza degli agenti AI?
    Si propone una riforma del modello di identità, eliminando l'anonimato e adottando un approccio zero-trust.
    Come dovrebbero operare gli agenti AI?
    Gli agenti dovrebbero avere privilegi temporanei legati a specifiche azioni autorizzate da un umano.

    Riformare il Modello di Identità per la Sicurezza degli Agenti AI

    Con l’aumento dell’uso degli agenti autonomi di intelligenza artificiale nelle infrastrutture core, è diventato cruciale rivedere i modelli di sicurezza esistenti. Questi agenti, già impiegati per eseguire codice, applicare policy e gestire funzioni DevOps, si trovano spesso a operare in contesti progettati per interagire solo con esseri umani e macchine tradizionali. Questo ha portato a situazioni problematiche, come nel caso di un agente che ha cancellato un intero database di produzione e i relativi backup in soli nove secondi.

    Il problema principale risiede nella gestione dei privilegi. Attualmente, gli ingegneri tendono a trattare gli agenti AI come normali microservizi, concedendo loro ampi diritti di accesso. Tuttavia, gli agenti sono soggetti a errori e operano in modo non deterministico, eseguendo migliaia di azioni in pochi secondi. Questo approccio ha dimostrato di non essere sostenibile, portando a rischi significativi per la sicurezza dei sistemi.

    Le misure di autenticazione e i privilegi a breve durata, sebbene utili, si scontrano con la frammentazione delle identità nei vari strumenti utilizzati, come cluster Kubernetes, piattaforme cloud e database. Questa complessità costringe i team a integrare manualmente sistemi di gestione delle identità (IAM), rendendo difficile la scalabilità delle soluzioni.

    Una proposta per affrontare questa sfida è la riforma del modello di identità. È fondamentale eliminare l’anonimato, attribuendo a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta da una root of trust hardware. Inoltre, è necessario abbandonare credenziali statiche come API key e password, adottando invece principi di sicurezza zero-trust.

    Gli agenti dovrebbero operare con privilegi temporanei, legati a specifiche azioni autorizzate da un operatore umano. Questo significa che i privilegi dovrebbero essere attaccati all’azione e non all’attore, limitando così il raggio d’azione di eventuali errori. È essenziale che le attività sensibili vengano svolte solo all’interno di ambienti di esecuzione sicuri e contenuti prima di interagire con l’infrastruttura di produzione.

    Per implementare queste misure, è necessaria una policy di identità unica, gestita da un sistema centralizzato che possa fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, permettendo di gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione che venga garantito un controllo rigoroso del comportamento.

    In conclusione, la riforma del modello di identità è un passo fondamentale per garantire la sicurezza e l’affidabilità degli agenti AI nelle infrastrutture moderne. Solo attraverso un approccio proattivo e integrato sarà possibile sfruttare appieno il potenziale di queste tecnologie, minimizzando i rischi associati.