Tag: compliance sicurezza

  • L’Intelligenza Artificiale nella Sicurezza: Rischi e Opportunità di Governance

    L’Intelligenza Artificiale nella Sicurezza: Rischi e Opportunità di Governance

    In Breve

    Qual è il rischio principale nell'uso di agenti AI per la sicurezza?
    Il rischio principale è che le attestazioni di sicurezza riflettano solo un'apparenza di controllo, non la loro reale efficacia.
    Quanto tempo dedicano le organizzazioni alla compliance?
    Le organizzazioni nel Regno Unito segnalano circa 12 settimane all'anno dedicate a compiti di compliance.
    Quali misure sono necessarie per una governance efficace degli agenti AI?
    È necessaria una visibilità continua, un inventario dei sistemi AI e una supervisione umana significativa.

    Negli ultimi anni, le organizzazioni hanno iniziato a integrare agenti di Intelligenza Artificiale (AI) nei loro sistemi di sicurezza, ma la governance di queste tecnologie non è riuscita a tenere il passo con la loro rapida adozione. Questo ha portato a un rischio crescente: le attestazioni di sicurezza fornite dagli agenti AI potrebbero riflettere solo un’apparenza di controllo, piuttosto che la loro reale efficacia.

    Secondo recenti studi, oltre il 50% dei responsabili della sicurezza nel Regno Unito ritiene che le minacce guidate dall’AI si evolvano più rapidamente di quanto i team possano rispondere. Inoltre, l’80% di questi professionisti dichiara di utilizzare o pianificare l’uso di agenti AI nelle loro strategie di sicurezza. Tuttavia, mentre l’adozione dell’AI è in crescita, il lavoro di compliance rimane prevalentemente manuale. Le organizzazioni britanniche segnalano di dedicare circa 12 settimane all’anno a compiti di compliance e ulteriori 9 settimane a revisioni dei fornitori.

    Per affrontare questo divario tra adozione e governance, è fondamentale implementare una visibilità e un governo continui. Ciò include la creazione di un inventario completo dei sistemi AI e delle API utilizzate, l’identificazione dell’AI integrata nei servizi SaaS e il monitoraggio della cosiddetta “shadow AI”. Ogni agente deve essere trattato come un nuovo attore con una propria identità, accessi limitati e senza account di servizio condivisi con privilegi estesi.

    Prima di implementare un agente AI, è essenziale definire chiaramente quali dati può accedere, quali informazioni può visualizzare e dove è necessaria l’approvazione umana. Operazioni critiche come modifiche agli accessi, cancellazioni di dati o trasferimenti di fondi devono sempre essere soggette a supervisione umana significativa. I controlli devono essere applicati in modo continuo attraverso meccanismi runtime, come il principio del least-privilege, permessi just-in-time, segmentazione e interruttori di emergenza, per contenere il raggio d’azione in caso di errore.

    In un contesto di crescente pressione normativa, come il Cyber Security and Resilience Bill e le regole di operational resilience della FCA, esiste il rischio che la compliance si trasformi in un semplice “security theatre”. L’automazione, se non gestita correttamente, può accelerare questo fenomeno, specialmente se rimane focalizzata su checklist statiche.

    La soluzione proposta è quella di spostare l’obiettivo della compliance, rendendola una conseguenza di pratiche di sicurezza efficaci e dinamiche. È necessario armonizzare segnali di rischio, controlli e evidenze in tempo reale. L’AI, pur rappresentando un nuovo fattore di rischio, può anche essere uno strumento utile per gestire altri rischi. Programmi di governance efficaci possono semplificare il percorso approvato rispetto a quello in ombra, mantenendo la supervisione umana dove è più critica. Gli agenti AI devono essere in grado di documentare cosa hanno accesso, il motivo e chi ha autorizzato le loro azioni.