Tag: autenticazione digitale

  • La sfida della verifica dell’autorità nell’era degli agenti AI

    La sfida della verifica dell’autorità nell’era degli agenti AI

    In Breve

    Cosa sono gli agenti di intelligenza artificiale?
    Gli agenti di intelligenza artificiale sono sistemi che completano transazioni e compiti amministrativi autonomamente.
    Perché è importante la verifica dell'autorità?
    È fondamentale per garantire che le azioni siano autorizzate e limitate, prevenendo accessi non autorizzati.
    Qual è il principio del minimo privilegio?
    Richiede che agli agenti vengano concesse solo le autorizzazioni necessarie per svolgere compiti specifici.

    Negli ultimi anni, l’adozione di agenti di intelligenza artificiale (AI) per gestire transazioni e compiti amministrativi ha messo in discussione il tradizionale modello di fiducia digitale. Questo modello si basa sull’assunto che dietro ogni accesso ci sia una persona fisica. Tuttavia, con l’aumento degli agenti AI, è diventato cruciale rivedere i sistemi di autenticazione e verifica dell’identità, che sono progettati principalmente per confermare le credenziali di chi richiede un’azione, piuttosto che per accertare chi ha autorizzato tale azione e con quali limitazioni.

    La distinzione tra autenticazione, identità e autorità è fondamentale. Non basta identificare chi accede a un sistema; è essenziale sapere chi ha dato il permesso per l’azione, cosa l’agente può fare e per quanto tempo. In ambito aziendale, controlli di ruolo e di eleggibilità sono già applicati in settori come i servizi finanziari e la sanità. Tuttavia, l’infrastruttura attuale è più avanzata nella verifica dell’identità che nell’applicazione delle deleghe di autorità.

    Il principio del minimo privilegio è una disciplina suggerita per affrontare questa problematica. Gli agenti dovrebbero ricevere mandati specifici e limitati, piuttosto che un accesso permanente e illimitato, poiché un agente compromesso può causare danni considerevoli. Per ogni azione intrapresa da un agente, è cruciale rispondere a cinque domande: chi o cosa agisce, chi ha autorizzato l’azione, cosa può fare, sotto quali vincoli e se l’autorità è ancora valida. Questo approccio si basa su modelli di delega “on-behalf-of” già presenti negli standard di identità.

    Strumenti come i portafogli digitali possono ospitare mandati verificabili meccanicamente, revocabili e associati alle credenziali verificate di persone o organizzazioni. È necessario estendere le autorità e i framework esistenti, incluso il quadro di fiducia per i servizi di verifica digitale, rafforzato dal Data (Use and Access) Act nel Regno Unito, per includere i delegati software. Spostare la verifica dell’autorità prima che l’agente agisca, documentare chi concede i poteri e limitarne l’ambito sono misure suggerite per ridurre l’esposizione prima che le implementazioni di agenti superino i controlli progettati per governarle.