Chi controlla le proposte dell'AI? La domanda che gli auditor cominceranno a fare

Strumenti pratici··Redazione Complify

Immaginiamo un audit di sorveglianza ISO 9001 tra un anno. Chi lo conduce apre il registro delle non conformità, ne sceglie una, e chiede: "Come è stata classificata questa causa?". La risposta: "L'ha proposta il sistema, con l'AI". La domanda successiva è inevitabile: "E chi l'ha verificata? Dove risulta?".

Se la risposta è "nessuno, era plausibile", l'audit ha trovato un problema. Non perché usare l'AI sia vietato (non lo è, e nessuna norma lo vieta) ma perché una classificazione non verificata da una persona con un ruolo è una decisione senza responsabile. E le norme, tutte, chiedono che le decisioni abbiano un responsabile.

Questa domanda non è ancora standard negli audit, ma lo diventerà presto, per una ragione semplice: chi conduce gli audit vede sempre più sistemi di gestione che usano l'intelligenza artificiale, e ha bisogno di capire come si inserisce nei requisiti che già conosce. Questo articolo anticipa cosa aspettarsi, spiega come le domande sull'AI si agganciano a requisiti esistenti, e propone i pochi elementi documentali che permettono di arrivare preparati.

Perché la domanda arriverà

Tre tendenze convergono.

L'AI è entrata nei sistemi di gestione. Classificazione dei documenti, analisi delle non conformità, correlazione tra norme, generazione di procedure e contenuti formativi, assistenti in linguaggio naturale. Sono funzioni ormai comuni nelle piattaforme di compliance, e sempre più aziende le usano anche in modo informale, con strumenti generici.

Le norme chiedono già la supervisione delle decisioni. Non serve una norma nuova: la ISO 9001 chiede che le persone che influenzano il sistema siano competenti e consapevoli, che le informazioni documentate siano riesaminate e approvate, che le non conformità siano analizzate e le azioni decise. Se un'attività è svolta da un sistema automatico, il requisito si trasferisce: chi verifica il sistema? Lo stesso vale per la 27001 (controllo degli accessi e dei trattamenti automatizzati), per la 14001 e la 45001 (valutazioni e decisioni con un responsabile).

Esiste una norma dedicata. La ISO/IEC 42001, sui sistemi di gestione dell'intelligenza artificiale, ha reso esplicito cosa ci si aspetta da chi usa l'AI: politiche, valutazione dei rischi, ruoli, trasparenza. Chi conduce audit su altre norme la conosce, e ne mutua le domande anche senza certificare la 42001.

Il risultato è che, nei prossimi cicli di audit, le domande sull'AI diventeranno ordinarie. Non come requisito nuovo, ma come declinazione di requisiti esistenti applicati a uno strumento nuovo.

Le domande che ci si può aspettare

Ecco le domande più probabili, e il requisito esistente a cui si agganciano.

"Quali attività del sistema usano l'AI?" Requisito: conoscenza dei propri processi e delle risorse (compreso il software) che li supportano. Ci si aspetta un elenco: classificazione documentale, analisi delle non conformità, generazione di bozze, assistente per le persone. Non serve un documento lungo; serve che qualcuno sappia rispondere.

"Chi verifica le proposte dell'AI, e dove risulta?" Requisito: responsabilità e autorità definite, informazioni documentate riesaminate e approvate. Ci si aspetta che ogni proposta dell'AI abbia un ruolo che la conferma, e che la conferma sia tracciata. È la domanda centrale.

"Con quali criteri si accetta o si scarta una proposta?" Requisito: competenza e consapevolezza. Ci si aspetta che chi verifica sappia cosa sta verificando: non basta cliccare "conferma". Un criterio semplice ("la classificazione è coerente con la procedura X", "la causa proposta è verificata con il reparto") è sufficiente.

"Cosa succede quando l'AI sbaglia?" Requisito: gestione delle non conformità e miglioramento. Ci si aspetta che gli errori dell'AI siano riconosciuti, corretti, e se ricorrenti trattati come qualunque altra fonte di non conformità (rivedendo il contesto fornito, i criteri, o l'uso dello strumento).

"Dove sono i dati che l'AI elabora?" Requisito: sicurezza delle informazioni, protezione dei dati personali. Ci si aspetta di sapere dove vengono elaborati i documenti e i dati inviati all'AI, in quale giurisdizione, se vengono conservati, se vengono usati per addestrare modelli. Per la 27001 e per il GDPR questa è una domanda già obbligatoria per qualunque fornitore.

"Le persone sanno che stanno interagendo con un'AI?" Requisito: consapevolezza e comunicazione. Se le persone usano un assistente in linguaggio naturale per chiedere procedure, devono sapere che le risposte vengono da un sistema e non da una persona, e sapere a chi rivolgersi se la risposta non basta.

"Chi ha deciso di adottare l'AI, e ha valutato i rischi?" Requisito: leadership, pianificazione, rischi e opportunità. Ci si aspetta che l'adozione sia stata una decisione della direzione, con almeno una valutazione di cosa può andare storto (classificazioni errate, dati esposti, dipendenza dallo strumento) e di cosa si fa per evitarlo.

Nessuna di queste domande richiede un sistema di gestione dell'AI separato. Tutte si rispondono con elementi che un sistema ben tenuto ha già, applicati allo strumento.

Prepararsi con quattro elementi

Chi vuole arrivare preparato può farlo con poco. Quattro elementi, tutti brevi.

1. Un inventario delle funzioni AI in uso

Una pagina. Per ogni funzione: cosa fa, su quali dati, con quale strumento, chi la usa, chi verifica il risultato. Include anche gli usi informali: se le persone usano strumenti generici per scrivere bozze di procedure, va scritto, perché l'audit lo scoprirà comunque.

2. Una regola di supervisione

Una frase, inserita nella procedura di gestione del sistema o in una politica dedicata: "Le proposte generate da strumenti di intelligenza artificiale (classificazioni, analisi, bozze) sono verificate e confermate dal ruolo responsabile prima di avere effetto nel sistema; la conferma è tracciata". È la risposta alla domanda centrale, e va resa vera dallo strumento: il sistema deve marcare le proposte come tali, richiedere la conferma, e registrarla.

3. Una valutazione dei rischi dell'AI

Non un documento separato: qualche riga nell'analisi dei rischi e delle opportunità già esistente. Rischi tipici: classificazione errata non rilevata, dati riservati inviati a servizi non controllati, dipendenza dallo strumento per attività che nessuno sa più fare a mano, risposte dell'assistente prese per pareri. Per ciascuno, il trattamento: supervisione tracciata, regole sui dati, competenze mantenute, avvertenza alle persone.

4. Un'evidenza di competenza

Le persone che verificano le proposte dell'AI devono sapere cosa stanno verificando. Basta una sessione formativa registrata: come funziona lo strumento, cosa fa bene, dove sbaglia, come si corregge. È la stessa logica della formazione su qualunque altro strumento del sistema.

Con questi quattro elementi, tutte le domande dell'elenco hanno una risposta documentata. Tempo stimato per prepararli, in una PMI con un sistema esistente: una giornata.

Il collegamento con la ISO/IEC 42001

Vale la pena spendere qualche riga sulla 42001, perché chi la conosce può temere che usare l'AI nel sistema di gestione comporti l'obbligo di adottarla.

Non è così. La ISO/IEC 42001 è una norma certificabile, volontaria, pensata per organizzazioni che sviluppano, forniscono o usano sistemi di AI in modo significativo. Una PMI che usa funzioni di AI all'interno di una piattaforma di compliance non ha alcun obbligo di certificarsi 42001, e nella maggior parte dei casi non ne avrebbe motivo.

Quello che la 42001 offre, anche senza adottarla, è un vocabolario. I suoi temi (politica sull'AI, valutazione d'impatto, ruoli, trasparenza, gestione dei fornitori di AI, monitoraggio) sono esattamente le domande che chi conduce gli audit sulle altre norme comincia a fare. I quattro elementi sopra sono, di fatto, una versione minima e proporzionata di quei temi. Chi li ha, ha anche una base per decidere in futuro se la 42001 valga la pena, per esempio se i clienti cominciassero a chiederla.

Il rischio di chi non si prepara

L'adozione dell'AI nei sistemi di gestione è avvenuta, in molte aziende, senza decisione formale: qualcuno ha iniziato a usare uno strumento perché era comodo, altri hanno seguito, e oggi bozze di procedure, analisi e risposte alle persone passano per sistemi che nessuno ha valutato. Non è colpa di nessuno: è la normale adozione di uno strumento utile.

Ma in audit questa situazione si presenta male. Non perché lo strumento sia sbagliato, ma perché mancano le risposte: chi verifica, con quali criteri, dove sono i dati, chi ha deciso. E un'osservazione su questo punto ha un effetto a cascata, perché mette in dubbio la validità di tutto ciò che l'AI ha toccato: se la classificazione delle non conformità non è stata verificata, l'analisi delle cause vale? Se le procedure sono state generate senza revisione, descrivono l'azienda?

Chi si prepara, al contrario, trasforma la domanda in un punto di forza. Un sistema che usa l'AI con supervisione tracciata, criteri chiari e dati protetti dimostra maturità: sa cosa usa, lo governa, e ne trae valore. È il tipo di evidenza che chi conduce l'audit ricorda.

Conclusione: la domanda è già nelle norme

"Chi controlla le proposte dell'AI?" sembra una domanda nuova, e in un certo senso lo è. Ma la sua sostanza è vecchia quanto i sistemi di gestione: chi decide, con quali criteri, e dove risulta. Le norme non hanno mai accettato che una decisione fosse senza responsabile, e non lo accetteranno ora che il suggerimento viene da un modello invece che da un foglio di calcolo.

Per una PMI che usa l'AI nella compliance, questo è, in fondo, rassicurante. Non serve un nuovo sistema, una nuova certificazione, un nuovo consulente. Serve applicare allo strumento nuovo le regole di sempre: sapere cosa si usa, assegnare la responsabilità, verificare, tracciare, formare. Chi lo fa non deve temere la domanda. Chi non lo fa, la sentirà comunque, e non avrà la risposta.

In Complify ogni proposta dell'AI (classificazioni, analisi, bozze) è marcata come tale, richiede la conferma del ruolo responsabile e la conferma è tracciata; i dati sono ospitati in Unione Europea. Sono, per costruzione, le evidenze che un audit chiederà. Per vedere come si presentano, richiedi una demo.