Costruire la fiducia nell’AI: un approccio basato sul rischio cyber
di Vincenzo Calabrò · Pubblicato il 14 maggio 2026 su CyberSecurity360.it
La crescente adozione dell’intelligenza artificiale (IA) nei processi industriali, pubblici e sociali richiede lo sviluppo di un nuovo paradigma di fiducia basato sulla sicurezza informatica.
Attraverso una revisione della letteratura recente e l’analisi di framework internazionali – come il NIST AI Risk Management Framework, il Trustworthy AI Framework della Commissione Europea e le linee guida ANSSI/CCCS [2] – viene proposto un modello teorico integrato.
La fiducia nell’IA non può essere costruita esclusivamente tramite la conformità normativa, ma deve derivare da una gestione dinamica e trasparente del rischio cyber lungo l’intero ciclo di vita dei sistemi intelligenti.
Ecco un approccio sistematico al rischio cibernetico, in grado di sostenere la costruzione della fiducia nell’intelligenza artificiale, collegando i concetti di trasparenza, responsabilità, robustezza e governance.
I 3 pilastri della fiducia nell’intelligenza artificiale
L’intelligenza artificiale (IA) è oggi una delle tecnologie più pervasive e strategiche per la competitività globale. Dalla sanità alla finanza, dalla manifattura all’energia, l’IA consente l’automazione, la previsione e l’ottimizzazione su scala mai vista prima.
Tuttavia, la crescente dipendenza da sistemi intelligenti introduce nuovi livelli di vulnerabilità tecnica e sociale.
La fiducia diventa quindi un prerequisito per un’adozione consapevole dell’IA, ma la sua costruzione è ostacolata da rischi cibernetici, opacità algoritmica e mancanza di responsabilità.
Secondo il NIST AI Risk Management Framework, la fiducia nell’intelligenza artificiale deriva da tre pilastri fondamentali: trasparenza, robustezza e governance responsabile.
Tuttavia, il consolidamento di questi elementi richiede un approccio alla sicurezza integrato che consideri l’IA come parte di un ecosistema di rischio cibernetico in continua evoluzione [3].
Ecco le risposte a tre domande di ricerca fondamentali:
- In che modo la gestione del rischio cyber può supportare la fiducia nei sistemi di IA?
- Quali lacune emergono negli attuali framework di governance dell’IA in relazione al rischio cibernetico?
- Quali strategie e modelli integrati possono favorire un approccio basato sul rischio alla fiducia nell’IA?
Background teorico e stato dell’arte
Il concetto di fiducia è multidimensionale e comprende aspetti cognitivi, emotivi e sistemici.
In ambito tecnologico, la fiducia si costruisce attraverso la percezione di sicurezza, prevedibilità e allineamento etico.
Secondo Mo, Patel e Hwang (6), la fiducia negli agenti di IA è il risultato di un equilibrio dinamico tra trasparenza del sistema, gestione del rischio e responsabilità condivisa.
La fiducia come fondamento dell’adozione dell’IA
Il Trustworthy AI Framework dell’Unione Europea definisce sette requisiti per un’intelligenza artificiale affidabile: l’agency umana, la robustezza tecnica, la privacy e la governance dei dati, la trasparenza, la diversità, il benessere sociale e la responsabilità.
Tuttavia, la sicurezza informatica, pur essendo implicita, rimane un elemento sottovalutato.
L’approccio basato sul rischio
L’approccio basato sul rischio (risk-based approach) deriva originariamente dal settore finanziario e dalla sicurezza delle informazioni.
Nel contesto dell’intelligenza artificiale, il NIST AI Risk Management Framework introduce un modello di gestione del rischio che identifica, valuta e mitiga le minacce derivanti dalle vulnerabilità tecniche e comportamentali dei sistemi di IA.
L’ANSSI e il Canadian Centre for Cyber Security (CCCS) sostengono che la fiducia nell’IA può essere costruita solo attraverso una valutazione continua del rischio cyber associato ai dati, ai modelli e alle infrastrutture.
Questa visione si allinea con la filosofia della Zero Trust Architecture (Ajish, 1), secondo la quale nessun elemento del sistema deve essere considerato affidabile in modo intrinseco.
Limiti degli approcci attuali
Nonostante l’abbondanza di linee guida, la maggior parte delle organizzazioni adotta un approccio frammentato, focalizzandosi sulla conformità e sull’auditing, piuttosto che su una gestione proattiva del rischio.
Kulothungan (5) evidenzia come la fiducia sia spesso considerata un attributo post-progettuale, invece di essere ritenuta un principio integrato nel ciclo di vita dell’IA.
Rischi cibernetici emergenti nei sistemi IA
Gli attacchi ai sistemi di IA assumono forme sofisticate: avvelenamento dei dati (data poisoning), manipolazione dei modelli (model inversion), e attacchi avversari (Holstege, Müller & Zhang, 4).
Questi vettori di rischio compromettono la robustezza e l’integrità dei modelli, erodendo la fiducia degli utenti.
Le vulnerabilità presenti nella supply chain dei modelli pre-addestrati (come GPT o BERT) generano rischi sistemici, difficili da controllare a livello organizzativo.
L’approccio basato sul rischio richiede una mappatura continua degli asset e delle dipendenze (ENISA).
Gestione del rischio come principio della fiducia
La fiducia nell’IA emerge come risultato della gestione efficace del rischio e non come condizione preesistente.
Mo et al. (6) propongono un framework Trust–Risk–Liability (TRL) secondo il quale la fiducia è una funzione della trasparenza e della prevedibilità del rischio residuo.
- identificazione e classificazione delle vulnerabilità;
- mitigazione proporzionata alla criticità;
- comunicazione trasparente agli stakeholder.
Integrazione con modelli di sicurezza avanzati
- validazione dei modelli su pipeline sicure;
- controllo degli accessi basato su contesto e ruolo;
- audit continuo dei dati e dei comportamenti dei modelli.
Governance e responsabilità
I 3 domini e i 4 livelli di maturità del modello integrato
- Cyber Risk Management: identificazione, valutazione e mitigazione del rischio cyber lungo il ciclo di vita dell’IA.
- Trust Governance: definizione dei ruoli e delle responsabilità nella costruzione della fiducia, dalla progettazione alla dismissione del modello.
- Continuous Monitoring & Feedback: misurazione costante di trasparenza, robustezza e conformità.
Il modello prevede 4 livelli di maturità:
- Reactive: risposta agli incidenti.
- Proactive: gestione preventiva dei rischi.
- Adaptive: apprendimento continuo dalle anomalie.
- Trust-Centric: fiducia integrata nella governance aziendale.
Casi di studio
Sfide, limiti e prospettive future
- assenza di metriche universalmente accettate per misurare la fiducia,
- scarsa interoperabilità tra framework normativi,
- complessità tecnica nella valutazione del rischio residuo,
- mancanza di formazione specialistica sul rischio IA-cyber.
- sviluppo di un “AI Trustworthiness Index” basato su KPI misurabili,
- certificazioni “AI Trust by Design”,
- integrazione tra cybersecurity e audit etico.
La fiducia nell’intelligenza artificiale come proprietà verificabile dei sistemi intelligenti
Bibliografia
Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · LinkedIn