Intelligenza artificiale responsabile: rischi e contromisure
di Vincenzo Calabrò · Pubblicato il
Abstract
L’articolo affronta il divario tra i principi etici dell’intelligenza artificiale e la loro attuazione. Definisce i principi dell’IA responsabile, cioè equità, trasparenza e spiegabilità, responsabilità e verificabilità, privacy e governance dei dati, robustezza e sicurezza, supervisione umana. Analizza i rischi principali, dal bias all’opacità dei modelli, dagli attacchi ai dati di addestramento agli impatti sociali e ambientali. Propone contromisure tecniche, documentazione come model card e datasheet, governance organizzativa e audit esterni, e descrive il quadro normativo, dall’AI Act alla legge italiana 132/2025, con NIST AI RMF e ISO/IEC 42001.
Dai principi alla pratica
L’intelligenza artificiale è diventata uno strumento ordinario in quasi tutti i settori. Con la sua diffusione è cresciuta l’esigenza di sistemi equi, trasparenti e controllabili, che non producano discriminazioni, errori gravi o danni difficili da attribuire. Negli ultimi anni sono stati pubblicati decine di documenti di principi etici. Il problema è tradurli in pratiche concrete, perché i rischi dell’IA nascono dall’interazione tra algoritmi, dati e contesti sociali e istituzionali, e raramente si risolvono con un solo intervento tecnico.
L’articolo descrive i principi dell’IA responsabile, analizza i rischi principali, presenta le contromisure disponibili e il quadro normativo che ne rende obbligatoria una parte.
I principi
Herrera-Poyatos e colleghi (2025) definiscono responsabile un sistema di IA che garantisce verificabilità e attribuzione delle responsabilità durante progettazione, sviluppo e uso, in conformità con le norme del suo ambito di applicazione. I principi più condivisi, ripresi anche dalle linee guida del gruppo di specialisti della Commissione europea del 2019, sono:
- equità e non discriminazione, per evitare che il sistema crei o amplifichi pregiudizi verso persone o gruppi;
- trasparenza e spiegabilità, perché decisioni e risultati siano tracciabili e comprensibili per chi li usa o li subisce;
- responsabilità e verificabilità, con meccanismi chiari per attribuire le responsabilità e permettere controlli di terze parti;
- privacy e governance dei dati, con protezione dei dati personali e gestione corretta lungo tutto il ciclo di vita;
- robustezza tecnica e sicurezza, perché il sistema funzioni come previsto, resista agli attacchi e gestisca errori e situazioni impreviste;
- supervisione umana, perché le persone possano intervenire, correggere o fermare il sistema, soprattutto nei contesti ad alto rischio.
Termini come IA affidabile, IA etica o IA centrata sull’uomo vengono usati spesso come sinonimi. Le sfumature esistono, ma l’obiettivo comune è allineare lo sviluppo tecnologico ai diritti delle persone.
I rischi
Bias e discriminazione
Il bias può avere più origini:
- i dati, quando sono incompleti, poco rappresentativi o riflettono discriminazioni del passato;
- il modello, quando le scelte di progettazione incorporano ipotesi distorte;
- l’uso, quando l’interazione con gli utenti rafforza schemi discriminatori.
Correggere le metriche statistiche non è sufficiente. Hoffmann (2019) avverte che gli interventi puramente tecnici rischiano di dare una patina di equità a sistemi che restano discriminatori nei loro effetti, distogliendo l’attenzione dalle responsabilità istituzionali. Il problema è ancora più complesso per chi appartiene a più gruppi svantaggiati insieme, una condizione che le analisi per singolo gruppo non colgono.
Opacità
Molti modelli avanzati, in particolare le reti neurali profonde, funzionano come scatole nere. L’opacità rende difficile giustificare le decisioni, attribuire responsabilità e conquistare la fiducia, soprattutto in sanità, giustizia, credito e lavoro. Anche le spiegazioni possono ingannare. Turpin e colleghi (2023) hanno mostrato che i ragionamenti passo per passo prodotti dai modelli linguistici possono sembrare coerenti senza riflettere il processo che ha portato alla risposta, generando una falsa sensazione di comprensione.
Privacy e sicurezza
I sistemi di IA richiedono grandi quantità di dati, con rischi di sorveglianza, consenso poco informato e uso improprio, che colpiscono di più le persone vulnerabili. Sono inoltre esposti ad attacchi specifici:
- l’avvelenamento dei dati (poisoning), con cui un attaccante altera i dati di addestramento per modificare il comportamento del modello;
- gli attacchi di inferenza, che ricavano dai risultati o dai parametri del modello informazioni sui dati usati per addestrarlo;
- gli input costruiti per ingannare il modello e, nei sistemi basati su modelli linguistici, la prompt injection.
Anche l’apprendimento federato, che tiene i dati sui dispositivi degli utenti, protegge la privacy solo in parte e resta esposto a questi attacchi.
Impatti sociali, economici e ambientali
I modelli generativi possono amplificare la disinformazione e la manipolazione dell’opinione pubblica, come avvertivano già Bender e colleghi (2021). Si aggiungono gli effetti sul lavoro, il rischio di nuove disuguaglianze e il consumo di energia e acqua per addestrare ed eseguire i modelli più grandi.
Le contromisure
Strumenti tecnici
Gli strumenti tecnici aiutano a individuare e correggere i problemi, ma vanno usati conoscendone i limiti:
| Tecnica | Che cosa fa | Limiti |
| Metriche di equità | Misurano differenze di risultato o di errore tra gruppi, come la parità statistica o le pari opportunità | Definizioni diverse di equità sono spesso incompatibili tra loro, e le metriche misurano gli effetti senza toccare le cause |
| Metodi di spiegabilità | Tecniche come SHAP o LIME stimano il contributo di ciascun fattore a una decisione | Le spiegazioni sono approssimazioni e possono dare un’illusione di comprensione |
| Apprendimento federato | Addestra un modello comune lasciando i dati presso chi li possiede | Resta esposto ad avvelenamento e inferenza e richiede ulteriori protezioni |
| Test avversari e red teaming | Mettono alla prova il sistema con input ostili e scenari di abuso | Coprono solo i casi immaginati da chi li progetta |
Documentazione
Una documentazione strutturata rende verificabili le scelte fatte lungo il ciclo di vita del sistema:
- le model card (Mitchell e colleghi, 2019) descrivono usi previsti, prestazioni, valutazioni per gruppi e limiti di un modello;
- i datasheet for datasets (Gebru e colleghi, 2021) documentano motivazioni, composizione e modalità di raccolta di un insieme di dati, aiutando a scoprire problemi di rappresentatività prima dell’addestramento;
- i data statement (Bender e Friedman, 2018) descrivono la popolazione e il contesto da cui provengono i dati linguistici.
Governance
Tecnica e documentazione servono a poco senza un’organizzazione che le sostenga. Le buone pratiche comprendono:
- un inventario dei sistemi di IA in uso, compresi quelli forniti da terzi;
- ruoli e responsabilità chiari per la supervisione e la gestione del rischio;
- valutazioni d’impatto sistematiche, aiutate da strumenti come la Responsible AI Question Bank (2024);
- formazione del personale sui rischi e sui principi;
- procedure per segnalare e gestire incidenti e malfunzionamenti.
Partecipazione e audit esterni
Le prospettive esterne aiutano a scoprire problemi che chi sviluppa non vede. Audit indipendenti e programmi di bias bounty, ispirati ai bug bounty della sicurezza informatica, premiano chi individua comportamenti discriminatori o dannosi, e coinvolgono le comunità più direttamente interessate.
Il quadro normativo
L’AI Act
Il Regolamento (UE) 2024/1689, in vigore dal 1° agosto 2024, adotta un approccio basato sul rischio. Vieta alcune pratiche dal 2 febbraio 2025, impone obblighi ai fornitori di modelli per finalità generali dal 2 agosto 2025 e prevede requisiti per i sistemi ad alto rischio, come quelli usati in sanità, infrastrutture critiche, istruzione o selezione del personale:
- un sistema di gestione del rischio per tutto il ciclo di vita;
- governance e qualità dei dati, per limitare i bias;
- documentazione tecnica e registrazione automatica degli eventi;
- trasparenza verso chi utilizza il sistema;
- supervisione umana efficace;
- accuratezza, robustezza e sicurezza informatica adeguate.
In Italia la legge 23 settembre 2025, n. 132, affianca il regolamento con disposizioni nazionali su principi, settori di applicazione, governance e tutela penale, e individua in AgID e ACN le autorità nazionali per l’intelligenza artificiale.
Altri riferimenti
- i Principi sull’IA dell’OCSE, adottati nel 2019 e aggiornati nel 2024;
- il NIST AI Risk Management Framework del 2023, un quadro volontario organizzato nelle funzioni Govern, Map, Measure e Manage;
- la norma ISO/IEC 42001:2023, che definisce i requisiti di un sistema di gestione dell’intelligenza artificiale e può essere certificata;
- la ISO/IEC 23894:2023, dedicata alla gestione del rischio nei sistemi di IA.
Le regole fissano gli obiettivi e i requisiti minimi. Resta a ricerca e industria il compito di sviluppare metodi e strumenti per raggiungerli senza soffocare l’innovazione, con attenzione agli oneri per le piccole e medie imprese.
Considerazioni finali
L’IA responsabile è un problema sociotecnico, che nessuna metrica o algoritmo risolve da solo. Tre indicazioni emergono con chiarezza:
- la responsabilità va oltre la tecnica, perché principi come l’equità richiedono di considerare il contesto sociale e le dinamiche di potere;
- la governance deve essere adattiva, capace di bilanciare indirizzo centrale e autonomia dei gruppi che sviluppano e usano i sistemi;
- la fiducia si costruisce con processi verificabili, documentazione standard e controlli interni ed esterni.
Le priorità per il futuro comprendono metodi per valutare l’equità tra gruppi che si sovrappongono, parametri comuni per misurare la conformità ai principi e modelli di collaborazione tra persone e sistemi di IA che rafforzino il giudizio umano.
Riferimenti bibliografici
- Bender, E. M., e Friedman, B. (2018). Data Statements for Natural Language Processing. Transactions of the Association for Computational Linguistics, 6, 587-604.
- Bender, E. M., Gebru, T., McMillan-Major, A., e Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. Proceedings of ACM FAccT 2021.
- Gebru, T. et al. (2021). Datasheets for Datasets. Communications of the ACM, 64(12), 86-92.
- Gruppo di esperti ad alto livello sull’IA (2019). Orientamenti etici per un’IA affidabile. Commissione europea.
- Herrera-Poyatos, A. et al. (2025). Responsible Artificial Intelligence Systems. A Roadmap to Society’s Trust through Trustworthy AI, Auditability, Accountability, and Governance. arXiv.
- Hoffmann, A. L. (2019). Where fairness fails. Information, Communication & Society, 22(7), 900-915.
- Legge 23 settembre 2025, n. 132. Disposizioni e deleghe al Governo in materia di intelligenza artificiale.
- Mitchell, M. et al. (2019). Model Cards for Model Reporting. Proceedings of FAT* 2019.
- NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0).
- Regolamento (UE) 2024/1689 (AI Act).
- Turpin, M., Michael, J., Perez, E., e Bowman, S. R. (2023). Language Models Don’t Always Say What They Think. NeurIPS 2023.
Vedi anche: gli articoli Generative Artificial Intelligence (GenAI): Misurare e rendere affidabile un sistema di AI (2025), Generative Artificial Intelligence (GenAI): Explainable AI e Hybrid AI (2025), La nuova normativa italiana sull’IA: principi, applicazioni e governance della Legge 132/2025 (2025) e Costruire la fiducia nell’AI: un approccio basato sul rischio cyber (2026).
Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · Wikidata · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · Amazon · LinkedIn · YouTube · Ordine degli Ingegneri di Reggio Calabria