Articolo Pubblicazioni

Intelligenza artificiale responsabile: rischi e contromisure

di · Pubblicato il

Abstract

L’articolo affronta il divario tra i principi etici dell’intelligenza artificiale e la loro attuazione. Definisce i principi dell’IA responsabile, cioè equità, trasparenza e spiegabilità, responsabilità e verificabilità, privacy e governance dei dati, robustezza e sicurezza, supervisione umana. Analizza i rischi principali, dal bias all’opacità dei modelli, dagli attacchi ai dati di addestramento agli impatti sociali e ambientali. Propone contromisure tecniche, documentazione come model card e datasheet, governance organizzativa e audit esterni, e descrive il quadro normativo, dall’AI Act alla legge italiana 132/2025, con NIST AI RMF e ISO/IEC 42001.


Vincenzo Calabrò | Intelligenza artificiale responsabile: rischi e contromisure

Dai principi alla pratica

L’intelligenza artificiale è diventata uno strumento ordinario in quasi tutti i settori. Con la sua diffusione è cresciuta l’esigenza di sistemi equi, trasparenti e controllabili, che non producano discriminazioni, errori gravi o danni difficili da attribuire. Negli ultimi anni sono stati pubblicati decine di documenti di principi etici. Il problema è tradurli in pratiche concrete, perché i rischi dell’IA nascono dall’interazione tra algoritmi, dati e contesti sociali e istituzionali, e raramente si risolvono con un solo intervento tecnico.
L’articolo descrive i principi dell’IA responsabile, analizza i rischi principali, presenta le contromisure disponibili e il quadro normativo che ne rende obbligatoria una parte.

I principi

Herrera-Poyatos e colleghi (2025) definiscono responsabile un sistema di IA che garantisce verificabilità e attribuzione delle responsabilità durante progettazione, sviluppo e uso, in conformità con le norme del suo ambito di applicazione. I principi più condivisi, ripresi anche dalle linee guida del gruppo di specialisti della Commissione europea del 2019, sono:
  • equità e non discriminazione, per evitare che il sistema crei o amplifichi pregiudizi verso persone o gruppi;
  • trasparenza e spiegabilità, perché decisioni e risultati siano tracciabili e comprensibili per chi li usa o li subisce;
  • responsabilità e verificabilità, con meccanismi chiari per attribuire le responsabilità e permettere controlli di terze parti;
  • privacy e governance dei dati, con protezione dei dati personali e gestione corretta lungo tutto il ciclo di vita;
  • robustezza tecnica e sicurezza, perché il sistema funzioni come previsto, resista agli attacchi e gestisca errori e situazioni impreviste;
  • supervisione umana, perché le persone possano intervenire, correggere o fermare il sistema, soprattutto nei contesti ad alto rischio.
Termini come IA affidabile, IA etica o IA centrata sull’uomo vengono usati spesso come sinonimi. Le sfumature esistono, ma l’obiettivo comune è allineare lo sviluppo tecnologico ai diritti delle persone.

I rischi

Bias e discriminazione

Il bias può avere più origini:
  • i dati, quando sono incompleti, poco rappresentativi o riflettono discriminazioni del passato;
  • il modello, quando le scelte di progettazione incorporano ipotesi distorte;
  • l’uso, quando l’interazione con gli utenti rafforza schemi discriminatori.
Correggere le metriche statistiche non è sufficiente. Hoffmann (2019) avverte che gli interventi puramente tecnici rischiano di dare una patina di equità a sistemi che restano discriminatori nei loro effetti, distogliendo l’attenzione dalle responsabilità istituzionali. Il problema è ancora più complesso per chi appartiene a più gruppi svantaggiati insieme, una condizione che le analisi per singolo gruppo non colgono.

Opacità

Molti modelli avanzati, in particolare le reti neurali profonde, funzionano come scatole nere. L’opacità rende difficile giustificare le decisioni, attribuire responsabilità e conquistare la fiducia, soprattutto in sanità, giustizia, credito e lavoro. Anche le spiegazioni possono ingannare. Turpin e colleghi (2023) hanno mostrato che i ragionamenti passo per passo prodotti dai modelli linguistici possono sembrare coerenti senza riflettere il processo che ha portato alla risposta, generando una falsa sensazione di comprensione.

Privacy e sicurezza

I sistemi di IA richiedono grandi quantità di dati, con rischi di sorveglianza, consenso poco informato e uso improprio, che colpiscono di più le persone vulnerabili. Sono inoltre esposti ad attacchi specifici:
  • l’avvelenamento dei dati (poisoning), con cui un attaccante altera i dati di addestramento per modificare il comportamento del modello;
  • gli attacchi di inferenza, che ricavano dai risultati o dai parametri del modello informazioni sui dati usati per addestrarlo;
  • gli input costruiti per ingannare il modello e, nei sistemi basati su modelli linguistici, la prompt injection.
Anche l’apprendimento federato, che tiene i dati sui dispositivi degli utenti, protegge la privacy solo in parte e resta esposto a questi attacchi.

Impatti sociali, economici e ambientali

I modelli generativi possono amplificare la disinformazione e la manipolazione dell’opinione pubblica, come avvertivano già Bender e colleghi (2021). Si aggiungono gli effetti sul lavoro, il rischio di nuove disuguaglianze e il consumo di energia e acqua per addestrare ed eseguire i modelli più grandi.

Le contromisure

Strumenti tecnici

Gli strumenti tecnici aiutano a individuare e correggere i problemi, ma vanno usati conoscendone i limiti:
Tecnica Che cosa fa Limiti
Metriche di equità Misurano differenze di risultato o di errore tra gruppi, come la parità statistica o le pari opportunità Definizioni diverse di equità sono spesso incompatibili tra loro, e le metriche misurano gli effetti senza toccare le cause
Metodi di spiegabilità Tecniche come SHAP o LIME stimano il contributo di ciascun fattore a una decisione Le spiegazioni sono approssimazioni e possono dare un’illusione di comprensione
Apprendimento federato Addestra un modello comune lasciando i dati presso chi li possiede Resta esposto ad avvelenamento e inferenza e richiede ulteriori protezioni
Test avversari e red teaming Mettono alla prova il sistema con input ostili e scenari di abuso Coprono solo i casi immaginati da chi li progetta

Documentazione

Una documentazione strutturata rende verificabili le scelte fatte lungo il ciclo di vita del sistema:
  • le model card (Mitchell e colleghi, 2019) descrivono usi previsti, prestazioni, valutazioni per gruppi e limiti di un modello;
  • i datasheet for datasets (Gebru e colleghi, 2021) documentano motivazioni, composizione e modalità di raccolta di un insieme di dati, aiutando a scoprire problemi di rappresentatività prima dell’addestramento;
  • i data statement (Bender e Friedman, 2018) descrivono la popolazione e il contesto da cui provengono i dati linguistici.

Governance

Tecnica e documentazione servono a poco senza un’organizzazione che le sostenga. Le buone pratiche comprendono:
  • un inventario dei sistemi di IA in uso, compresi quelli forniti da terzi;
  • ruoli e responsabilità chiari per la supervisione e la gestione del rischio;
  • valutazioni d’impatto sistematiche, aiutate da strumenti come la Responsible AI Question Bank (2024);
  • formazione del personale sui rischi e sui principi;
  • procedure per segnalare e gestire incidenti e malfunzionamenti.

Partecipazione e audit esterni

Le prospettive esterne aiutano a scoprire problemi che chi sviluppa non vede. Audit indipendenti e programmi di bias bounty, ispirati ai bug bounty della sicurezza informatica, premiano chi individua comportamenti discriminatori o dannosi, e coinvolgono le comunità più direttamente interessate.

Il quadro normativo

L’AI Act

Il Regolamento (UE) 2024/1689, in vigore dal 1° agosto 2024, adotta un approccio basato sul rischio. Vieta alcune pratiche dal 2 febbraio 2025, impone obblighi ai fornitori di modelli per finalità generali dal 2 agosto 2025 e prevede requisiti per i sistemi ad alto rischio, come quelli usati in sanità, infrastrutture critiche, istruzione o selezione del personale:
  • un sistema di gestione del rischio per tutto il ciclo di vita;
  • governance e qualità dei dati, per limitare i bias;
  • documentazione tecnica e registrazione automatica degli eventi;
  • trasparenza verso chi utilizza il sistema;
  • supervisione umana efficace;
  • accuratezza, robustezza e sicurezza informatica adeguate.
In Italia la legge 23 settembre 2025, n. 132, affianca il regolamento con disposizioni nazionali su principi, settori di applicazione, governance e tutela penale, e individua in AgID e ACN le autorità nazionali per l’intelligenza artificiale.

Altri riferimenti

  • i Principi sull’IA dell’OCSE, adottati nel 2019 e aggiornati nel 2024;
  • il NIST AI Risk Management Framework del 2023, un quadro volontario organizzato nelle funzioni Govern, Map, Measure e Manage;
  • la norma ISO/IEC 42001:2023, che definisce i requisiti di un sistema di gestione dell’intelligenza artificiale e può essere certificata;
  • la ISO/IEC 23894:2023, dedicata alla gestione del rischio nei sistemi di IA.
Le regole fissano gli obiettivi e i requisiti minimi. Resta a ricerca e industria il compito di sviluppare metodi e strumenti per raggiungerli senza soffocare l’innovazione, con attenzione agli oneri per le piccole e medie imprese.

Considerazioni finali

L’IA responsabile è un problema sociotecnico, che nessuna metrica o algoritmo risolve da solo. Tre indicazioni emergono con chiarezza:
  • la responsabilità va oltre la tecnica, perché principi come l’equità richiedono di considerare il contesto sociale e le dinamiche di potere;
  • la governance deve essere adattiva, capace di bilanciare indirizzo centrale e autonomia dei gruppi che sviluppano e usano i sistemi;
  • la fiducia si costruisce con processi verificabili, documentazione standard e controlli interni ed esterni.
Le priorità per il futuro comprendono metodi per valutare l’equità tra gruppi che si sovrappongono, parametri comuni per misurare la conformità ai principi e modelli di collaborazione tra persone e sistemi di IA che rafforzino il giudizio umano.

Riferimenti bibliografici

  • Bender, E. M., e Friedman, B. (2018). Data Statements for Natural Language Processing. Transactions of the Association for Computational Linguistics, 6, 587-604.
  • Bender, E. M., Gebru, T., McMillan-Major, A., e Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. Proceedings of ACM FAccT 2021.
  • Gebru, T. et al. (2021). Datasheets for Datasets. Communications of the ACM, 64(12), 86-92.
  • Gruppo di esperti ad alto livello sull’IA (2019). Orientamenti etici per un’IA affidabile. Commissione europea.
  • Herrera-Poyatos, A. et al. (2025). Responsible Artificial Intelligence Systems. A Roadmap to Society’s Trust through Trustworthy AI, Auditability, Accountability, and Governance. arXiv.
  • Hoffmann, A. L. (2019). Where fairness fails. Information, Communication & Society, 22(7), 900-915.
  • Legge 23 settembre 2025, n. 132. Disposizioni e deleghe al Governo in materia di intelligenza artificiale.
  • Mitchell, M. et al. (2019). Model Cards for Model Reporting. Proceedings of FAT* 2019.
  • NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0).
  • Regolamento (UE) 2024/1689 (AI Act).
  • Turpin, M., Michael, J., Perez, E., e Bowman, S. R. (2023). Language Models Don’t Always Say What They Think. NeurIPS 2023.
 
 

Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.
Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · Wikidata · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · Amazon · LinkedIn · YouTube · Ordine degli Ingegneri di Reggio Calabria