Articoli e white paper Pubblicazioni

Ingegneria e Affidabilità dell'IA11 voci

Un modello che funziona in laboratorio può sbagliare in produzione senza che nessuno se ne accorga. L’ingegneria dei sistemi di IA serve a evitarlo, con metodi per progettare, misurare e tenere sotto controllo i modelli.

di · Aggiornato il

Il tema

Nel software tradizionale il comportamento è scritto nel codice. In un sistema di IA dipende dai dati di addestramento, e i test funzionali da soli lo verificano solo in parte. Anche un modello accurato in validazione può sbagliare davanti a input diversi da quelli visti durante l’addestramento, peggiorare quando i dati cambiano (data drift) o rispondere in modo diverso a piccole variazioni della stessa domanda.

L’ingegneria dell’IA usa strumenti propri, come metriche che vanno oltre la precisione, rilevamento degli input Out of Distribution, explainability, analisi dei rischi a livello di sistema e pipeline MLOps che rendono ripetibili addestramento, rilascio e monitoraggio. Lo scopo è arrivare a sistemi la cui affidabilità si possa misurare e documentare.

Gli argomenti

Le pratiche del SEI. Nel maggio 2026 il Software Engineering Institute della Carnegie Mellon University ha aggiornato il suo documento di riferimento sull’ingegneria dei sistemi di IA con dodici pratiche, pensate come guida per le scelte di progetto. Ne ho scritto una sintesi con un commento critico (Le 12 best practice dell’ingegneria dei sistemi di intelligenza artificiale).

Misurare l’affidabilità. Nel 2023 ho scritto di indicatori di affidabilità, fiducia degli utenti e criteri di progettazione in Come misurare e rendere affidabile un sistema di intelligenza artificiale, e ho ripreso il tema nella serie sulla GenAI. Per gli LLM usati nei sistemi critici contano tre proprietà, precisione, regolazione e stabilità, analizzate in Le proprietà dei LLM applicati ai sistemi critici.

Out of Distribution. Se un modello riceve dati molto diversi da quelli di addestramento e nessuno lo rileva, l’errore può passare inosservato anche in un sistema mission critical. Out of Distribution (OoD) ne analizza cause e scenari e presenta tre approcci (OoD detection, robustness e generalization).

Explainability e analisi di sistema. Explainable AI e Hybrid AI cercano di rendere comprensibili le decisioni dei modelli (Explainable AI e Hybrid AI). L’analisi STPA, basata sulla teoria dei sistemi, offre un metodo strutturato per individuare i rischi degli LLM nei processi in cui sono inseriti (Analisi dei processi e teoria dei sistemi).

Fiducia e rischio cyber. Costruire la fiducia nell’AI parte dal NIST AI Risk Management Framework e lega la fiducia a trasparenza, robustezza e governance responsabile, con un approccio basato sul rischio cyber.

In produzione. L’MLOps porta nel machine learning le pratiche DevOps e si regge su quattro principi (sviluppo e sperimentazione, integrazione continua, consegna continua, monitoraggio e gestione). Il white paper Scalable and Reliable Systems nell'era dell'Artificial Intelligence guarda al rapporto tra IA e sistemi distribuiti nei due sensi, cioè le architetture che servono per addestrare ed eseguire i modelli e l’IA usata per gestire i sistemi. Chi vuole provare può partire da Implementare un Large Language Model locale, che spiega come installare Ollama e Open WebUI su Windows.

Prime letture

Standard e riferimenti

Chi scrive

Questa pagina raccoglie 11 miei contributi pubblicati tra il 2023 e il 2026 (9 articoli e due white paper). Di questi, 9 sono usciti anche su Cybersecurity360 e ICT Security Magazine. Sullo stesso tema ho tenuto 4 interventi tra corsi e seminari, elencati nella pagina Eventi su Ingegneria e Affidabilità dell'IA. Il mio percorso professionale è descritto nel curriculum.

Articoli9 voci

White paper2 voci