Articoli e white paper Pubblicazioni

Intelligenza Artificiale Generativa14 voci

Tra gennaio e aprile 2025 ho pubblicato su ICT Security Magazine una serie in dieci parti sulla Generative Artificial Intelligence. Spiega come funziona, quali rischi introduce, come si valutano e come si riducono. Qui la trovi insieme agli altri articoli sul tema e al white paper del 2024.

di · Aggiornato il

Il tema

Un modello generativo impara la distribuzione statistica dei dati su cui è addestrato e la usa per produrre contenuti nuovi. I Large Language Model, basati sull’architettura transformer, scrivono un token alla volta; per immagini, audio e video si usano anche VAE, GAN e diffusion model. I foundation model, addestrati su dati generalisti e poi adattati con il fine-tuning o affiancati dalla RAG, sono alla base di assistenti, strumenti per sviluppatori e servizi aziendali.

Gli stessi modelli possono inventare fatti (allucinazioni), riprodurre i bias dei dati, rivelare informazioni riservate ed essere manipolati con prompt injection o dati avvelenati. A chi attacca offrono phishing più convincente, disinformazione e deepfake a basso costo. Chi li adotta deve valutarne i rischi prima dell’uso e mantenere trasparenza e supervisione umana anche dopo.

Gli argomenti

Come funziona. La seconda parte della serie, Evoluzione, funzionamento e impatto sulla trasformazione digitale, ripercorre la storia della GenAI fino ai foundation model e ne descrive architetture e metodi di apprendimento. La prima parte spiega perché nel 2024 la GenAI stava superando il «Peak of Inflated Expectations» e quali fragilità mostrano gli LLM.

I rischi. La terza parte propone una tassonomia dei rischi e si sofferma sulla fusione di codice e dati e sull’interazione uomo-sistema (Sicurezza e protezione). La quarta tratta confidenzialità, integrità e governance (Il futuro dell’IA generativa e i potenziali cyber rischi). Per chi usa la GenAI e per chi la integra nei servizi IT/OT ho scritto anche Intelligenza Artificiale Generativa (GenAI) e Cybersecurity.

Valutare il rischio. La quinta parte, Valutazione dei rischi nella IA generativa, analizza gli attributi funzionali e qualitativi dei sistemi generativi, le tre dimensioni del rischio informatico, i criteri di valutazione e il ruolo di un AI red team.

Bias e machine unlearning. Come verificare e ridurre i bias di un LLM, anche con esperimenti di role-playing, è il tema della sesta parte (Potenziali strategie di mitigazione). La settima riguarda il machine unlearning, cioè la rimozione da un modello di dati errati o non autorizzati (Machine Unlearning: metodologie di mitigazione).

Affidabilità ed explainability. L’ottava parte si chiede come misurare la fiducia in un sistema di IA e come progettarlo perché la meriti (Misurare e rendere affidabile un sistema di AI). La nona presenta Explainable AI e Hybrid AI come strade per rendere leggibili le decisioni dei modelli (Explainable AI e Hybrid AI).

Deepfake. Come si costruisce un deepfake con VAE, GAN, diffusion model e transformer, e come lo si riconosce usando la stessa intelligenza artificiale (I deepfake: come rilevarli per difendersi dalla disinformazione).

Dove sta andando. La decima e ultima parte guarda ad agenti intelligenti, AI neuro-simbolica, federated learning e quantum AI (Opportunità e sfide). Il contributo della GenAI alla difesa, per esempio nel triage delle minacce di un security operations center, è discusso in Il contributo della Generative Artificial Intelligence (GenAI) alla cybersecurity.

Prime letture

Standard e riferimenti

Chi scrive

Questa pagina raccoglie 14 miei contributi pubblicati tra il 2024 e il 2025 (13 articoli e un white paper). Di questi, 11 sono usciti anche su ICT Security Magazine e Cybersecurity360. Il mio percorso professionale è descritto nel curriculum.

Articoli13 voci

White paper1 voce