Intelligenza Artificiale Generativa14 voci
Tra gennaio e aprile 2025 ho pubblicato su ICT Security Magazine una serie in dieci parti sulla Generative Artificial Intelligence. Spiega come funziona, quali rischi introduce, come si valutano e come si riducono. Qui la trovi insieme agli altri articoli sul tema e al white paper del 2024.
di Vincenzo Calabrò · Aggiornato il
Il tema
Un modello generativo impara la distribuzione statistica dei dati su cui è addestrato e la usa per produrre contenuti nuovi. I Large Language Model, basati sull’architettura transformer, scrivono un token alla volta; per immagini, audio e video si usano anche VAE, GAN e diffusion model. I foundation model, addestrati su dati generalisti e poi adattati con il fine-tuning o affiancati dalla RAG, sono alla base di assistenti, strumenti per sviluppatori e servizi aziendali.
Gli stessi modelli possono inventare fatti (allucinazioni), riprodurre i bias dei dati, rivelare informazioni riservate ed essere manipolati con prompt injection o dati avvelenati. A chi attacca offrono phishing più convincente, disinformazione e deepfake a basso costo. Chi li adotta deve valutarne i rischi prima dell’uso e mantenere trasparenza e supervisione umana anche dopo.
Gli argomenti
Come funziona. La seconda parte della serie, Evoluzione, funzionamento e impatto sulla trasformazione digitale, ripercorre la storia della GenAI fino ai foundation model e ne descrive architetture e metodi di apprendimento. La prima parte spiega perché nel 2024 la GenAI stava superando il «Peak of Inflated Expectations» e quali fragilità mostrano gli LLM.
I rischi. La terza parte propone una tassonomia dei rischi e si sofferma sulla fusione di codice e dati e sull’interazione uomo-sistema (Sicurezza e protezione). La quarta tratta confidenzialità, integrità e governance (Il futuro dell’IA generativa e i potenziali cyber rischi). Per chi usa la GenAI e per chi la integra nei servizi IT/OT ho scritto anche Intelligenza Artificiale Generativa (GenAI) e Cybersecurity.
Valutare il rischio. La quinta parte, Valutazione dei rischi nella IA generativa, analizza gli attributi funzionali e qualitativi dei sistemi generativi, le tre dimensioni del rischio informatico, i criteri di valutazione e il ruolo di un AI red team.
Bias e machine unlearning. Come verificare e ridurre i bias di un LLM, anche con esperimenti di role-playing, è il tema della sesta parte (Potenziali strategie di mitigazione). La settima riguarda il machine unlearning, cioè la rimozione da un modello di dati errati o non autorizzati (Machine Unlearning: metodologie di mitigazione).
Affidabilità ed explainability. L’ottava parte si chiede come misurare la fiducia in un sistema di IA e come progettarlo perché la meriti (Misurare e rendere affidabile un sistema di AI). La nona presenta Explainable AI e Hybrid AI come strade per rendere leggibili le decisioni dei modelli (Explainable AI e Hybrid AI).
Deepfake. Come si costruisce un deepfake con VAE, GAN, diffusion model e transformer, e come lo si riconosce usando la stessa intelligenza artificiale (I deepfake: come rilevarli per difendersi dalla disinformazione).
Dove sta andando. La decima e ultima parte guarda ad agenti intelligenti, AI neuro-simbolica, federated learning e quantum AI (Opportunità e sfide). Il contributo della GenAI alla difesa, per esempio nel triage delle minacce di un security operations center, è discusso in Il contributo della Generative Artificial Intelligence (GenAI) alla cybersecurity.
Prime letture
- Generative Artificial Intelligence (GenAI): Analisi completa di rischi, sicurezza e governance dei sistemi AI (2025). La prima parte della serie, con il piano dell’intera analisi.
- Generative Artificial Intelligence (GenAI): Evoluzione, Funzionamento e Impatto sulla Trasformazione Digitale (2025). Come funziona un modello generativo.
- Generative Artificial Intelligence (GenAI): Valutazione dei Rischi nella IA Generativa (2025). Un metodo per valutare i rischi dei sistemi generativi.
- Generative Artificial Intelligence: punti di forza, rischi e contromisure (2024). Il white paper del 2024 su punti di forza, rischi e contromisure.
Standard e riferimenti
- NIST AI 600-1 Generative Artificial Intelligence Profile (2024)
- OWASP Top 10 for LLM Applications
- Regolamento (UE) 2024/1689 AI Act
- C2PA standard per la provenienza e l’autenticità dei contenuti digitali
Chi scrive
Questa pagina raccoglie 14 miei contributi pubblicati tra il 2024 e il 2025 (13 articoli e un white paper). Di questi, 11 sono usciti anche su ICT Security Magazine e Cybersecurity360. Il mio percorso professionale è descritto nel curriculum.
Articoli13 voci
- Generative Artificial Intelligence (GenAI): Opportunità e Sfide. Agenti intelligenti, IA neuro-simbolica, quantistica e federata e progettazione di sistemi etici. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Explainable AI e Hybrid AI. Explainable AI e Hybrid AI contro l’opacità dei modelli, con trasparenza, affidabilità ed etica. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Misurare e rendere affidabile un sistema di AI. Problemi psicologici, tecnici ed etici e criteri per progettare sistemi di IA degni di fiducia. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Machine Unlearning - Metodologie di Mitigazione. Metodologie, tecniche e criteri di valutazione per rimuovere dati specifici da un modello senza riaddestrarlo. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Potenziali Strategie di Mitigazione. Gestione dei bias nei Large Language Model e un caso studio di role-playing per verificarli. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Valutazione dei Rischi nella IA Generativa. Un framework per gestire il rischio dell’IA generativa con i metodi della sicurezza informatica. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Il futuro dell’Intelligenza Artificiale Generativa e potenziali cyber rischi nel campo dell’AI. Vulnerabilità e rischi sistemici dei modelli a reti neurali letti secondo riservatezza, integrità e governance. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Sicurezza e Protezione. Tassonomia dei rischi, superfici di attacco, interazione uomo-sistema e difficoltà di valutazione. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI) e Cybersecurity. Rischi per gli utenti, rischi dell’integrazione nei servizi IT e OT ed effetti sulla sicurezza informatica.
- Il contributo della Generative Artificial Intelligence (GenAI) alla cybersecurity. Attacchi ai modelli, identità macchina e degli sviluppatori come superficie di attacco e supporto dell’IA ai SOC nel 2025.
- Generative Artificial Intelligence (GenAI): Evoluzione, Funzionamento e Impatto sulla Trasformazione Digitale. Storia e funzionamento della GenAI, foundation model, RAG, VAE, GAN, diffusion model e transformer. Pubblicato su ICTSecurityMagazine.com.
- Generative Artificial Intelligence (GenAI): Analisi completa di rischi, sicurezza e governance dei sistemi AI. Il primo articolo della serie, con punti di forza, vulnerabilità e contromisure dei sistemi generativi. Pubblicato su ICTSecurityMagazine.com.
- I deepfake: come rilevarli per difendersi dalla disinformazione. Come nascono i deepfake, perché sono una minaccia e come riconoscerli con indizi visivi, audio, metadati e strumenti di analisi. Pubblicato su CyberSecurity360.it.
White paper1 voce
- Generative Artificial Intelligence: punti di forza, rischi e contromisure Calabrò V., ICT Security Magazine, 2024