IA nella Cyber Security19 voci
L’intelligenza artificiale è usata sia da chi difende sia da chi attacca. Nel 2019 scrivevo dell’IA come strumento di difesa contro gli attacchi; oggi scrivo soprattutto di LLM e di agenti autonomi.
di Vincenzo Calabrò · Aggiornato il
Il tema
In difesa l’IA serve soprattutto a gestire volumi di dati che nessun team potrebbe esaminare a mano. Permette di individuare anomalie e minacce sconosciute, ridurre i falsi positivi, correlare eventi, automatizzare parte della risposta agli incidenti e della threat intelligence. Il machine learning può sbagliare in modi difficili da notare. Dati di scarsa qualità, modelli opachi e tecniche di adversarial machine learning portano a decisioni errate, che si intercettano solo con modelli spiegabili e con un controllo umano.
Gli attaccanti usano gli stessi strumenti per rendere più economici phishing mirato, ricognizione e sviluppo di malware, e i modelli più avanzati mostrano capacità offensive che richiedono safeguard dedicati. Gli agenti AI, che pianificano ed eseguono azioni da soli, cambiano anche l’organizzazione e i costi delle security operations.
Gli argomenti
L’IA in difesa. Il primo articolo, del 2019, riguardava l’intelligenza artificiale nella lotta contro gli attacchi informatici; nel 2022 ho scritto dell’IA come scudo cyber, e nel 2025 ho aggiornato il quadro di benefici, rischi e mitigazioni in Intelligenza Artificiale applicata alla Cybersecurity.
Quanto fidarsi del machine learning. Con il machine learning gli analisti devono esaminare meno eventi, a patto che le risposte del modello si possano capire e verificare. In Il machine learning nella cyber security: opportunità e rischi descrivo il cyber-informed machine learning, un metodo del Software Engineering Institute basato sull’explainability.
Incident response, threat intelligence e OSINT. Le tecniche di IA utili in ciascuna fase della risposta agli incidenti sono esaminate in L’Intelligenza Artificiale per ottimizzare la risposta agli incidenti. Qualità dei dati, estrazione delle TTP con NLP e LLM, condivisione tramite STIX/TAXII e attribuzione sono gli argomenti del white paper Big Data e Machine Learning per la Cyber Threat Intelligence. Per le fonti aperte rimando a Intelligenza artificiale per OSINT.
LLM e GenAI nel lavoro di sicurezza. LLM per la cyber security raccoglie suggerimenti per usare i Large Language Model nei test di sicurezza senza perdere il controllo dei rischi. Contributi e rischi della GenAI per la difesa sono discussi in Il contributo della Generative Artificial Intelligence (GenAI) alla cybersecurity e in Intelligenza Artificiale Generativa (GenAI) e Cybersecurity.
L’IA degli attaccanti. Nel 2021 suggerivo di trattare IA e machine learning come strumenti dual-use e di includerli nel piano di risk assessment al pari degli altri componenti IT (IA e machine learning nelle mani dei cyber criminali). Le capacità di agentic hacking dei modelli più recenti e i limiti dei loro safeguard sono analizzati in Claude Fable 5 e Mythos 5: i nuovi rischi cyber dell’AI avanzata.
Agenti AI e SOC. Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale spiega in che cosa l’agentic AI differisce dalla generative AI e come gli agenti vengono impiegati nella difesa. Con gli agenti il costo di un’indagine dipende dai token consumati, e un budget esaurito può fermare un’analisi nel momento peggiore (Cyber security e agentic AI). Agli effetti dell’IA sulla continuità operativa ho dedicato il white paper Business Continuity e Disaster Recovery nell’era dell’Artificial Intelligence.
Prime letture
- Intelligenza artificiale e cybersecurity: benefici, rischi e mitigazione (2025). Benefici, rischi e mitigazioni in un unico quadro.
- Il machine learning nella cyber security: opportunità e rischi (2025). Quando ci si può fidare delle decisioni di un modello.
- Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale (2025). Che cosa cambia quando parte della difesa è affidata ad agenti autonomi.
- Big Data e Machine Learning per la Cyber Threat Intelligence (2026). Il white paper su Big Data e machine learning nella threat intelligence.
Standard e riferimenti
- MITRE ATLAS tattiche e tecniche degli attacchi ai sistemi di IA
- NIST AI 100-1 AI Risk Management Framework (AI RMF 1.0)
- NIST AI 100-2 E2025 Adversarial Machine Learning: tassonomia di attacchi e mitigazioni
- ENISA Artificial Intelligence Cybersecurity Challenges
Chi scrive
Questa pagina raccoglie 19 miei contributi pubblicati tra il 2015 e il 2026 (17 articoli e due white paper). Di questi, 6 sono usciti anche su Cybersecurity360. Sullo stesso tema ho tenuto 14 interventi tra corsi e seminari, elencati nella pagina Eventi su IA nella Cyber Security. Il mio percorso professionale è descritto nel curriculum.
Articoli17 voci
- Analisi multilivello delle vulnerabilità: quando gli LLM servono davvero e quando no. Come contenere i costi e i falsi positivi dell’analisi con LLM senza perdere le vulnerabilità critiche. Pubblicato su CyberSecurity360.it.
- Cyber security e agentic AI: perché il costo dei token diventa un rischio operativo. Con gli agenti il costo di un’indagine dipende dai token consumati, e un budget esaurito diventa un rischio operativo da governare nel SOC. Pubblicato su CyberSecurity360.it.
- Claude Fable 5 e Mythos 5: i nuovi rischi cyber dell’AI avanzata. Il modello di minaccia dell’agentic hacking, i safeguard che separano le due varianti e i limiti contro i jailbreak. Pubblicato su CyberSecurity360.it.
- Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale. Architettura, framework e applicazioni degli agenti per una difesa proattiva, con vantaggi, questioni etiche e prospettive.
- I benefici dell'intelligenza artificiale nella digital forensics. Come IA, machine learning e NLP rendono più rapida e accurata ogni fase dell’indagine forense.
- Intelligenza artificiale e cybersecurity: benefici, rischi e mitigazione. Benefici per rilevamento e risposta, rischi come attacchi avversari e bias, e misure di mitigazione.
- L'Intelligenza Artificiale per ottimizzare la risposta agli incidenti di cybersecurity: vantaggi, applicazioni e prospettive future. Come ML, deep learning e NLP supportano ogni fase della risposta, dal rilevamento al ripristino.
- Il machine learning nella cyber security: opportunità e rischi. Opportunità e rischi del machine learning nei SOC, il cyber-informed machine learning e indicazioni pratiche. Pubblicato su CyberSecurity360.it.
- Generative Artificial Intelligence (GenAI) e Cybersecurity. Rischi per gli utenti, rischi dell’integrazione nei servizi IT e OT ed effetti sulla sicurezza informatica.
- Il contributo della Generative Artificial Intelligence (GenAI) alla cybersecurity. Attacchi ai modelli, identità macchina e degli sviluppatori come superficie di attacco e supporto dell’IA ai SOC nel 2025.
- LLM per la cyber security: suggerimenti per un uso corretto dei Large Language Model. Che cosa possono fare i Large Language Model nelle attività di sicurezza, dove sbagliano e come testarli. Pubblicato su CyberSecurity360.it.
- L’intelligenza artificiale per la cyber security. Definizioni, machine learning e deep learning, esempi di strumenti e ruolo dell’IA nella difesa.
- L'intelligenza artificiale come scudo contro le minacce informatiche. Tecniche di machine learning, deep learning e NLP, applicazioni, vantaggi, limiti e direzioni di ricerca.
- Intelligenza artificiale e machine learning nelle mani dei cyber criminali: rischi e contromisure. IA e machine learning come strumenti a doppio uso, il loro impiego negli attacchi e le contromisure. Pubblicato su CyberSecurity360.it.
- Intelligenza artificiale per l'OSINT: applicazioni e limiti. Come l’IA automatizza raccolta, correlazione e analisi dei dati da fonti aperte, con esempi, limiti e aspetti etici.
- L'Intelligenza Artificiale nella lotta contro gli attacchi informatici. Rilevamento delle minacce in tempo reale, risposta automatica, analisi predittiva e questioni etiche.
- Anomaly detection con il machine learning: come funziona e perché col tempo perde affidabilità. Alberi di decisione, reti neurali e deriva dei modelli applicati al riconoscimento delle anomalie, dal seminario del 2015.
White paper2 voci
- Big Data e Machine Learning per la Cyber Threat Intelligence Calabrò V., 2026
- Business Continuity e Disaster Recovery nell’era dell’Artificial Intelligence Calabrò V., 2026