Intelligenza artificiale e cybersecurity: benefici, rischi e mitigazione
di Vincenzo Calabrò · Pubblicato il
Abstract
L’articolo esamina benefici e rischi dell’intelligenza artificiale applicata alla sicurezza informatica. Tra i benefici descrive il rilevamento delle minacce, l’automazione della risposta agli incidenti, la threat intelligence, la protezione di identità ed endpoint e la scalabilità. Tra i rischi considera l’eccesso di fiducia, gli attacchi ai modelli, privacy, bias, opacità, costi e implicazioni etiche e legali, e documenta l’uso malevolo dell’IA per phishing, deepfake e frodi. Chiude con strategie di mitigazione e quadro normativo, dall’AI Act al framework FAICP dell’ENISA e ai lavori del NIST.
Introduzione
Gli attacchi informatici sono più numerosi, più rapidi e più vari di qualche anno fa. Le difese basate su regole fisse e firme note faticano a riconoscere minacce nuove, come le vulnerabilità zero-day e il malware che modifica il proprio codice a ogni infezione. L’intelligenza artificiale offre strumenti per colmare questo divario, perché è in grado di analizzare grandi volumi di dati, riconoscere schemi complessi e segnalare ciò che si discosta dal comportamento normale.
Con il termine intelligenza artificiale si indica un insieme ampio di tecniche che permettono ai sistemi di svolgere compiti che richiederebbero intelligenza umana, come classificare, prevedere, riconoscere e generare contenuti. Nella sicurezza informatica queste tecniche intervengono in tutte le fasi, dalla valutazione dei rischi alla protezione, dal rilevamento alla risposta. Permettono di passare da una difesa che reagisce agli attacchi già noti a una difesa capace di anticipare e di adattarsi.
L’IA porta però con sé rischi propri e viene usata anche dagli attaccanti. Le sezioni che seguono trattano i benefici dell’IA per la difesa, i rischi legati alla sua adozione, l’uso malevolo da parte di attori ostili e le strategie per gestire questa doppia natura.
I benefici dell’IA per la sicurezza informatica
Rilevamento e analisi delle minacce
L’IA elabora log di rete, eventi dei sistemi, attività degli utenti e flussi di threat intelligence a una velocità che nessun gruppo di analisti può raggiungere. Su questi dati individua schemi e anomalie che possono indicare un attacco in corso. A differenza dei sistemi basati su firme, un modello che ha imparato il comportamento normale di una rete può segnalare anche attività mai osservate prima, come lo sfruttamento di una vulnerabilità sconosciuta o un malware nuovo.
Le reti neurali, e in particolare quelle profonde, sono efficaci quando i dati sono complessi, come il traffico di rete, i file eseguibili o le sequenze di eventi. Imparano dagli attacchi passati e riconoscono le varianti, e alcune architetture stimano la probabilità che una sequenza di eventi porti a una compromissione. I risultati dipendono molto dalla qualità dei dati e dal contesto. Le percentuali di accuratezza diffuse dai produttori, spesso ottenute su insiemi di test favorevoli, vanno lette con prudenza.
Automazione della risposta
L’automazione basata sull’IA accelera la risposta agli incidenti. I sistemi di orchestrazione e risposta automatica (SOAR) e le piattaforme di rilevamento esteso (XDR) possono isolare un dispositivo compromesso, bloccare un account, interrompere una connessione malevola o avviare la raccolta di evidenze nel giro di pochi secondi. Nella maggior parte dei casi le azioni più incisive restano soggette all’approvazione di un analista, per evitare che un falso positivo blocchi un servizio critico.
Un beneficio concreto riguarda la gestione degli allarmi. Gli ambienti moderni ne generano migliaia al giorno, e la fatica da allerta porta gli analisti a trascurare segnalazioni importanti. L’IA raggruppa gli allarmi correlati, scarta quelli irrilevanti e ordina i restanti per priorità, liberando tempo per le indagini e le decisioni che richiedono giudizio. Secondo il rapporto Cost of a Data Breach 2024 di IBM e Ponemon Institute, le organizzazioni che usano in modo esteso IA e automazione nella sicurezza hanno individuato e contenuto le violazioni circa cento giorni prima delle altre, con un costo medio inferiore di circa 2,2 milioni di dollari.
Threat intelligence e capacità predittive
L’IA arricchisce la threat intelligence. Raccoglie e classifica informazioni da fonti diverse, come rapporti di sicurezza, forum criminali, avvisi dei CERT e indicatori di compromissione, e le collega alle caratteristiche dell’organizzazione. I modelli predittivi stimano quali vulnerabilità hanno maggiori probabilità di essere sfruttate, come fa il sistema EPSS (Exploit Prediction Scoring System), e quali asset sono più esposti. Le priorità di intervento possono così basarsi su probabilità e impatto, al posto di elenchi indifferenziati.
Identità ed endpoint
Nella gestione delle identità e degli accessi, l’IA impara come ogni utente si collega abitualmente, da quali luoghi, con quali dispositivi e a quali orari. Un accesso anomalo può far scattare automaticamente una richiesta di autenticazione aggiuntiva, il blocco temporaneo dell’account o il reset delle credenziali. Le soluzioni di analisi del comportamento di utenti ed entità (UEBA) estendono questa logica a server, applicazioni e account di servizio, e aiutano a individuare minacce interne e credenziali compromesse.
Sugli endpoint, l’IA riconosce comportamenti tipici del malware, come la cifratura massiva di file, l’iniezione di codice in altri processi o la disattivazione delle protezioni. Aiuta anche a mantenere l’inventario dei dispositivi e a individuare quelli privi di aggiornamenti.
Scalabilità ed efficienza
Le soluzioni basate sull’IA si adattano a infrastrutture estese, con migliaia di sistemi distribuiti tra sedi, cloud e dispositivi mobili. Riducono il lavoro manuale nelle attività ripetitive e consentono a gruppi di sicurezza di dimensioni contenute di presidiare ambienti complessi.
Una direzione di sviluppo riguarda i sistemi capaci di correggersi, ripararsi e adattarsi in modo autonomo, spesso indicati come self-healing. Agenti software basati su IA possono formulare ipotesi, verificarle sui dati e proporre o eseguire azioni. Sono capacità promettenti, che però richiedono limiti chiari, registrazione delle decisioni e possibilità di intervento umano.
Esperienze concrete
Le applicazioni più consolidate si trovano nei filtri antiphishing e antispam della posta elettronica, nelle soluzioni EDR, nei sistemi antifrode delle banche e dei circuiti di pagamento e nell’analisi del traffico di rete. In sanità, dove i dati sono particolarmente sensibili e gli attacchi ransomware frequenti, l’analisi comportamentale è usata per individuare accessi impropri alle cartelle cliniche e movimenti anomali dei dati.
I benefici principali possono essere riassunti così:
| Beneficio | Descrizione |
| Rilevamento delle minacce | Analisi di grandi volumi di dati per individuare anomalie e attacchi nuovi, che i sistemi basati su firme non riconoscono |
| Automazione della risposta | Isolamento di sistemi, blocco di account e connessioni, avvio della raccolta di evidenze in tempi brevi |
| Gestione degli allarmi | Raggruppamento, filtro e ordinamento delle segnalazioni, con meno falsi positivi e meno fatica da allerta |
| Threat intelligence | Raccolta e correlazione di informazioni da fonti diverse, stima delle vulnerabilità più probabili da sfruttare |
| Identità ed endpoint | Rilevamento di accessi anomali, minacce interne e comportamenti malevoli sui dispositivi |
| Scalabilità | Protezione di infrastrutture estese con minore lavoro manuale |
| Costi | Minori costi medi delle violazioni grazie a rilevamento e contenimento più rapidi |
I rischi dell’adozione
Eccesso di fiducia
Uno dei rischi principali è culturale. La velocità e l’apparente precisione dell’IA possono indurre a fidarsi troppo dei suoi risultati, a ridurre la supervisione umana e a trascurare pratiche come la ricerca proattiva delle minacce. Il pericolo emerge quando il sistema incontra attacchi diversi da quelli che conosce e li classifica come attività normali o come falsi positivi. Gli attaccanti più capaci studiano proprio questi limiti per restare sotto le soglie di rilevamento.
Attacchi contro i modelli
I modelli di IA possono essere ingannati. Con input costruiti ad arte un attaccante può indurre un classificatore a sbagliare, a ignorare un’attività malevola o a generare una pioggia di falsi allarmi che distrae gli analisti. Queste debolezze, studiate dall’apprendimento automatico avversario (adversarial machine learning), dipendono dal modo in cui i modelli apprendono dai dati e resistono alle semplici patch. Il NIST le ha classificate nel rapporto AI 100-2, e MITRE ne descrive tattiche e tecniche nella base di conoscenza ATLAS.
Privacy e protezione dei dati
Per addestrare e far funzionare i modelli servono grandi quantità di dati, spesso personali, come log di accesso, contenuti delle email e comportamenti degli utenti. Questo pone problemi di privacy, di proporzionalità del monitoraggio e di trasferimento dei dati a fornitori esterni, in particolare quando i modelli sono erogati dal cloud. Le organizzazioni devono rispettare il GDPR e le altre norme applicabili, definire finalità e tempi di conservazione, e valutare la sicurezza dei fornitori, che possono diventare a loro volta un bersaglio.
Bias
Un modello riflette i dati su cui è addestrato. Se questi contengono distorsioni, il sistema le riproduce. Un sistema di rilevamento potrebbe, per esempio, segnalare in modo sproporzionato utenti che si collegano da certi Paesi o in orari insoliti per ragioni legittime, generando falsi positivi e trattamenti discriminatori. Servono dati rappresentativi, verifiche periodiche dei risultati e la possibilità per le persone coinvolte di contestare le decisioni.
Opacità
Molti modelli, in particolare quelli di deep learning, non spiegano le proprie decisioni. Gli analisti faticano a capire perché un’attività sia stata segnalata, e quando il sistema sbaglia è difficile stabilire di chi sia la responsabilità. Le tecniche di IA spiegabile (Explainable AI) aiutano a indicare quali elementi hanno pesato su una decisione, ma restano approssimazioni da usare con giudizio.
Complessità e costi
I sistemi di IA richiedono potenza di calcolo, archiviazione, dati di qualità e competenze specialistiche. I modelli vanno aggiornati con regolarità, perché gli attacchi cambiano e un modello addestrato sul passato perde efficacia. Per molte organizzazioni la soluzione passa da servizi gestiti, che spostano però una parte del rischio sul fornitore.
Implicazioni etiche e legali
L’uso dell’IA nella sicurezza solleva questioni che vanno oltre la tecnica:
- l’equilibrio tra sicurezza e privacy, perché il monitoraggio può raccogliere informazioni personali dei dipendenti e deve rispettare i limiti posti dal GDPR e, in Italia, dallo Statuto dei lavoratori;
- la supervisione umana, perché decisioni automatiche sbagliate, come il blocco di un servizio critico, possono causare danni seri e vanno riservate a casi definiti;
- il doppio uso, perché gli stessi strumenti progettati per difendere possono servire ad attaccare, sorvegliare o manipolare;
- la conformità normativa, perché trasparenza e minimizzazione dei dati possono entrare in tensione con il bisogno di grandi insiemi di dati;
- la responsabilità per errori e mancate protezioni, che le norme esistenti non sempre chiariscono.
Il caso Amazon Rekognition è un esempio noto. Nel 2018 un test dell’ACLU mostrò che il sistema di riconoscimento facciale associava erroneamente 28 membri del Congresso statunitense a foto segnaletiche, con errori più frequenti per le persone di colore. Il caso ha alimentato il dibattito sui limiti dell’IA nei contesti in cui le decisioni incidono sui diritti delle persone.
L’uso malevolo dell’IA
L’IA ha una natura a doppio uso. Gli stessi strumenti che rafforzano la difesa possono amplificare la portata e l’efficacia degli attacchi.
Attacchi automatizzati
L’IA aiuta gli attaccanti nella ricognizione degli obiettivi, nell’analisi delle vulnerabilità e nella scrittura di codice. Strumenti automatici possono gestire campagne su larga scala con poco intervento umano, e varianti di malware generate in serie rendono più difficile il rilevamento basato su firme.
Phishing e ingegneria sociale
I modelli linguistici permettono di scrivere messaggi di phishing corretti, personalizzati e credibili in qualunque lingua, eliminando gli errori che un tempo li rendevano riconoscibili. Nel 2023 sono comparsi sui mercati criminali servizi come WormGPT e FraudGPT, pubblicizzati come modelli senza restrizioni per frodi e phishing. Bot basati su IA imitano il comportamento umano sui social network per manipolare gli utenti o diffondere disinformazione.
Deepfake e frodi
La sintesi di voci e volti ha reso possibili frodi un tempo impensabili. Nel 2019 il responsabile di un’azienda energetica britannica trasferì 220.000 euro dopo una telefonata in cui una voce clonata imitava quella del suo amministratore delegato. Nel 2024 un dipendente della sede di Hong Kong della società di ingegneria Arup ha autorizzato pagamenti per circa 25 milioni di dollari dopo una videochiamata in cui i colleghi e il direttore finanziario erano ricostruiti con deepfake. I contenuti falsi sono usati anche in campagne di disinformazione per influenzare l’opinione pubblica e i processi elettorali.
Uso dei modelli generativi da parte di attori statali
Microsoft e OpenAI hanno riferito nel febbraio 2024 di aver individuato e bloccato account riconducibili a gruppi statali di Russia, Cina, Iran e Corea del Nord che usavano modelli linguistici per ricerche sugli obiettivi, traduzioni, scrittura di script e messaggi di phishing. Nel gennaio 2025 il Threat Intelligence Group di Google ha pubblicato un’analisi sull’uso di Gemini da parte di attori ostili. Questi hanno cercato, con scarso successo, di usarlo per sviluppare malware, superare le verifiche degli account e preparare campagne di phishing, e lo hanno impiegato soprattutto per aumentare la produttività in compiti ordinari. I casi mostrano un uso ancora prevalentemente di supporto, che però cambia in fretta.
Attacchi ai sistemi di IA
Gli attacchi ai sistemi di IA sfruttano debolezze proprie degli algoritmi e si dividono in alcune categorie:
- gli attacchi di evasione, che modificano gli input in modo impercettibile per ingannare il modello già in uso, come l’immagine di un panda alterata che una rete neurale classifica come gibbone (Goodfellow e colleghi, 2015) o gli adesivi su un segnale di stop che lo fanno scambiare per un limite di velocità (Eykholt e colleghi, 2018);
- gli attacchi di avvelenamento, che alterano i dati di addestramento, come accadde nel 2016 al chatbot Tay di Microsoft, che iniziò a produrre messaggi offensivi dopo poche ore di interazioni malevole;
- il furto del modello, che ne ricostruisce il comportamento interrogandolo ripetutamente e può esporre un algoritmo proprietario;
- gli attacchi di inferenza, che ricavano informazioni sui dati usati per l’addestramento;
- la prompt injection, che inserisce nei testi elaborati da un modello linguistico istruzioni nascoste capaci di deviarne il comportamento, un rischio che cresce con gli agenti che leggono documenti e pagine web e compiono azioni.
La ricerca ha mostrato anche attacchi a infrastrutture critiche. Piccole perturbazioni nei dati di consumo, impercettibili agli operatori, possono indurre i modelli che prevedono la domanda di energia nelle reti intelligenti a errori significativi, senza che i controlli tradizionali se ne accorgano.
Le conseguenze economiche delle violazioni restano elevate. Il rapporto IBM del 2024 stima in 4,88 milioni di dollari il costo medio globale di una violazione dei dati.
Strategie di mitigazione
Sicurezza fin dalla progettazione
I rischi propri dell’IA vanno considerati fin dall’inizio del ciclo di vita del sistema. Questo significa analizzare le possibili minacce ai dati e al modello, controllare la provenienza dei dati di addestramento, monitorare in modo continuo input e output e registrare le decisioni del sistema, così da poterle verificare.
Modelli più solidi
Diverse tecniche aumentano la resistenza dei modelli:
- l’addestramento con esempi avversari, che espone il modello agli input ostili durante l’apprendimento;
- l’apprendimento federato, che addestra i modelli su dati distribuiti senza trasferirli, riducendo l’esposizione dei dati;
- la privacy differenziale, che aggiunge rumore statistico per rendere difficile risalire ai singoli dati;
- le verifiche periodiche con red teaming e test avversari, condotte da gruppi diversi da quelli che hanno sviluppato il modello.
Protezione della privacy
Le tecnologie per la protezione della privacy (PET), come la pseudonimizzazione, la cifratura dei dati in uso e il calcolo confidenziale, permettono di usare i dati per il rilevamento limitando l’esposizione delle informazioni personali. Vanno affiancate da valutazioni d’impatto sulla protezione dei dati e da regole chiare su finalità e conservazione.
Governance e monitoraggio
Un quadro di governance definisce chi può introdurre sistemi di IA, con quali verifiche, con quali responsabilità e con quali limiti all’autonomia delle decisioni. Comprende un inventario dei sistemi in uso, valutazioni del rischio, audit periodici e procedure per gestire errori e incidenti. Norme come la ISO/IEC 42001:2023 offrono un modello di sistema di gestione per l’IA.
Il quadro normativo
Diverse iniziative orientano l’uso sicuro dell’IA:
- l’AI Act, Regolamento (UE) 2024/1689, in vigore dal 1° agosto 2024, che adotta un approccio basato sul rischio e richiede ai sistemi ad alto rischio accuratezza, robustezza e sicurezza informatica adeguate;
- il Framework for AI Cybersecurity Practices (FAICP) dell’ENISA, del 2023, strutturato su tre livelli, cioè le basi di sicurezza informatica rilevanti per l’IA, le pratiche specifiche per l’IA e quelle per i singoli settori;
- il NIST AI Risk Management Framework del 2023 e la tassonomia degli attacchi all’apprendimento automatico NIST AI 100-2, aggiornata nel 2025;
- l’area di competenza sulla sicurezza dell’IA introdotta nel NICE Framework del NIST e il profilo dedicato a IA e sicurezza informatica che il NIST ha annunciato nel 2025;
- le linee guida congiunte sullo sviluppo sicuro dei sistemi di IA pubblicate nel novembre 2023 dal britannico NCSC e dalla CISA statunitense con agenzie di numerosi Paesi, tra cui l’ACN;
- riferimenti tecnici come la OWASP Top 10 per le applicazioni basate su modelli linguistici e la base di conoscenza MITRE ATLAS.
La natura transnazionale delle minacce richiede inoltre cooperazione internazionale e partenariati tra pubblico e privato, con condivisione di informazioni sulle minacce e coordinamento delle risposte.
Competenze e consapevolezza
Le persone che lavorano nella sicurezza devono imparare a usare l’IA, a proteggerla dagli attacchi e a riconoscerne l’uso malevolo. La formazione di tutto il personale deve comprendere le nuove forme di ingegneria sociale, come messaggi personalizzati, voci clonate e videochiamate falsificate, con procedure di verifica per le richieste di pagamento e di accesso. Ai gruppi tecnici servono competenze per valutare i modelli, interpretarne i risultati e riconoscerne i comportamenti anomali.
Il divario tra le competenze dei vertici e quelle del personale operativo è uno degli ostacoli più citati nelle indagini di settore. Programmi di aggiornamento e riqualificazione sono necessari perché l’adozione dell’IA migliori davvero la sicurezza.
Considerazioni finali
L’intelligenza artificiale è diventata una componente stabile della sicurezza informatica. Accelera il rilevamento e la risposta, riduce il carico degli analisti e permette di presidiare infrastrutture molto estese. I dati disponibili mostrano un effetto misurabile sui tempi e sui costi delle violazioni.
La stessa tecnologia offre però agli attaccanti nuovi strumenti, dal phishing personalizzato ai deepfake, e introduce rischi propri, come l’eccesso di fiducia, gli attacchi ai modelli, i problemi di privacy, i bias e l’opacità. Gestire questa doppia natura richiede sicurezza fin dalla progettazione, modelli solidi, tecnologie per la privacy, una governance chiara, il rispetto del quadro normativo e investimenti nelle competenze.
L’IA amplia le capacità degli specialisti della sicurezza senza sostituirle. Le organizzazioni che la usano con metodo, mantenendo il controllo umano sulle decisioni rilevanti, ne trarranno i benefici maggiori.
Bibliografia
- IBM e Ponemon Institute (2024). Cost of a Data Breach Report 2024. https://www.ibm.com/reports/data-breach
- ENISA (2023). Multilayer Framework for Good Cybersecurity Practices for AI (FAICP). https://www.enisa.europa.eu/topics/artificial-intelligence-and-next-gen-technologies
- NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0).
- NIST (2025). AI 100-2 E2025, Adversarial Machine Learning. A Taxonomy and Terminology of Attacks and Mitigations.
- NIST. The Impact of Artificial Intelligence on the Cybersecurity Workforce. https://www.nist.gov/blogs/cybersecurity-insights/impact-artificial-intelligence-cybersecurity-workforce
- Nextgov/FCW (2025). Forthcoming NIST profile to address growing AI-cyber challenges. https://www.nextgov.com/cybersecurity/2025/04/forthcoming-nist-profile-address-growing-ai-cyber-challenges/404887/
- NCSC, CISA et al. (2023). Guidelines for Secure AI System Development.
- Regolamento (UE) 2024/1689 (AI Act).
- Google Threat Intelligence Group (2025). Adversarial Misuse of Generative AI. https://cloud.google.com/blog/topics/threat-intelligence/adversarial-misuse-generative-ai
- Microsoft Threat Intelligence e OpenAI (2024). Staying ahead of threat actors in the age of AI.
- UNICRI, Europol e Trend Micro (2020). Malicious Uses and Abuses of Artificial Intelligence. https://unicri.org/node/3278
- Comiter, M. (2019). Attacking Artificial Intelligence. Belfer Center for Science and International Affairs. https://www.belfercenter.org/publication/AttackingAI
- DHS Science and Technology Directorate. Risks and Mitigation Strategies for Adversarial Artificial Intelligence Threats. https://www.dhs.gov/archive/science-and-technology/publication/risks-and-mitigation-strategies-adversarial-artificial-intelligence-threats
- Goodfellow, I., Shlens, J., e Szegedy, C. (2015). Explaining and Harnessing Adversarial Examples. ICLR 2015.
- Eykholt, K. et al. (2018). Robust Physical-World Attacks on Deep Learning Visual Classification. CVPR 2018.
- Frontiers in Computer Science (2024). AI and cybersecurity: a risk society perspective. https://www.frontiersin.org/journals/computer-science/articles/10.3389/fcomp.2024.1462250/full
- ISC2 (2024). The Ethical Dilemmas of AI in Cybersecurity. https://www.isc2.org/Insights/2024/01/The-Ethical-Dilemmas-of-AI-in-Cybersecurity
- MIT Sloan, Cybersecurity at MIT Sloan. Cybersecurity Management of AI Systems. https://cams.mit.edu/wp-content/uploads/CAMS_cybersecurity_AI_Systems-.pdf
- OWASP. Top 10 for Large Language Model Applications.
- MITRE. ATLAS, Adversarial Threat Landscape for Artificial-Intelligence Systems.
Vedi anche: gli articoli L'intelligenza artificiale come scudo contro le minacce informatiche (2022), Il machine learning nella cyber security: opportunità e rischi (2025), L'Intelligenza Artificiale per ottimizzare la risposta agli incidenti di cybersecurity: vantaggi, applicazioni e prospettive future (2025) e Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale (2025); la presentazione del 2025 Artificial Intelligence come scudo: GenAI contro le minacce cyber; l'intervento del 2025 Progettare la sicurezza di domani tra cybersecurity e AI.
Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · Wikidata · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · Amazon · LinkedIn · YouTube · Ordine degli Ingegneri di Reggio Calabria