Il contributo della Generative Artificial Intelligence (GenAI) alla cybersecurity
di Vincenzo Calabrò · Pubblicato l’
Abstract
L’articolo esamina come l’intelligenza artificiale generativa cambi la cybersecurity nel 2025, sia per gli attaccanti sia per i difensori. Osserva che i criminali informatici puntano in misura crescente ai modelli di IA adottati dalle aziende e alle identità macchina e degli sviluppatori, come hanno mostrato gli attacchi del 2024 ad alcune grandi aziende tecnologiche. Descrive poi il contributo della GenAI ai team di sicurezza, che grazie all’apprendimento adattivo, alla comprensione del contesto e all’elaborazione di dati diversi automatizza le attività ripetitive e libera tempo per le scelte strategiche dei SOC.
Nel 2025 conteranno l'intensità e la sofisticazione degli attacchi e, insieme, ciò che i criminali informatici sceglieranno di colpire. Si è parlato molto dell’utilizzo dell’AI da parte di malintenzionati e difensori e non ci sono dubbi che questa situazione proseguirà evolvendosi. Nel corso del nuovo anno assisteremo però a un aumento degli attacchi rivolti agli stessi modelli di IA.
Questa tecnologia è stata adottata da aziende di ogni tipo, ad esempio per promuovere l’innovazione e semplificare i servizi. Per funzionare in modo efficace, i modelli AI hanno bisogno di un numero enorme di identità macchina che, a loro volta, necessitano di un accesso sensibile, come l'accesso ai dati dei clienti o ai processi finanziari. Se si considera che i modelli sono spesso ospitati nel cloud pubblico, con tutte le implicazioni che ciò comporta, è evidente che la situazione dal punto di vista della protezione dei dati potrebbe diventare decisamente critica. Riteniamo che oggi manchino controlli di sicurezza adeguati, capaci di proteggere questi modelli senza frenare l'innovazione. In questo caso, con l’adozione di modelli di intelligenza artificiale, le aziende avranno creato una nuova e vulnerabile superficie di attacco che pone l’identità al centro del problema.
L'AI generativa può avere un impatto significativo sui professionisti della cybersecurity. Anche se il talento umano rimarrà sempre al centro delle attività, esiste un’enorme carenza di competenze che deve essere colmata e la GenAI ha il potenziale per farlo.
La tecnologia può essere un alleato indispensabile, in quanto automatizza le attività routinarie, permettendo ai professionisti di concentrarsi sulle iniziative strategiche contro minacce che cambiano di continuo. Pensiamo ai security operations center che, grazie all’AI, potrebbero trasformare le operazioni di triage delle minacce, che attualmente richiedono diverse ore, in attività della durata di un minuto, lasciando così ai professionisti della sicurezza il tempo di dedicarsi a compiti più stimolanti. L’AI è già stata utilizzata nella cybersecurity per rilevare anomalie e prevedere minacce, ma la GenAI fa compiere un ulteriore passo avanti.
È dotata di velocità di apprendimento adattiva, comprensione contestuale ed elaborazione multimodale dei dati e si libera del mantello più rigido e basato su regole dell’AI tradizionale, potenziando le sue capacità di difesa. Oltre all’efficienza, è in gioco la capacità di tenere il passo con la criminalità informatica. L’AI smette così di essere un componente aggiuntivo della protezione e diventa la chiave di volta della strategia di difesa.
Nel 2024, gli attacchi alle grandi aziende, che non hanno risparmiato i principali operatori tecnologici, hanno messo in luce la vulnerabilità dell'accesso degli sviluppatori, che può essere facilmente sfruttata dai criminali informatici. Questi ultimi hanno compreso che le identità degli sviluppatori, che spesso possiedono un livello di accesso quasi equivalente a quello degli amministratori di sistema, non sono sottoposte ai medesimi livelli di controlli per la sicurezza delle identità degli utenti privilegiati tradizionali. Con l’utilizzo di vie più tradizionali per la compromissione dell’identità, come phishing, spear-phishing e attacchi di impersonificazione (spesso resi più efficaci dall’intelligenza artificiale), nel 2025 gli sviluppatori e altri obiettivi di valore elevato, come gli architetti cloud e i membri dei team IT, saranno più vulnerabili che mai. La potenziale gravità della compromissione degli sviluppatori sottolinea l’urgente necessità per le aziende di ripensare il proprio approccio alla protezione delle identità della forza lavoro.
Proteggere le identità macchina e degli sviluppatori
Le misure partono da un inventario. Occorre sapere quali account di servizio, chiavi API, token e certificati usano i modelli e le pipeline di sviluppo, chi ne è responsabile e a quali dati e sistemi danno accesso. Su questa base si interviene con:
- privilegio minimo e accessi temporanei, concessi solo quando servono, per sviluppatori e amministratori cloud;
- segreti conservati in un vault dedicato, mai nel codice o nei repository;
- rotazione automatica di chiavi e token, con scadenze brevi;
- autenticazione resistente al phishing, come le chiavi di sicurezza FIDO2, per gli account di valore elevato;
- monitoraggio delle sessioni privilegiate e delle anomalie nell’uso delle identità macchina.
Usare la GenAI nel SOC con giudizio
Gli assistenti generativi riassumono gli allarmi, spiegano script offuscati, propongono query di ricerca e preparano bozze di report. Possono però produrre risposte plausibili e sbagliate, e ogni conclusione va quindi verificata sui dati originali. Conviene stabilire quali informazioni si possono inviare a un servizio esterno, preferire soluzioni che non usano i dati dell’organizzazione per addestrare i modelli e registrare le interazioni. Dal 2 febbraio 2025 si applicano inoltre le prime disposizioni del regolamento europeo sull’intelligenza artificiale (Reg. UE 2024/1689), fra cui i divieti delle pratiche inaccettabili e l’obbligo di garantire un livello sufficiente di alfabetizzazione del personale che usa questi sistemi.
Le competenze da sviluppare
Per colmare la carenza di professionisti della sicurezza servono anche competenze nuove. Gli analisti devono imparare a formulare richieste precise agli assistenti, a riconoscere risposte inventate e a verificare le fonti. Chi lavora sullo sviluppo deve conoscere i rischi propri dei modelli, come la prompt injection, la fuga di dati attraverso le risposte e l’avvelenamento dei dati di addestramento. Una formazione mirata su questi temi rende la GenAI un aiuto concreto e riduce il rischio che diventi un nuovo punto debole.
Vedi anche: gli articoli Intelligenza Artificiale Generativa (GenAI) e Cybersecurity (2025), Generative Artificial Intelligence (GenAI): Il futuro dell’Intelligenza Artificiale Generativa e potenziali cyber rischi nel campo dell’AI (2025), Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale (2025) e Non-Human Identities e agenti di intelligenza artificiale: governare l’identità delle macchine (2026); la presentazione del 2025 Artificial Intelligence come scudo: GenAI contro le minacce cyber.
Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · Wikidata · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · Amazon · LinkedIn · YouTube · Ordine degli Ingegneri di Reggio Calabria