Articolo Pubblicazioni

Anomaly detection con il machine learning: come funziona e perché col tempo perde affidabilità

di · Pubblicato il 26 marzo 2015 - Aggiornato il 14 novembre 2026 · Tratto da «Artificial Intelligence e il Machine Learning»

Abstract

L’articolo riprende il seminario «Artificial Intelligence e il Machine Learning» del 2015. Ripercorre in breve la storia dell’intelligenza artificiale, spiega come una macchina apprende dai dati e come funzionano due famiglie di tecniche, gli alberi di decisione e le reti neurali con la retropropagazione dell’errore. Applica poi questi concetti al riconoscimento delle anomalie nella sicurezza informatica e spiega perché un modello addestrato perde affidabilità quando cambiano i comportamenti che deve osservare.

Vincenzo Calabrò | Anomaly detection con il machine learning: come funziona e perché col tempo perde affidabilità
 

Da Pascal alle reti neurali

L’intelligenza artificiale è la disciplina che studia la progettazione e la realizzazione di sistemi capaci di simulare abilità, ragionamento e comportamento umani. Le sue radici sono antiche. Le prime macchine di calcolo automatico sono del Seicento, con Pascal e Leibniz, e la macchina analitica di Babbage anticipava nell’Ottocento le caratteristiche dei calcolatori moderni. Dagli anni Trenta arrivano i lavori di Alan Turing.
Nel 1943 Warren McCulloch e Walter Pitts mostrarono con un modello matematico che semplici neuroni artificiali possono calcolare le operazioni logiche NOT, AND e OR. L’espressione «intelligenza artificiale» compare in un documento del 1955 firmato da John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon. Nel 1958 McCarthy crea il Lisp, a lungo il linguaggio dell’intelligenza artificiale, e negli anni Ottanta le reti multistrato addestrate con la retropropagazione dell’errore rilanciano la ricerca.

Come impara una macchina

Il machine learning è la capacità di una macchina di imparare a svolgere un compito da algoritmi che apprendono dai dati in modo iterativo. La macchina impara osservando l’ambiente e i risultati delle proprie azioni, oppure da una base di conoscenza che parte da informazioni inserite dal progettista e si arricchisce con l’esperienza.
Prima dell’apprendimento i dati vanno preparati. Nella fase di pre-elaborazione si cercano le correlazioni, si accorpano gli attributi fortemente correlati per ridurre la dimensione del problema e si elimina il rumore, cioè i dati irrilevanti.

Gli alberi di decisione

Un albero di decisione rappresenta il processo decisionale come un albero rovesciato. Ogni nodo interno è un test su un attributo, ogni ramo un possibile valore, ogni foglia la decisione finale. L’esempio classico decide se giocare a tennis in base al tempo, all’umidità e al vento, e si traduce in regole del tipo «se il cielo è sereno e l’umidità è alta, non si gioca». Il vantaggio è la leggibilità. Una persona può seguire il percorso che ha portato alla decisione e contestarlo, cosa importante quando la decisione conta, come in una diagnosi medica. Il limite è la complessità, perché nei problemi grandi lo spazio delle ipotesi esplode.

Le reti neurali

Una rete neurale artificiale è fatta di nodi collegati da archi con un peso. Ogni nodo calcola la somma pesata dei segnali in ingresso e la passa a una funzione di attivazione non lineare, come la sigmoide, la tangente iperbolica o la ReLU. Un peso maggiore di uno amplifica il segnale, uno fra zero e uno lo attenua, uno negativo ne inverte il segno.
La retropropagazione dell’errore insegna alla rete i pesi giusti. Si parte da pesi casuali, si confronta l’uscita con quella attesa e si propaga l’errore all’indietro, correggendo i pesi strato per strato, finché l’errore non è accettabile. Una volta addestrata, la rete viene messa alla prova con dati di cui il progettista conosce la risposta. Altre tecniche citate nel seminario erano le macchine a vettori di supporto, per classificare, e l’analisi delle componenti principali, per ridurre il numero di variabili. Le reti con molti strati, il deep learning, sono diventate addestrabili grazie agli accorgimenti introdotti da Geoffrey Hinton nel 2006.

Riconoscere le anomalie

Nella sicurezza informatica queste tecniche servono anche a riconoscere le anomalie. Il modello impara il comportamento normale di una rete, di un sistema o di un utente, come volumi di traffico, orari di accesso, sequenze di comandi, e segnala ciò che se ne discosta. A differenza delle firme degli antivirus, un modello di questo tipo può accorgersi di attacchi mai visti, purché lascino una traccia diversa dal comportamento abituale. Gli alberi di decisione rendono spiegabile l’allarme, le reti neurali colgono relazioni più complesse ma sono più difficili da interpretare.

Perché il modello invecchia

Il seminario metteva in evidenza un punto che nel riconoscimento delle anomalie diventa decisivo. Se cambiano i contesti, i comportamenti o gli scenari, la rete deve aggiornarsi, e per farlo ha bisogno di meccanismi che le dicano se sta andando nella direzione giusta. Un modello addestrato fotografa la normalità di un certo periodo. Quando l’organizzazione cambia, con nuovi servizi, nuovi orari o nuovi utenti, la normalità si sposta e il modello comincia a scambiare il nuovo per sospetto, oppure ad accettare come normale ciò che non lo è.
È il fenomeno che oggi si chiama deriva dei dati o del concetto. Gli attaccanti lo sfruttano anche in modo deliberato, spostando a poco a poco il proprio comportamento per farlo rientrare nella normalità appresa. Per questo un sistema di riconoscimento delle anomalie richiede verifiche periodiche delle prestazioni, riaddestramento su dati recenti e controllati, e la possibilità per un analista di capire perché un evento è stato segnalato.
 
 
Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.
Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · LinkedIn