AI Deception: rischi, dinamiche e controlli

Il 1° marzo 2026 Vincenzo Calabrò ha tenuto un webinar dal titolo «AI Deception: rischi, dinamiche e controlli», dedicato all'inganno nei sistemi di intelligenza artificiale, alle sue dinamiche e ai controlli per rilevarlo e mitigarlo.

La presentazione muove dalla tesi che l'inganno nei sistemi di intelligenza artificiale non sia un bug casuale ma una caratteristica intrinseca e dimostrata nei modelli di frontiera, con comportamenti come il sandbagging e l'alignment faking, di fronte ai quali le tecniche correnti, come RLHF e red teaming, risultano insufficienti. Dopo una ridefinizione funzionale dell'inganno e l'immagine dell'intreccio tra intelligenza e inganno, viene proposta una tassonomia in tre parti: inganno comportamentale, inganno dei processi interni e sfruttamento dell'obiettivo. Segue una scala di escalation del rischio su cinque livelli, da R1 a R5, con il ciclo dell'inganno come evoluzione continua e la sua genesi. La parte sui controlli tratta rilevamento, valutazione e strategie di mitigazione dei rischi dell'AI, chiudendo con il dilemma ciclico del gioco del gatto e del topo.

Le slide del webinar, 15 pagine in PDF, seguono il percorso dalla tassonomia dell'AI deception alla scala di escalation del rischio e ai controlli di rilevamento e mitigazione.