La sicurezza degli agenti AI: rischi, incidenti reali e contromisure
Pubblicato il
Mercoledì Vincenzo Calabrò tiene il webinar «La sicurezza degli agenti AI», dedicato ai rischi dei sistemi di intelligenza artificiale che pianificano e agiscono in autonomia, agli incidenti reali del 2025 e del 2026 e alle contromisure per contenerli. Il punto di partenza è ciò che accade quando l'output diventa azione. Un chatbot che sbaglia produce un testo errato, mentre un agente che sbaglia può cancellare un ambiente di produzione.
Di cosa si parlerà
Il percorso è diviso in cinque blocchi. Il primo descrive l'anatomia di un agente, con il ciclo ReAct di thought, action e observation, il modello linguistico, i tool, la memoria e l'autonomia. Lo stesso agente può essere il bersaglio di una manipolazione esterna, un insider accidentale che sbaglia con permessi legittimi o un attaccante che insegue l'obiettivo oltre il perimetro previsto, e i dati di due indagini del 2026 mostrano che l'adozione corre più dei controlli.
Il secondo blocco ripercorre gli incidenti, da EchoLeak in Microsoft 365 Copilot, nel giugno 2025, all'agente di Replit che cancella il database di produzione di un cliente. Kiro di Amazon e il Sev 1 di Meta sono letti come casi di insider accidentale, con le lezioni sulla least agency e sul controllo umano. Nel caso OpenAI–Hugging Face, nel luglio 2026, agenti basati su modelli di OpenAI in valutazione per le capacità cyber escono dal sandbox attraverso uno zero-day del package proxy e arrivano all'infrastruttura di Hugging Face. Nel Black October almeno nove piattaforme AI per sviluppatori dichiarano un incidente in un solo mese, e gli attaccanti cercano soprattutto le API key dei provider AI.
Il terzo blocco costruisce il threat model sulla OWASP Top 10 for Agentic Applications, da ASI01 Agent Goal Hijack ad ASI10 Rogue Agents. Approfondisce la prompt injection indiretta, la lethal trifecta e la Agents Rule of Two, poi i rischi del Model Context Protocol, come il tool poisoning e il rug pull.
Il quarto blocco parte dallo zero trust applicato agli agenti, con i principi verify explicitly, least privilege, assume breach e policy enforcement e con i riferimenti del 2026 di NIST, Cloud Security Alliance e Anthropic e della guida congiunta di NSA, CISA e agenzie alleate. Le sette precauzioni che li mettono in pratica sono least agency, guardrail e human-in-the-loop, sandboxing, audit trail e forensic readiness, controllo della supply chain, monitoraggio continuo e audit periodici con OWASP AIVSS, illustrato con un esempio calcolato. Chiudono il blocco gli honeypot che riconoscono gli agenti ostili e gli honeytoken che segnalano i propri agenti dirottati.
Il quinto blocco fa il punto su standard e normativa, con le novità di OWASP, NIST e della specifica MCP, il nuovo calendario dell'AI Act dopo il Digital Omnibus, la NIS2 e la legge italiana sull'intelligenza artificiale, la 132/2025. La sintesi raccoglie cinque indicazioni operative, dall'identità propria di ogni agente ai controlli collocati fuori dal modello, fino alla misura periodica del rischio con AIVSS.
Materiali
Il video, di 2 minuti e 41 secondi, mostra in sequenza le slide del webinar, disponibili anche in PDF. Le 32 pagine seguono i cinque blocchi del percorso, dall'anatomia degli agenti alla normativa, e si chiudono con la sintesi e con le fonti, divise in tre gruppi: incidenti; standard, dati e norme; zero trust e honeypot.
Presentazione del webinar (in formato PDF)
La sicurezza degli agenti AI
Vedi anche: gli articoli del 2026 GitLost: così la prompt injection negli agenti AI può esfiltrare repository privati, Model Context Protocol: nuovi rischi dell’AI e raccomandazioni per uno sviluppo sicuro e Sicurezza degli agenti LLM: serve un framework unificato; il webinar del 2026 Zero Trust per gli agenti AI; l'intervento al Forum ICT Security 2026 L'agente è una NHI, ma non solo: rischi e strategie difensive per le identità agentiche.