Agenti AI9 voci
Un agente AI riceve un obiettivo, lo scompone in passi e li esegue con strumenti esterni, spesso per conto di un utente. Per farlo usa credenziali e permessi che gli sono stati delegati, ed è questo a renderlo un bersaglio interessante.
di Vincenzo Calabrò · Aggiornato il
Il tema
Dietro un agente ci sono un modello linguistico, una memoria, un pianificatore e l’accesso a strumenti esterni, con cui legge documenti e repository, chiama API ed esegue codice. Nei sistemi multi-agente più agenti specializzati si dividono il lavoro, e protocolli come il Model Context Protocol (MCP) standardizzano il collegamento tra modelli, dati e servizi.
Un’istruzione nascosta in un contenuto letto dall’agente (indirect prompt injection) può diventare un’azione reale. Permessi troppo ampi (excessive agency) e credenziali condivise moltiplicano i danni, e gli agenti adottati senza autorizzazione alimentano la Shadow AI. Conviene trattare gli agenti come identità a cui assegnare privilegi minimi, da verificare di continuo, con un registro delle azioni e un essere umano che approva i passaggi critici.
Gli argomenti
Che cos’è l’IA agentica. Intelligenza Artificiale Agentica ne dà una definizione e ne descrive principi, architettura, applicazioni e problemi aperti. Con esempi di agenti già usati nella difesa, Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale mette a fuoco la differenza tra agentic AI e generative AI.
Un quadro unico per la sicurezza. Seguendo la definizione di Chan, l’agency si riconosce da quattro proprietà, tra cui il perseguimento di obiettivi non completamente specificati e l’azione diretta senza mediazione umana. Su questa base Sicurezza degli agenti LLM: serve un framework unificato propone un’architettura di riferimento per progettare e impiegare gli agenti.
Prompt injection e MCP. GitLost ha mostrato che a un agente dei GitHub Agent Workflows basta leggere un contenuto ostile per esfiltrare repository privati. Una ricerca del CERT-AgID sul Model Context Protocol ricostruisce passo per passo come emerge una vulnerabilità di Server-Side Request Forgery e indica come sviluppare integrazioni più sicure.
Identità. Le Non-Human Identities superano quelle umane di due ordini di grandezza, e gli agenti sono la categoria più difficile da governare perché autonomi e delegati da un utente. In Non-Human Identities e agenti di intelligenza artificiale esamino rischi, quadro regolatorio (AI Act e linee guida AgID) e un caso d’uso in un ente locale. Per lo stesso motivo ho riletto i principi Zero Trust pensando a un software che agisce (Zero Trust alla prova degli AI agent).
Agenti in azienda. Una survey tra professionisti IT ha messo in luce quattro problemi, cioè agenti già molto diffusi, agenti non autorizzati (Shadow AI), frequenti violazioni del perimetro o dello scope e conformità usata al posto di una strategia di governance dedicata. I risultati, con alcune indicazioni pratiche, sono riportati in AI Agent nelle organizzazioni: le 4 aree critiche.
Costi. Con gli agenti il costo di un’indagine dipende dai token consumati. Senza capacity planning e controllo dei consumi, un budget esaurito può interrompere un’analisi nel momento peggiore (Cyber security e agentic AI).
Prime letture
- Intelligenza artificiale agentica: architettura, applicazioni e rischi (2025). Che cosa sono gli agenti e come sono costruiti.
- Sicurezza degli agenti LLM: serve un framework unificato (2026). Un’architettura di riferimento per agenti più sicuri.
- Non-Human Identities e agenti di intelligenza artificiale: governare l’identità delle macchine (2026). Come gestire gli agenti come identità.
- GitLost: così la prompt injection negli agenti AI può esfiltrare repository privati (2026). Un attacco di prompt injection contro un agente, ricostruito nei dettagli.
Standard e riferimenti
- OWASP Agentic AI: Threats and Mitigations
- OWASP Top 10 for LLM Applications, tra cui Excessive Agency
- Model Context Protocol specifica ufficiale del protocollo
- OWASP Non-Human Identities Top 10
Chi scrive
Questa pagina raccoglie 9 miei articoli pubblicati tra il 2025 e il 2026. Di questi, 7 sono usciti anche su Cybersecurity360 e ICT Security Magazine. Il mio percorso professionale è descritto nel curriculum.
Articoli9 voci
- Cyber security e agentic AI: perché il costo dei token diventa un rischio operativo. Con gli agenti il costo di un’indagine dipende dai token consumati, e un budget esaurito diventa un rischio operativo da governare nel SOC. Pubblicato su CyberSecurity360.it.
- GitLost: così la prompt injection negli agenti AI può esfiltrare repository privati. Come una issue ostile porta un agente dei GitHub Agent Workflows a esfiltrare repository privati, e come difendersi. Pubblicato su CyberSecurity360.it.
- Zero Trust alla prova degli AI agent: spostare l’applicazione delle regole di sicurezza dalla rete all’utente. I limiti degli LLM, le minacce degli agenti autonomi e i sette principi Zero Trust riletti con identità verificabili e MCP Gateway. Pubblicato su CyberSecurity360.it.
- Non-Human Identities e agenti di intelligenza artificiale: governare l’identità delle macchine. Rischi della OWASP NHI Top 10, delega autenticata, quadro normativo e un’architettura di riferimento per un caso d’uso nella PA. Pubblicato su ICTSecurityMagazine.com.
- AI Agent nelle organizzazioni: le 4 aree critiche. I risultati di una survey sugli agenti in azienda, tra Shadow AI e violazioni di scope, con le implicazioni di sicurezza e i rimedi. Pubblicato su CyberSecurity360.it.
- Model Context Protocol: nuovi rischi dell’AI e raccomandazioni per uno sviluppo sicuro. L’analisi del CERT-AgID sui rischi del protocollo, compresa la SSRF, e le raccomandazioni per sviluppare integrazioni sicure. Pubblicato su CyberSecurity360.it.
- Sicurezza degli agenti LLM: serve un framework unificato. Una tassonomia unificata delle minacce agli agenti che usano strumenti, dati e servizi esterni, con le pratiche di sicurezza. Pubblicato su CyberSecurity360.it.
- Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale. Architettura, framework e applicazioni degli agenti per una difesa proattiva, con vantaggi, questioni etiche e prospettive.
- Intelligenza artificiale agentica: architettura, applicazioni e rischi. Definizione, componenti, memoria e sistemi multi-agente, applicazioni, rischi di sicurezza e aspetti etici.