Articolo Pubblicazioni

ChatGPT bloccato dal Garante: cosa ha insegnato il caso su IA e privacy

di · Pubblicato il 15 maggio 2023

Abstract

Il 30 marzo 2023 il Garante per la protezione dei dati personali ha disposto in via d’urgenza la limitazione provvisoria del trattamento dei dati degli utenti italiani da parte di OpenAI, società che gestisce ChatGPT. L’azienda ha sospeso il servizio in Italia e lo ha riattivato a fine aprile dopo aver adottato alcune misure richieste. L’articolo ricostruisce il caso, spiega le contestazioni e trae indicazioni per organizzazioni che sviluppano o usano sistemi di intelligenza artificiale generativa.

Vincenzo Calabrò | ChatGPT bloccato dal Garante: cosa ha insegnato il caso su IA e privacy
 

Il contesto

ChatGPT, lanciato da OpenAI alla fine di novembre 2022, ha raggiunto in pochi mesi una diffusione senza precedenti per un servizio online. Il 20 marzo 2023 un errore in una libreria usata dal servizio ha reso visibili ad alcuni utenti i titoli delle conversazioni di altri utenti e, per una piccola parte degli abbonati, alcune informazioni di pagamento. OpenAI ha comunicato l’accaduto pochi giorni dopo. Dieci giorni più tardi è arrivato il provvedimento del Garante italiano.

Le contestazioni

Il provvedimento del 30 marzo, adottato in via d’urgenza, ha disposto la limitazione provvisoria del trattamento dei dati degli utenti stabiliti in Italia. Le criticità indicate dal Garante sono queste:
  1. assenza di un’informativa agli utenti e agli interessati i cui dati sono raccolti da OpenAI e trattati dal servizio;
  2. assenza di una base giuridica idonea per la raccolta e la conservazione massiccia di dati personali allo scopo di addestrare gli algoritmi;
  3. trattamento inesatto dei dati personali, perché le risposte del sistema possono contenere informazioni non corrispondenti al vero sulle persone;
  4. assenza di qualsiasi verifica dell’età degli utenti, a fronte di condizioni d’uso che riservano il servizio a chi ha compiuto tredici anni, con il rischio di esporre i minori a risposte inadatte.
Il Garante ha richiamato anche la violazione di dati del 20 marzo. OpenAI, che non aveva una sede stabile nell’Unione, ha risposto sospendendo il servizio per gli utenti italiani il giorno successivo.

Le misure chieste

Dopo un incontro con l’azienda, l’11 aprile il Garante ha indicato le misure da adottare per far cessare la limitazione. Tra le principali:
  • pubblicare un’informativa chiara su modalità e logica del trattamento e sui diritti degli interessati, compresi i non utenti;
  • consentire agli interessati di opporsi al trattamento dei propri dati per l’addestramento e di chiedere la rettifica o la cancellazione dei dati inesatti;
  • modificare la base giuridica del trattamento per l’addestramento, scegliendo tra consenso e legittimo interesse;
  • introdurre subito un meccanismo di dichiarazione dell’età all’accesso e, in seguito, un sistema di verifica effettiva;
  • promuovere una campagna di informazione sui principali mezzi di comunicazione italiani.
OpenAI ha pubblicato una nuova informativa, un modulo per l’opposizione al trattamento dei dati personali per l’addestramento, la possibilità di disattivare la cronologia delle conversazioni e una richiesta di dichiarazione dell’età. Il servizio è stato riattivato in Italia il 28 aprile. Il Garante ha preso atto delle misure e ha proseguito l’istruttoria, mentre il Comitato europeo per la protezione dei dati ha creato un gruppo di lavoro dedicato.

Perché il caso conta

Il provvedimento è stato criticato da chi lo considerava un freno all’innovazione e apprezzato da chi lo vedeva come una applicazione coerente del GDPR. Al di là delle opinioni, ha avuto un effetto pratico. Ha costretto un fornitore globale a introdurre in poche settimane strumenti per l’esercizio dei diritti che prima mancavano, e ha posto in modo esplicito domande che riguardano tutti i modelli linguistici:
  1. su quale base giuridica si possono usare dati personali raccolti dal web per addestrare un modello;
  2. come si informano persone che non sanno di essere nei dati di addestramento;
  3. come si garantisce l’esattezza quando un sistema produce testi plausibili ma falsi su persone reali;
  4. come si rettifica o si cancella un dato incorporato nei parametri di un modello, dove manca un record da modificare.

Indicazioni per le organizzazioni

Per un’azienda o un ente che usa servizi di intelligenza artificiale generativa il caso suggerisce alcune attenzioni. Prima di adottare uno strumento conviene verificare dove sono trattati i dati, se le conversazioni sono usate per l’addestramento e come si può disattivare questo uso. I dipendenti dovrebbero avere regole chiare su quali informazioni non inserire, come dati personali di clienti, dati sanitari, documenti riservati o codice sorgente. Per gli usi più rilevanti serve una valutazione d’impatto sulla protezione dei dati, con una descrizione dei rischi e delle misure.
Per chi sviluppa sistemi propri le domande sono ancora più dirette. Bisogna documentare l’origine dei dati di addestramento e la base giuridica, prevedere un canale per l’esercizio dei diritti, valutare meccanismi per limitare la produzione di informazioni personali inesatte e gestire l’accesso dei minori.

La questione dell’età

La verifica dell’età è uno dei punti più difficili. Una semplice dichiarazione all’accesso è facile da aggirare, mentre una verifica effettiva richiede di trattare documenti o altri dati personali, con nuovi rischi per la privacy. Il Garante ha chiesto a OpenAI di presentare entro maggio un piano per un sistema di verifica effettiva, da attuare entro settembre. Il tema riguarda molti servizi online e diventerà centrale anche per altri assistenti conversazionali.

Il quadro che verrà

Il caso si inserisce nel negoziato sul regolamento europeo sull’intelligenza artificiale, il cui testo è in discussione tra Parlamento, Consiglio e Commissione. Il Parlamento sta valutando obblighi specifici per i modelli di base e per i sistemi generativi, come la trasparenza sui contenuti generati e sui dati protetti dal diritto d’autore usati per l’addestramento. Il GDPR resta comunque applicabile a ogni trattamento di dati personali, indipendentemente dalla tecnologia, e il caso italiano lo ha ricordato a tutti.
 
Vedi anche: l’articolo del 2019 GPT-2 (2019), l’articolo del 2017 Privacy by design e by default e l’articolo del 2025 La legge 132/2025 sull’IA.
 
Vincenzo Calabrò | Ingegnere informatico specializzato in sicurezza informatica e investigazioni digitali. Funzionario informatico del Ministero dell'Interno; su incarico autorizzato si occupa di sicurezza informatica e di perizie informatiche forensi. Autore di articoli e saggi. Lecturer, Speaker, Trainer.
Profili: Google Scholar · ORCID · ResearchGate · Academia.edu · CyberSecurity360 · AgendaDigitale · ICT Security Magazine · LinkedIn