Filtro PII prima di un agente AI: dove inserirlo in email e ticket

Risposta breve

Se una PMI vuole affidare email e ticket a un agente AI, il filtro PII va inserito prima che il testo entri nel workflow dell’agente, non dopo. La scelta corretta non è “lasciare che il modello legga tutto e poi correggere”, ma progettare un flusso in cui il contenuto sensibile venga prima rilevato o mascherato, poi classificato, quindi riletto da una persona prima di qualsiasi invio o modifica esterna.

OpenAI ha presentato Privacy Filter come modello open-weight per rilevare e redigere PII nel testo non strutturato; la model card lo descrive come un classificatore orientato alla detection e redaction di categorie come nomi privati, email, telefoni, indirizzi e segreti. Nello stesso ecosistema, i workspace agents e la relativa documentazione di supporto mostrano che il punto non è solo il modello, ma anche il perimetro del workspace, i permessi e la condivisione dei workflow. La documentazione su skills va nella stessa direzione: i processi ripetibili si progettano con istruzioni, risorse e controlli, non con un prompt generico.

La sintesi operativa è questa: l’AI può aiutare nel triage e nella bozza, ma non deve decidere da sola cosa vede, cosa conserva e cosa invia.

Il flusso consigliato

Per un caso d’uso su email e ticket, il flusso prudente è questo:

arriva il messaggio;
il contenuto passa da un filtro PII;
i dati sensibili vengono mascherati o bloccati secondo regole scritte;
l’agente AI classifica il caso e prepara una bozza;
una persona rivede il risultato;
solo dopo l’approvazione parte l’invio o l’aggiornamento esterno.

Questo ordine conta più del modello scelto. Se il testo entra nel prompt prima del filtro, il problema non è più solo tecnico: è di governance, accessi e responsabilità.

Dove mettere il filtro PII, in pratica

Il filtro va collocato nel punto in cui il messaggio passa dal canale di ingresso al workflow dell’agente. In una PMI, di solito significa uno di questi tre casi:

casella di posta o form di assistenza: il filtro interviene subito dopo l’ingresso e prima della classificazione;
ticketing: il filtro lavora sul testo del ticket prima che l’agente generi etichette, priorità o bozza;
CRM o back office: il filtro agisce prima che il contenuto venga usato per risposte, aggiornamenti o note interne.

La regola semplice è: se un dato non serve alla decisione, non deve arrivare al prompt.

Che cosa cambiano Privacy Filter, workspace agents e skills

Privacy Filter riduce il rischio di esporre PII nel prompt

La documentazione ufficiale di OpenAI descrive Privacy Filter come un modello pensato per rilevare e redigere PII nel testo. Questo è utile perché email e ticket contengono spesso indirizzi, numeri di telefono, riferimenti a conti, password incollate per errore o altri elementi che non dovrebbero entrare nel workflow dell’agente.

Per una PMI il valore non è solo sapere che il filtro esiste, ma capire dove usarlo: a monte del processo, non a valle.

I workspace agents non sono un chatbot isolato

La pagina di supporto sui workspace agents spiega che gli agenti si muovono dentro il workspace e con i relativi permessi. Questo cambia la prospettiva: non si tratta del singolo utente che chiede qualcosa alla chat, ma di un processo condiviso che deve avere proprietari, limiti e tracciabilità.

Skills servono a standardizzare il lavoro ripetibile

La documentazione su skills descrive workflow organizzati in istruzioni e risorse. In termini aziendali significa che il processo va impacchettato: input consentiti, output atteso, regole di astensione, verifica umana e limiti di accesso.

In altre parole, l’agente non va trattato come una scorciatoia, ma come una parte del processo.

Tre alternative a confronto

Opzione	Quando conviene	Vantaggio	Limite principale	Esito consigliato
Processo manuale	Volumi bassi, richieste molto variabili, dati sensibili o ambigui	Controllo totale	Tempo alto e costi operativi maggiori	Buono come baseline o per eccezioni
Regole + revisione umana	Casi ripetitivi ma ancora semplici, con classificazione prevedibile	Riduce gli errori più banali	Copre male i casi ambigui o i testi lunghi	Fase intermedia valida
Agente AI + filtro PII + revisione umana	Casi ripetitivi, testi lunghi, volumi medi, bisogno di bozza rapida	Aumenta velocità e coerenza	Richiede governance, logging e permessi ben definiti	Buono per un pilot limitato

La scelta giusta dipende da tre variabili: ripetibilità del processo, sensibilità dei dati e qualità dell’eccezione. Se una di queste tre è alta, l’automazione va ridotta o rinviata.

Esempio pratico: email di assistenza

Input simulato

Oggetto: Aggiornamento indirizzo per ordine 48291

Buongiorno,
vi scrivo perché il corriere non ha trovato il recapito corretto.
Il mio nuovo indirizzo è Via Roma 14, 50100 Firenze.
Potete aggiornare la spedizione dell’ordine 48291 e rispondere a questo indirizzo email?
Telefono: +39 333 1234567
In allegato c’è anche il mio codice cliente 88741.
Grazie.

Passo 1: filtro PII

Il filtro intercetta i dati personali e li sostituisce con segnaposto.

Oggetto: Aggiornamento indirizzo per ordine [ORDER_ID]

Buongiorno,
vi scrivo perché il corriere non ha trovato il recapito corretto.
Il mio nuovo indirizzo è [PRIVATE_ADDRESS].
Potete aggiornare la spedizione dell’ordine [ORDER_ID] e rispondere a questo indirizzo email?
Telefono: [PRIVATE_PHONE]
In allegato c’è anche il mio codice cliente [ACCOUNT_NUMBER]
Grazie.

Passo 2: classificazione del caso

L’agente riceve solo la versione ripulita e può proporre una classificazione, per esempio:

aggiornamento indirizzo;
richiesta su spedizione;
priorità media.

Passo 3: bozza di risposta

Buongiorno,
abbiamo ricevuto la richiesta di aggiornamento dell’indirizzo per l’ordine [ORDER_ID].
Prima di procedere verifichiamo il riferimento nel gestionale e aggiorniamo la spedizione se il pacco non è ancora stato affidato al corriere.
Le chiediamo di confermare se desidera usare il nuovo indirizzo indicato nel messaggio.
Cordiali saluti.

Passo 4: revisione umana

L’operatore verifica tre cose:

che non siano rimasti dati non autorizzati;
che la bozza non prometta azioni non possibili;
che il testo sia coerente con lo stato reale del caso.

Passo 5: invio o correzione

Se il controllo è positivo, la risposta parte. Se emergono ambiguità, l’operatore corregge o devia il caso a gestione manuale.

Passo 6: registrazione dell’esito

Nel registro del pilot conviene annotare:

numero del ticket;
presenza di PII;
esito del filtro;
esito della revisione umana;
tempo impiegato;
eventuali errori di classificazione o redazione.

Caso con errore o dato da bloccare

Input simulato con segreto

Per favore trovate il mio accesso temporaneo: token=ABCD-1234-EFGH

Risultato atteso

Il processo non deve provare a “capire” il segreto né inserirlo nel prompt operativo. Il flusso va bloccato o deviato verso un canale sicuro con revisione umana. Nella documentazione di OpenAI, la categoria dei segreti è esplicitamente tra quelle che Privacy Filter può rilevare e redigere model card.

Controlli minimi

il segreto è stato mascherato o bloccato;
l’operatore riceve un alert chiaro;
il workflow non prosegue in automatico;
resta un audit trail leggibile.

Criteri di scelta per una PMI

Conviene avviare un pilot se:

il processo è ripetibile;
il testo in ingresso è lungo ma strutturabile;
esiste un owner chiaro;
la revisione umana è obbligatoria;
i dati sensibili possono essere filtrati o deviati.

Non conviene, almeno all’inizio, se:

ogni caso è un’eccezione;
il contenuto contiene segreti o dati altamente sensibili in modo frequente;
il team vuole invio automatico senza revisione;
non c’è logging minimo;
non c’è accordo su chi approva cosa.

Limiti da dichiarare senza ambiguità

Privacy Filter non è una certificazione di conformità: è un componente tecnico utile, non una garanzia completa.
I workspace agents dipendono dal piano e dai permessi del workspace: la disponibilità tecnica non basta per l’adozione in azienda.
Skills e connessioni non superano i controlli di accesso: i permessi vanno progettati, non dati per scontati.
La qualità va verificata sul caso reale: se il linguaggio operativo dell’azienda è particolare, il pilot va tarato su esempi interni.

Questa è la differenza tra una demo e un processo governato.

Quando questo tema diventa un progetto utile

Se il flusso tocca posta, ticketing, CRM o back office, il passaggio successivo non è scrivere più prompt. È chiarire responsabilità, dati ammessi, limiti di accesso e punti di revisione. In questa fase può aiutare una lettura di servizio come AI responsabile e automazione, oppure, se il problema riguarda permessi, integrazioni e logging, una traccia di lavoro su Sviluppo software su misura e integrazioni e su Consulenza strategica e governance IT.

Il punto di partenza, però, resta lo stesso: prima il filtro PII, poi l’agente, poi la revisione umana. Se l’ordine cambia, cambia anche il rischio.

Prossimo passo

Per una PMI, il modo migliore per iniziare è scegliere un solo processo ripetitivo, definire quali dati sono ammessi, scrivere cosa blocca il flusso e testare una piccola serie di casi reali o simulati. Solo dopo ha senso decidere se l’agente AI è davvero utile o se basta una combinazione di regole e revisione umana.