Chatbot e voice agent: come dichiarare che il cliente parla con un'AI

Chi parla con un chatbot, un assistente vocale o un agente AI deve saperlo, al più tardi dal primo scambio. Lo chiede l'articolo 50, paragrafo 1, dell'AI Act, in vigore dal 2 agosto 2026. L'obbligo è del fornitore del sistema, ma se l'assistente lo hai fatto sviluppare e lo usi con il nome della tua azienda, il fornitore sei tu. Una frase all'inizio della chiamata o della chat basta nella maggior parte dei casi. Una riga nelle condizioni d'uso no.

È l'obbligo di trasparenza più facile da rispettare, e anche quello che si dà più spesso per scontato. Le altre regole, su immagini, video e testi, sono nella guida all'etichettatura dei contenuti AI.

Un caso che ha fatto scuola

Nel maggio 2018 Google presentò Duplex: un assistente che telefonava a un ristorante e a un parrucchiere per prenotare, con pause, esitazioni e «mm-hmm» del tutto umani. Dall'altra parte nessuno capì di parlare con una macchina, e la dimostrazione fu accolta più con inquietudine che con ammirazione.

Pochi giorni dopo Google annunciò che Duplex si sarebbe identificato all'inizio di ogni chiamata. Otto anni dopo, quella scelta è diventata una regola europea.

Chi ha l'obbligo

L'articolo 50, paragrafo 1, si rivolge al fornitore: chi sviluppa il sistema, o lo fa sviluppare, e lo mette in servizio con il proprio nome. Deve progettarlo in modo che le persone sappiano di interagire con un'AI.

Nella pratica le situazioni sono tre:

Usi un servizio di terzi così com'è, per esempio il chatbot integrato nel software di help desk. L'avviso deve averlo previsto il fornitore. A te conviene verificare che sia attivo e non toglierlo.
Hai fatto sviluppare un assistente su misura e lo presenti come il servizio clienti della tua azienda. Per il regolamento il fornitore sei tu, anche se il codice l'ha scritto un altro. La differenza tra i due ruoli è spiegata in fornitore e utilizzatore nell'AI Act.
Hai modificato un sistema altrui e lo usi con il tuo nome. Anche in questo caso le responsabilità del fornitore passano a te.

In ogni caso, chi mette il cliente davanti al sistema è il primo a cui il cliente chiederà conto. Conviene che l'avviso ci sia, chiunque l'abbia formalmente in carico.

Cosa non basta

Le linee guida elencano gli avvisi insufficienti, quando sono usati da soli:

una riga nei termini e condizioni o nella documentazione;
metadati o filigrane che l'utente non vede;
nomi ambigui come «assistente» o un avatar con il volto di una persona;
avvisi generici come «questo sito usa l'AI»;
descrizioni tecniche come «basato su modelli linguistici», che non dicono cosa significa per chi scrive.

Anche un segnale sonoro da solo non basta al telefono. Può aiutare, insieme alla frase.

Le formule, canale per canale

Le linee guida non impongono parole precise. Chiedono un'informazione chiara, distinguibile e data al più tardi alla prima interazione. Queste sono formule che rispettano il criterio.

Chat sul sito o su WhatsApp. Primo messaggio: «Ciao, sono l'assistente virtuale di [azienda], un sistema di intelligenza artificiale. Posso aiutarti con ordini e spedizioni. Se preferisci, ti passo a una persona.» Meglio se accanto al campo di testo resta visibile un'etichetta «AI».

Telefono, chiamate in entrata. All'inizio: «Buongiorno, risponde l'assistente vocale di [azienda]. Sono un sistema di intelligenza artificiale.» Poi la domanda vera, senza lunghe premesse.

Telefono, chiamate in uscita. Qui l'avviso va dato ancora prima, perché chi risponde non si aspetta nulla: «Buongiorno, sono l'assistente AI di [azienda] e la chiamo per conto dell'ufficio commerciale.» Le linee guida chiedono agli agenti AI di dichiarare anche per conto di chi agiscono.

Email scritte e inviate da un agente AI. Un'etichetta in testa al messaggio, per esempio «Messaggio scritto e inviato da un assistente AI di [azienda]». Le linee guida citano proprio questo caso tra gli esempi.

Chiamate lunghe e contesti delicati

Un avviso all'inizio basta nella maggior parte dei casi. Le linee guida chiedono qualcosa in più in tre situazioni:

Interazioni lunghe: un promemoria dopo un'attesa, un trasferimento o quando l'assistente cambia ruolo, per esempio passa dalle informazioni alla raccolta di un reclamo.
Contesti in cui è più facile essere tratti in inganno: consulenza finanziaria, assicurazioni, assistenza legale, salute, gestione dei reclami. Qui i promemoria periodici sono probabilmente necessari.
Domande dirette: se l'utente chiede «sto parlando con una persona?» o sembra confuso, il sistema deve rispondere la verità. Va previsto nelle istruzioni dell'assistente, non lasciato al caso.

Se l'assistente parla con persone vulnerabili, come anziani o minori, il linguaggio dell'avviso va adattato: semplice, breve, ripetuto quando serve.

Trasparenza e privacy sono due cose diverse

L'avviso dell'AI Act non sostituisce l'informativa sul trattamento dei dati. Se la chiamata viene registrata o trascritta, il GDPR chiede di dirlo e di spiegare perché. Le due informazioni possono stare nella stessa frase iniziale, ma vanno pensate entrambe. Ne parliamo in AI e GDPR: cosa sapere.

Cosa controllare oggi

Elenca dove un'AI parla con persone: chat del sito, WhatsApp, centralino, email automatiche, agenti che prenotano o sollecitano.
Per ognuno verifica chi è il fornitore e se l'avviso c'è, è chiaro ed è dato all'inizio.
Prova tu: chiama il numero, apri la chat e chiedi «sei una persona?». La risposta ti dice subito a che punto sei.

Quando costruiamo un Voice AI Agent o un assistente per l'assistenza clienti, l'avviso iniziale, i promemoria e il passaggio a una persona fanno parte del progetto fin dal primo giorno. Come funziona un assistente vocale lo spieghiamo in cos'è un voice AI agent.

Chatbot e voice agent: come dichiarare che il cliente parla con un'AI

In breve