Un ufficio informazioni aperto anche quando tutti dormono
Sono le ventuno e quaranta di un venerdì di luglio, in un borgo di poco più di duemila abitanti tra le colline dell’entroterra toscano. L’ufficio informazioni turistiche ha chiuso alle diciannove, come ogni giorno, come sempre. La saracinesca abbassata, la luce spenta, un cartello scritto a mano attaccato al vetro con lo scotch: “Orari: 9-13, 15-19. Sabato e domenica solo su prenotazione”. Fuori, sulla piazza, una famiglia tedesca appena scesa da un’auto a noleggio guarda il cartello, poi guarda il telefono, poi si guarda tra loro. Dove si parcheggia il camper per la notte? Il castello, domani, apre davvero alle dieci come diceva il sito, o quell’informazione risale a tre stagioni fa? C’è un ristorante ancora aperto a quest’ora, magari con un menu senza glutine per la figlia più piccola? Nessuno, in quel momento, può rispondere. Nessuno umano, almeno. Punto.
Per generazioni, questa scena si è risolta sempre allo stesso modo: si aspetta. Si aspetta il lunedì, si aspetta l’apertura del bar più vicino nella speranza che il barista sappia qualcosa, si aspetta che qualcuno in albergo risponda al citofono. Il turismo, quello vero, quello che si muove fuori dagli orari d’ufficio — la sera, il weekend, le tre di notte di chi è appena atterrato con un volo low cost e ha il fuso orario ancora addosso — ha sempre dovuto fare i conti con un paradosso semplice da enunciare e mai davvero risolto: la domanda di informazione non si ferma mai, l’offerta di informazione invece sì. Chiude alle diciannove. Chiude il sabato pomeriggio. Chiude, spesso, anche la domenica intera in bassa stagione.
Oggi qualcosa è cambiato, e non in modo marginale. Un numero crescente di uffici turistici, consorzi, singole strutture ricettive e persino piccoli comuni ha iniziato a mettere online un assistente conversazionale basato su intelligenza artificiale — un chatbot, per usare la parola più diffusa, anche se il termine ormai sta stretto a strumenti capaci di rispondere in modo fluido, in più lingue, ventiquattr’ore su ventiquattro, sette giorni su sette, senza mai un cartello “chiuso” da appendere alla vetrina. Digiti una domanda su WhatsApp, sul sito, su un totem in piazza. Nel giro di pochi secondi arriva una risposta scritta come se l’avesse composta una persona in carne e ossa, seduta dietro una scrivania, con tanto di cortesia, punteggiatura, persino una battuta occasionale. L’ufficio informazioni, per la prima volta nella sua storia, non chiude mai. Mai più cartelli con lo scotch. Sempre. O quasi.
La promessa è seducente, e in buona parte reale: orari di apertura di un museo, indicazioni su un sentiero, disponibilità di un parcheggio, consigli su un ristorante ancora aperto — tutte domande che rappresentano, secondo diverse rilevazioni condotte da uffici turistici italiani negli ultimi anni, la larghissima maggioranza delle richieste che arrivano quotidianamente a un IAT (Ufficio di Informazione e Accoglienza Turistica). Domande ripetitive, prevedibili, a bassa complessità emotiva. Esattamente il terreno in cui un assistente automatico rende meglio. Esattamente il terreno, va detto con la stessa chiarezza, in cui rende peggio quando qualcosa esce dal copione previsto. E qui la faccenda si complica. Parecchio.
Questo articolo prova a raccontare entrambe le facce della medaglia, senza sconti a nessuna delle due. Da un lato la reale, misurabile utilità di un servizio informativo che non ha più orari di chiusura — una rivoluzione piccola ma concreta per il turismo dei piccoli territori, quelli che non possono permettersi un call center h24 con operatori umani in tre turni. Dall’altro un rischio che raramente compare nei materiali promozionali di chi vende queste soluzioni: il rischio che il turista, di fronte a un’interfaccia capace di scrivere frasi empatiche, finisca per credere di parlare con qualcuno che davvero lo capisce — e che, nel momento in cui questo qualcuno si rivela una macchina priva di comprensione reale, proprio nel momento in cui servirebbe di più, l’illusione si sgretoli in modo brusco. A volte, come si vedrà, con conseguenze tutt’altro che simboliche.
Inquadramento Teorico: da ELIZA al modello SERVQUAL
Weizenbaum, ELIZA e l’illusione della comprensione
Per capire davvero cosa succede quando un turista scrive a un assistente AI credendo — anche solo per un istante — di parlare con qualcuno che lo ascolta, bisogna tornare indietro di sessant’anni, al 1966, in un laboratorio del MIT, il Massachusetts Institute of Technology. Lì un informatico tedesco naturalizzato statunitense, Joseph Weizenbaum, costruisce un programma chiamato ELIZA, battezzato così in omaggio a Eliza Doolittle, la protagonista del “Pigmalione” di George Bernard Shaw che impara a parlare in un modo che non le appartiene per davvero. ELIZA, nella sua versione più famosa chiamata DOCTOR, simula un terapeuta di orientamento rogersiano — quello che ripete, riformula, rimanda la domanda a chi l’ha posta invece di rispondere nel merito. Un utente scrive “Mi sento triste oggi”. ELIZA risponde: “Mi dispiace sentire che si sente triste oggi. Può dirmi di più?”. Nessuna comprensione reale del concetto di tristezza. Zero. Nulla. Solo pattern matching testuale, regole sintattiche elementari, un trucco linguistico — geniale nella sua semplicità, va riconosciuto — che sposta il peso della conversazione tutto sulle spalle di chi scrive.
Quello che sorprende Weizenbaum, e che lo spingerà a diventare negli anni successivi uno dei critici più severi e più ascoltati dell’intera disciplina che aveva contribuito a fondare, non è il programma in sé. È la reazione delle persone che ci parlavano. La sua stessa segretaria, racconta lui in prima persona in scritti successivi, gli chiede a un certo punto di lasciarla sola nella stanza con il terminale: voleva continuare la conversazione con ELIZA in privato, come si farebbe con un vero terapeuta, un vero confidente. Persone istruite, consapevoli — Weizenbaum lo sottolinea con una punta di sconcerto — che sapevano perfettamente di parlare con un programma scritto da lui stesso, poche settimane prima, con poche centinaia di righe di codice. Sapevano. Eppure si comportavano come se non lo sapessero affatto.
Weizenbaum chiama questo fenomeno — che porterà poi il nome, non a caso, di effetto ELIZA — la tendenza umana, quasi automatica, ad attribuire comprensione, intenzione, persino cura autentica a un sistema che si limita a manipolare simboli senza avere alcuna rappresentazione interna di ciò di cui sta “parlando”. Nel suo libro del 1976, “Computer Power and Human Reason: From Judgment to Calculation”, tuttora un riferimento obbligato in ogni corso serio di etica dell’informatica, Weizenbaum sviluppa questa intuizione in una critica ben più ampia e ben più scomoda: non tutto ciò che una macchina può simulare linguisticamente dovrebbe esserle affidato. Un conto è calcolare un’orbita planetaria. Un altro conto, molto diverso, è affidare a un algoritmo il ruolo di ascoltatore in situazioni dove l’ascolto autentico — quello che nasce da un’esperienza corporea condivisa, dal fatto stesso di essere stati, un giorno, tristi o spaventati o in difficoltà — non può essere replicato da nessuna quantità di regole grammaticali, per quanto sofisticate.
Sessant’anni dopo, i sistemi che rispondono ai turisti nei siti degli IAT non hanno più nulla in comune, dal punto di vista tecnico, con le poche centinaia di righe scritte da Weizenbaum. Sono modelli linguistici allenati su miliardi di parole, capaci di generare risposte che imitano il registro, il tono, persino l’empatia apparente di un interlocutore umano attento, con una naturalezza che ELIZA non avrebbe mai potuto raggiungere. Ma il meccanismo psicologico che Weizenbaum osservò nella sua segretaria — l’attribuzione di comprensione a un sistema che non comprende — non solo non è scomparso. Si è, semmai, rafforzato. Perché più un sistema scrive bene, più l’illusione regge. E regge parecchio bene, oggi.
SERVQUAL: le cinque dimensioni della qualità del servizio secondo Parasuraman, Zeithaml e Berry
C’è un secondo impianto teorico che aiuta a leggere il fenomeno da un’angolazione complementare, più vicina al marketing dei servizi che alla storia dell’informatica: il modello SERVQUAL, sviluppato a metà degli anni Ottanta da tre studiosi di marketing statunitensi — A. Parasuraman, Valarie Zeithaml e Leonard Berry — attraverso una serie di lavori seminali pubblicati tra il 1985 e il 1988, a partire dall’articolo “A Conceptual Model of Service Quality and Its Implications for Future Research”, uscito sul Journal of Marketing. Un modello che ha attraversato quarant’anni di studi sul management dei servizi rimanendo, sostanzialmente, intatto nella sua struttura di fondo, applicato a settori che vanno dalle banche agli ospedali, dai trasporti fino — non poteva mancare — al turismo.
Il modello identifica cinque dimensioni con cui un cliente valuta, spesso senza nemmeno rendersene conto in modo esplicito, la qualità di un servizio ricevuto. La tangibilità, cioè l’aspetto fisico delle strutture, delle attrezzature, del personale: un ufficio pulito e ordinato comunica qualità ancora prima che qualcuno apra bocca. L’affidabilità, ovvero la capacità di erogare il servizio promesso in modo accurato e costante, senza sorprese negative: se il sito dice che il museo apre alle dieci, il museo deve aprire alle dieci, non alle dieci e mezza. La capacità di risposta, la prontezza nell’aiutare il cliente e nel fornire un servizio tempestivo — e qui, va detto subito, un assistente AI attivo ventiquattr’ore su ventiquattro segna un punto quasi imbattibile rispetto a qualunque ufficio con orario umano. La garanzia (in inglese “assurance”), cioè la competenza e la cortesia del personale, unite alla capacità di ispirare fiducia e sicurezza. E infine, quinta e ultima dimensione, quella che qui interessa più delle altre: l’empatia, definita dagli stessi autori come l’attenzione individualizzata, personalizzata, che un’organizzazione riserva a ciascun cliente — la capacità di mettersi, davvero, nei suoi panni specifici, non in quelli di un cliente generico e intercambiabile.
Le prime quattro dimensioni del modello SERVQUAL, applicate a un assistente turistico automatico, raccontano quasi sempre una storia di successo. La tangibilità digitale — interfaccia pulita, risposta ben formattata, nessun errore di battitura — è spesso superiore a quella di certi materiali cartacei ingialliti ancora in uso in alcuni uffici. L’affidabilità, quando il sistema è alimentato con dati aggiornati, è alta: la macchina non dimentica, non si distrae, non confonde un orario con un altro per stanchezza di fine turno. La capacità di risposta, si è detto, è strutturalmente perfetta: risposta istantanea, sempre, a qualunque ora. La garanzia percepita, cioè quanto il sistema sembra competente e sicuro di sé, è spesso alta proprio perché il linguaggio generato non esita mai, non balbetta, non dice “non lo so con certezza” a meno che non sia stato istruito apposta a farlo.
È sulla quinta dimensione, l’empatia, che il modello inizia a raccontare una storia diversa. Meno lineare. Meno rassicurante. Molto meno.
Analisi Critica e Sfide: quando l’assistente sembra capire ma non capisce
L’effetto ELIZA applicato al turista in difficoltà
Il punto di frizione tra la teoria di Weizenbaum e la pratica quotidiana di un assistente turistico si manifesta con una regolarità quasi prevedibile, e segue sempre lo stesso schema in tre atti. Primo atto: il turista pone una domanda semplice, fattuale, a bassa densità emotiva — “A che ora chiude il castello domenica?” — e riceve una risposta rapida, corretta, cortese. L’esperienza è positiva. Genuinamente positiva. Va detto con onestà: nessuna esagerazione critica qui. Secondo atto: rassicurato da questa prima interazione riuscita, il turista alza gradualmente il livello di complessità della domanda, magari senza nemmeno accorgersene — chiede un consiglio più personale, un’opinione, un aiuto con un problema che coinvolge più variabili insieme (il tempo, il budget, la presenza di bambini piccoli, un’allergia). Il sistema, ancora, se ben progettato e ben alimentato, riesce spesso a cavarsela con dignità, magari combinando informazioni diverse in un pacchetto sensato. Terzo atto, quello che qui interessa davvero: il turista, forte delle due interazioni precedenti, arriva con una richiesta che esce completamente dal perimetro per cui il sistema è stato progettato — un reclamo carico di frustrazione, una richiesta di aiuto in una situazione ambigua, un bisogno che ha una componente emotiva forte, non solo informativa. Ed è qui che il sistema, quasi sempre, inciampa. Inciampa male, spesso. Male davvero.
Il problema non è che il sistema sbagli la risposta in senso stretto. Il problema, più sottile e più insidioso, è che il turista — proprio a causa dell’effetto ELIZA descritto da Weizenbaum quasi sessant’anni fa — è arrivato a quel terzo atto con un livello di fiducia calibrato sulle prime due interazioni, non sulla reale capacità del sistema di gestire situazioni complesse. Ha, per dirla in altri termini, costruito nella propria testa un modello mentale dell’interlocutore — un modello che gli attribuisce continuità di attenzione, capacità di giudizio, persino una forma di cura — che nessun sistema attuale, per quanto sofisticato, possiede realmente. Non lo possiede. Non oggi. Non ancora, almeno, e forse mai in senso pieno.
Le conseguenze pratiche di questo scarto tra aspettativa e realtà si vedono soprattutto nelle richieste che mescolano informazione e stato emotivo. Un turista che scrive “il ristorante che ci avevate consigliato ieri sera era chiuso, abbiamo girato per un’ora con i bambini affamati, siamo furiosi” non sta ponendo, in senso stretto, una domanda informativa. Sta cercando, prima ancora di una soluzione pratica, un riconoscimento del disagio provato — quello che in psicologia della comunicazione si chiama a volte “validazione emotiva”. Un operatore umano, anche solo con un “mi dispiace moltissimo, capisco la frustrazione, vediamo subito come rimediare”, offre quella validazione in modo quasi automatico, per empatia genuina o anche solo per addestramento professionale. Un assistente automatico può simulare linguisticamente la stessa frase — le parole “mi dispiace” sono facili da generare — ma dietro quelle parole non c’è alcuna esperienza vissuta della fame dei bambini, del caldo, della camminata a vuoto. C’è, semplicemente, un pattern statistico che associa certe parole di lamentela a certe parole di scuse. Funziona, nella maggior parte dei casi. Non sempre. A volte no. E quando non funziona, il turista percepisce con chiarezza — a volte in modo viscerale — la differenza tra un’empatia recitata bene e un’empatia vera. La percepisce, e la reazione, spesso, è più dura di quanto sarebbe stata con un errore umano equivalente. Proprio perché si sentiva, fino a un attimo prima, capito.
L’empatia: il tallone d’Achille dell’assistente automatico
Tornando al modello di Parasuraman, Zeithaml e Berry, la dimensione dell’empatia — l’attenzione individualizzata, la capacità di mettersi nei panni specifici del singolo cliente — è quella che più di ogni altra dipende da capacità che restano, allo stato attuale della tecnologia, fuori dalla portata reale di un sistema automatico, per quanto quel sistema possa simulare linguisticamente le forme superficiali dell’empatia. Un assistente AI può essere programmato per riconoscere parole chiave associate a disagio — “arrabbiato”, “delusi”, “aiuto”, “problema” — e rispondere con frasi calibrate su un registro compassionevole. Può persino, nei sistemi più sofisticati, modulare il tono in base al sentiment rilevato nel messaggio ricevuto. Ma resta, in ogni caso, una simulazione di superficie: il sistema non prova nulla, non ha memoria emotiva di situazioni simili vissute in prima persona, non porta con sé — a differenza di un operatore umano che magari ha lavorato dieci anni allo sportello e ha visto centinaia di famiglie stanche e affamate — un repertorio di intuizioni acquisite sul campo, corporeo, non trasferibile in un manuale di regole.
Qui si annida il rischio più concreto per chi gestisce un ufficio turistico e decide di affidare all’AI la copertura delle ore di chiusura: pensare che un servizio automatico “abbastanza empatico nel linguaggio” sia equivalente, ai fini pratici, a un servizio realmente empatico. Non lo è. Non lo è per definizione, verrebbe da dire applicando proprio la logica di Parasuraman, Zeithaml e Berry — il modello SERVQUAL misura la qualità percepita del servizio, e la percezione di empatia da parte del cliente dipende in larga parte da segnali che un testo scritto, per quanto ben calibrato, fatica strutturalmente a trasmettere: il tono di voce che si incrina leggermente davanti a una notizia brutta, la pausa prima di rispondere che comunica ascolto reale, lo sguardo, la postura, la disponibilità implicita a restare al telefono più a lungo del previsto se serve. Nessuno di questi segnali è disponibile a un sistema testuale, per quanto ben scritto sia il suo output. Zero segnali corporei. Nei corsi di formazione che tengo per il personale di strutture ricettive e uffici turistici, quando mostro esempi reali di conversazioni finite male, l’obiezione che sento ripetere più spesso è proprio questa: ma il tono era comunque cortese. È lì che di solito capisco quanto lavoro resti da fare sulla differenza tra cortesia e comprensione.
Il rischio più grande, va detto con chiarezza, non è che l’assistente AI esista. È che venga presentato — nella comunicazione dell’ente, nelle aspettative implicite create dal marketing del servizio — come un sostituto integrale del contatto umano, invece che come un’integrazione delle ore in cui il contatto umano semplicemente non c’è. La differenza tra le due impostazioni sembra sottile sulla carta. Non lo è affatto nella pratica quotidiana, come mostra bene il caso che segue.
Case Study: InfoSelva, l’assistente H24 dell’IAT di Selvapiana (caso di fantasia)
Come nasce il progetto — un caso interamente inventato, dichiarato tale fin da subito
Quanto segue è una ricostruzione di fantasia, costruita appositamente per illustrare un meccanismo che si ripete, con varianti diverse, in molti territori reali. Nomi, luoghi, persone, l’assistente stesso: tutto inventato per questo articolo. Nessun comune reale, nessuna persona reale, nessun episodio realmente accaduto a qualcuno di identificabile. Serve a mostrare un pattern ricorrente, non a raccontare un fatto di cronaca specifico. Niente di più, niente di meno.
Il comune immaginario di Selvapiana, milleseicento abitanti tra i boschi dell’Appennino, gestisce da anni un IAT stagionale, aperto da aprile a ottobre, con un solo dipendente comunale — Marco Bindi, cinquantun anni, in ufficio da quindici stagioni — affiancato in alta stagione da due ragazzi assunti con contratti brevi. Fuori stagione l’ufficio è chiuso quasi del tutto. In stagione chiude comunque ogni sera alle diciannove, e la domenica pomeriggio. Il territorio, però, vive soprattutto di escursionismo e agriturismi: gente che arriva la sera tardi, gente che esce a camminare nel tardo pomeriggio e rientra al buio, gente che scrive messaggi alle otto di sera chiedendo se un sentiero è ancora percorribile.
Nella primavera di quest’anno, il comune — su sollecitazione di un consorzio turistico regionale che promuove la digitalizzazione dei piccoli IAT — decide di attivare un assistente conversazionale AI, integrato sia sul sito che su un numero WhatsApp dedicato, battezzato semplicemente InfoSelva. Il sistema viene alimentato con gli orari aggiornati delle attrazioni locali, le mappe dei sentieri, gli elenchi di ristoranti e agriturismi con relativi orari, le informazioni sui mezzi pubblici, un elenco di domande frequenti raccolte da Marco Bindi negli anni. Il lancio, a giugno, è accompagnato da un cartello nuovo, questa volta stampato e plastificato, appeso proprio dove prima c’era il foglio scritto a mano con lo scotch: “Hai bisogno di informazioni fuori orario? Scrivi a InfoSelva su WhatsApp, ti risponde subito!”. Un QR code, sotto, porta dritti alla chat.
Le prime settimane vanno bene. Molto bene, a dire il vero. Le domande tipiche — orari, percorsi, disponibilità di parcheggio, previsioni meteo del giorno dopo — trovano risposta in pochi secondi, in italiano, inglese, tedesco, francese, a seconda della lingua in cui arriva il messaggio. Marco Bindi, che nei primi giorni controlla ansiosamente le conversazioni ogni mattina, si rilassa progressivamente. Il numero di telefonate serali all’ufficio — telefonate a cui comunque nessuno rispondeva, restando semplicemente a squillare a vuoto — crolla quasi a zero. Le recensioni online del punto informazioni, nel giro di un mese, iniziano a citare esplicitamente “un servizio moderno, sempre disponibile”. Marco, con orgoglio non troppo nascosto, ne parla a un collega di un comune vicino durante una riunione del consorzio. Le cose, insomma, sembrano andare esattamente come promesso.
Il dettaglio sporco: una notte sul sentiero del Rio Corvo
È una sera di fine luglio, un giovedì, quando Ingrid Faber, quarantasette anni, di Stoccarda, in vacanza con il figlio quindicenne Lukas in un agriturismo appena fuori Selvapiana, decide di fare con lui una passeggiata pomeridiana lungo il sentiero del Rio Corvo — un percorso ad anello di circa sei chilometri lungo il torrente, segnalato come “facile, due ore e mezza” sul sito del comune. Partono alle diciassette e trenta, tardi rispetto a quanto avrebbero dovuto, ma la giornata è calda e preferiscono aspettare il fresco della sera. Un errore di valutazione piccolo, quasi banale. Innocuo, di solito. Il tipo di errore che migliaia di turisti commettono ogni estate, ovunque, senza conseguenze.
Alle diciannove e quaranta, con la luce che inizia a calare tra gli alberi, Lukas mette male un piede su una radice sporgente in un tratto scosceso vicino al terzo guado. Cade su un fianco. Il dolore alla caviglia è immediato, acuto. Un lampo secco. Non riesce ad appoggiare il piede, non riesce a proseguire camminando normalmente. Ingrid lo aiuta a sedersi su un masso vicino al sentiero, gli toglie la scarpa con cautela: la caviglia è già gonfia, calda al tatto, un colore che vira verso il violaceo sotto la pelle. Non è una frattura evidente — non c’è un osso fuori posto, non c’è un angolo innaturale — ma Lukas non riesce proprio ad appoggiarsi, e ogni tentativo gli strappa un gemito che cerca di soffocare stringendo i denti, da adolescente che non vuole sembrare debole davanti alla madre.
Sono ancora a circa due chilometri e mezzo dal parcheggio più vicino, su un sentiero stretto, senza copertura di rete telefonica affidabile — una tacca, a tratti nessuna. Il cellulare di Ingrid segna il diciotto per cento di batteria, consumato in parte dalla torcia usata per il tratto in ombra e dalle foto scattate prima dell’incidente. Nessun passante in vista, a quell’ora, su quel sentiero secondario poco frequentato rispetto al percorso principale della valle. Ingrid, il cuore che le batte forte in petto, prova a chiamare il numero dell’agriturismo: nessuna risposta, probabilmente fuori campo anche loro o semplicemente impegnati a servire la cena. Prova il numero generico del comune, trovato tra i contatti salvati il giorno dell’arrivo: segreteria telefonica, l’ufficio chiude alle diciannove, appunto. Poi si ricorda del cartello plastificato visto all’IAT il giorno dell’arrivo, quello con il QR code. Apre WhatsApp. Scrive a InfoSelva, in inglese, con le dita che tremano leggermente sullo schermo: “Please help, my son fell on the Rio Corvo trail, his ankle is hurt, he can’t walk, we are alone, it’s getting dark, what should we do?”.
La risposta arriva in tre secondi, come sempre. Educata. Fluida. Completamente inadeguata. Il sistema, addestrato a riconoscere parole chiave come “trail” e “Rio Corvo”, restituisce una scheda informativa standard sul sentiero: lunghezza, difficoltà, punti panoramici, orario consigliato per la partenza, un consiglio generico di “indossare calzature adeguate e portare con sé acqua a sufficienza”. In coda al messaggio, un’unica riga aggiunta genericamente a tutte le risposte relative a sentieri: “In caso di emergenza contattare il numero unico 112”. Una riga vera, corretta, persino utile in astratto — ma persa in fondo a un paragrafo di informazioni turistiche, senza alcuna evidenza grafica, senza che il sistema abbia davvero compreso la gravità di ciò che gli era stato appena scritto. Nessun riconoscimento delle parole “fell”, “hurt”, “can’t walk”, “alone”, “dark” come segnali di un’emergenza reale, distinta da una richiesta informativa. Nessuna deviazione dal copione. Nessun allarme fatto scattare da nessuna parte, per nessuno.
Ingrid, sotto shock e senza dimestichezza con il sistema di emergenza italiano — il “112” non le dice granché, in Germania il numero corrispondente è diverso e lei, presa dal panico, non collega subito quella riga finale a una vera possibilità di chiamare aiuto — scrive di nuovo, più disperata: “This is an emergency, my son cannot walk, we need help NOW”. Il sistema, questa volta, riconosce parzialmente l’urgenza lessicale e restituisce una risposta leggermente diversa, con più empatia simulata — “Mi dispiace molto per quello che sta succedendo, spero che vostro figlio si riprenda presto” — seguita, ancora, dallo stesso rimando generico al 112, questa volta un poco più in evidenza ma pur sempre in fondo al messaggio, tra le altre righe. Nessun operatore umano avvisato. Nessuna telefonata in arrivo. Silenzio totale. Nessuno, da nessuna parte, sa che una donna e un ragazzo di quindici anni sono fermi su un sentiero buio con una caviglia probabilmente fratturata e una batteria del telefono che scende, inesorabile, verso lo zero.
Passano quaranta minuti. Il buio, ormai, è quasi completo. Lukas ha freddo — la temperatura scende rapidamente con il sole sparito dietro il crinale — e Ingrid gli mette addosso la propria felpa, restando in maniche corte, le braccia che si coprono di pelle d’oca mentre l’umidità del torrente sale dal fondo valle. Il telefono segna l’otto per cento. Ingrid, finalmente, capisce da sola — non grazie all’assistente, ma per intuizione propria, ripensando a un cartello visto all’ingresso del sentiero — che il 112 è davvero il numero di emergenza italiano, universale, utilizzabile anche da uno straniero, anche con poca copertura di rete. Chiama. Questa volta risponde un essere umano, in pochi squilli, e la macchina dei soccorsi si mette in moto: i vigili del fuoco, insieme a un volontario del soccorso alpino locale che conosce il sentiero a memoria, raggiungono i due dopo circa cinquanta minuti, con torce potenti e una barella portatile. Lukas viene immobilizzato, portato a valle, trasportato al pronto soccorso: distorsione severa, nessuna frattura confermata dalla radiografia, tutore per tre settimane. Fisicamente, tutto sommato, se la cava con un grande spavento e una caviglia dolorante per un mese. Il trauma peggiore, a detta di Ingrid raccontato più tardi a Marco Bindi in ufficio, non è stato l’incidente in sé — capita, sui sentieri, càpita a chiunque cammini abbastanza a lungo — ma i quaranta minuti passati a scrivere a un sistema che rispondeva con gentilezza e con informazioni turistiche mentre suo figlio piangeva di dolore seduto per terra, al buio, e nessuno, da nessuna parte, sembrava davvero accorgersene.
La correzione: il protocollo di escalation umana
Marco Bindi viene a sapere dell’accaduto il giorno dopo, quando Ingrid — tornata all’agriturismo dopo la notte in ospedale con Lukas — si presenta di persona all’IAT, ancora visibilmente scossa, per raccontare quello che è successo. Non urla, non fa una scenata: parla a bassa voce, quasi scusandosi lei stessa per il disturbo, ma la sostanza di quello che dice è netta. “Il vostro assistente mi ha risposto con gli orari del sentiero mentre mio figlio non riusciva a camminare”. Marco resta immobile. Un attimo soltanto. Poi, ascoltandola, sente lo stomaco stringersi — l’aveva presentato lui, quel servizio, come un progresso, come una soluzione. Chiede di vedere la conversazione. Ingrid gliela mostra sul telefono, scorrendo lo schermo con il dito, e Marco rilegge tre volte lo scambio di messaggi prima di dire qualcosa. Silenzio, per un momento. Poi solo: “Mi dispiace. Davvero”.
Nelle settimane successive, insieme al fornitore tecnologico che gestisce InfoSelva, il comune introduce quello che con il senno di poi — sempre più acuto, sempre più chiaro dopo un episodio così — sarebbe dovuto esserci fin dal primo giorno: un protocollo di escalation automatica verso un operatore umano, attivato da un insieme di parole chiave e pattern linguistici associati a situazioni di potenziale emergenza, in tutte le lingue supportate dal sistema — “aiuto”, “emergenza”, “ferito”, “non riesco a camminare”, “disperso”, “help”, “emergency”, “hilfe”, “notfall”, e decine di varianti ed espressioni equivalenti raccolte proprio grazie all’analisi retrospettiva della conversazione con Ingrid. Quando il sistema rileva uno di questi pattern, tre cose accadono in sequenza, quasi simultaneamente. Primo: il numero di emergenza 112 viene mostrato immediatamente, in cima alla risposta, in grassetto, con un messaggio breve e diretto che invita a chiamarlo subito se la situazione è grave, prima ancora di qualunque altra informazione. Secondo: parte in automatico un SMS e una notifica push verso il telefono di un referente comunale reperibile — a turno, tra Marco e altri due dipendenti comunali che si sono resi disponibili per una piccola indennità di reperibilità serale — con il testo integrale della conversazione e, quando disponibile, la posizione approssimativa condivisa dall’utente. Terzo: il sistema stesso comunica esplicitamente all’utente, nella propria risposta, che “un operatore è stato avvisato e potrebbe contattarti a breve”, invece di lasciar credere — come era successo con Ingrid — che la conversazione si stesse esaurendo lì, in un vicolo cieco fatto di cortesia automatica.
Il costo di questa correzione, va detto con chiarezza, non è stato tecnicamente enorme — poche ore di lavoro del fornitore per implementare il riconoscimento dei pattern di emergenza, e un piccolo compenso mensile per la reperibilità serale dei tre dipendenti coinvolti a turno. Il costo organizzativo, quello sì, è stato più delicato: convincere l’amministrazione comunale a stanziare un budget, seppur modesto, per una reperibilità umana che fino a quel momento nessuno aveva ritenuto necessaria, proprio perché l’intero progetto era stato venduto — e in parte percepito da tutti, incluso lo stesso Marco — come “sostituzione” delle ore di chiusura, non come loro integrazione con un livello minimo di presenza umana di riserva. Un cambio di prospettiva piccolo sulla carta, enorme nella sostanza.
Marco Bindi, oggi, quando presenta InfoSelva a colleghi di altri comuni durante incontri del consorzio, non parla più solo dei numeri di conversazioni gestite o del calo delle telefonate a vuoto. Parla, prima di ogni altra cosa, del protocollo di escalation, raccontando — senza fare nomi, senza dettagli identificabili — cosa può succedere quando manca. “Un assistente che risponde sempre è un miglioramento vero”, dice. “Un assistente che risponde sempre pensando di essere sufficiente da solo, anche quando qualcuno sta davvero male, è un rischio che nessuno di noi si può permettere di correre”. Non tutti i colleghi presenti, va detto onestamente, torneranno in ufficio a implementare davvero quel protocollo. L’inerzia organizzativa, in strutture piccole con budget ridotti, resta un ostacolo concreto quanto lo era il problema stesso prima che diventasse visibile.
Implicazioni Etiche e Normative: dire la verità su chi (o cosa) sta rispondendo
L’obbligo di trasparenza e l’AI Act
Il caso di Selvapiana, per quanto costruito a tavolino per questo articolo, tocca direttamente un tema su cui il legislatore europeo ha preso posizione in modo sempre più netto negli ultimi anni: il diritto di chi interagisce con un sistema automatico a sapere, fin dal primo istante, che sta parlando con una macchina e non con una persona. Il Regolamento europeo sull’intelligenza artificiale (Regolamento UE 2024/1689, comunemente noto come AI Act), all’articolo 50, introduce un obbligo di trasparenza specifico per i sistemi di intelligenza artificiale destinati a interagire direttamente con le persone fisiche: i fornitori devono garantire che tali sistemi siano progettati in modo che le persone coinvolte siano informate del fatto di stare interagendo con un sistema di IA, salvo che ciò non risulti evidente dal contesto e dalle circostanze d’uso — un’eccezione, va notato, che nel caso di un assistente turistico scritto con un linguaggio deliberatamente naturale e colloquiale difficilmente si può invocare con serenità.
Applicato a un assistente come InfoSelva — o a qualunque dei suoi equivalenti reali già in uso da uffici turistici e strutture ricettive in tutta Italia — questo obbligo si traduce in una regola operativa piuttosto semplice da enunciare, anche se non sempre rispettata con la dovuta chiarezza nella pratica: il turista deve sapere, senza doverlo dedurre da indizi indiretti, che sta scrivendo a un sistema automatico, non a Marco Bindi in persona. Una dichiarazione visibile all’inizio della conversazione — non nascosta in un link “termini e condizioni” che nessuno apre mai — del tipo “Sono un assistente virtuale basato su intelligenza artificiale, qui per aiutarti con informazioni turistiche” rappresenta il minimo indispensabile. Non un vezzo legale. Un diritto reale di chi sta scrivendo, di calibrare correttamente, fin da subito, le proprie aspettative su cosa quel sistema può e non può fare per lui.
Proprio qui si intreccia, in modo quasi naturale, il legame con l’effetto ELIZA descritto da Weizenbaum: se un turista sa, con chiarezza dichiarata fin dal primo messaggio, di parlare con un sistema automatico e non con una persona, la sua propensione ad attribuirgli comprensione ed empatia reali — pur restando presente, perché l’effetto ELIZA agisce anche quando si conosce razionalmente la natura dell’interlocutore, come dimostrò la stessa segretaria di Weizenbaum — si riduce comunque, almeno in parte. La trasparenza non elimina l’illusione psicologica. La attenua. E in situazioni di emergenza reale, quell’attenuazione può fare una differenza concreta: un turista consapevole di parlare con una macchina limitata è, probabilmente, più incline a cercare subito un numero di emergenza umano invece di insistere nella conversazione automatica sperando in una comprensione che non arriverà mai.
Buona fede commerciale e il diritto a sapere con chi si parla
C’è un secondo livello normativo, più risalente nel tempo e meno specifico dell’AI Act ma ugualmente rilevante, che riguarda la buona fede nelle pratiche commerciali. Il Codice del Consumo italiano (decreto legislativo 6 settembre 2005, n. 206), agli articoli 20 e seguenti, vieta le pratiche commerciali scorrette, incluse le omissioni ingannevoli — cioè il fatto di omettere informazioni rilevanti che il consumatore medio avrebbe bisogno di conoscere per prendere una decisione consapevole. Presentare un servizio di assistenza come equivalente, nella sostanza, a un servizio umano, senza chiarire i suoi limiti strutturali — in particolare l’incapacità di gestire situazioni di emergenza reale senza un intervento umano — può integrare, a seconda delle circostanze concrete, proprio questo tipo di omissione. Non serve malafede esplicita per configurare il problema: basta la mancanza di un’informazione che, se conosciuta, avrebbe cambiato il comportamento del turista nel momento del bisogno.
Il tema si lega a un secondo profilo, meno giuridico e più propriamente etico, che riguarda la responsabilità di chi progetta questi servizi verso le fasce più vulnerabili di chi li usa: anziani con minore dimestichezza tecnologica, turisti stranieri con barriere linguistiche già di per sé fonte di stress, famiglie con bambini piccoli, persone con disabilità che si affidano proprio a canali digitali per compensare difficoltà di comunicazione diretta. Sono, spesso, esattamente le persone più esposte al rischio di scambiare un assistente automatico per un interlocutore capace di una comprensione che non possiede — proprio perché meno abituate a distinguere, nell’uso quotidiano della tecnologia, tra un’interfaccia ben scritta e una comprensione reale. Un ente pubblico o una struttura ricettiva che sceglie di offrire un servizio del genere si assume, con quella scelta, una responsabilità che va oltre l’efficienza operativa: la responsabilità di non lasciare che l’entusiasmo per l’innovazione scavalchi la tutela di chi, in un momento di difficoltà reale, si troverà dall’altra parte dello schermo.
Non è un caso che diverse linee guida di settore, elaborate negli ultimi anni da associazioni di categoria del turismo e della pubblica amministrazione digitale, inizino a raccomandare esplicitamente — pur restando spesso raccomandazioni non vincolanti, va detto con onestà — l’introduzione di un protocollo minimo di escalation umana in ogni servizio di assistenza turistica automatizzato attivo fuori dall’orario di presidio umano. Non come opzione accessoria da valutare in un secondo momento, a budget permettendo. Come componente strutturale del servizio stesso, tanto quanto lo sono gli orari aggiornati o la corretta traduzione linguistica. Un assistente automatico senza una via di fuga verso un essere umano, in fondo, non è un servizio incompleto in modo neutro: è un servizio che promette una presenza che, in certe circostanze specifiche e prevedibili, semplicemente non c’è.
Conclusioni e Takeaways: un turno di guardia, non un sostituto
Sessant’anni dopo che Joseph Weizenbaum osservò la propria segretaria chiedere di restare sola con un programma di poche righe, il meccanismo psicologico che lui descrisse continua a manifestarsi, oggi, in una forma molto più raffinata e molto più diffusa: un turista che scrive a un assistente turistico ben progettato, ottiene risposte rapide e cortesi per due, tre, dieci interazioni consecutive, e finisce per costruirsi — quasi senza accorgersene — l’aspettativa di un interlocutore capace di comprendere davvero ciò che gli sta scrivendo. Un’aspettativa che regge fino al momento in cui non regge più. E quel momento, come mostra il caso — inventato ma tutt’altro che implausibile — di Ingrid e Lukas sul sentiero del Rio Corvo, tende a coincidere proprio con le situazioni in cui un aiuto reale servirebbe di più, non di meno.
Il modello SERVQUAL di Parasuraman, Zeithaml e Berry aiuta a mettere a fuoco con precisione dove si colloca il limite strutturale di questi sistemi: eccellenti, spesso superiori al servizio umano equivalente, sulle dimensioni della capacità di risposta e dell’affidabilità informativa; strutturalmente più deboli, e difficilmente perfezionabili nel breve periodo, sulla dimensione dell’empatia — quella attenzione individualizzata che nasce da un’esperienza corporea condivisa, non da un pattern linguistico per quanto ben calibrato. Nessun aggiornamento software, per quanto sofisticato, colma questo scarto da solo. Colmarlo richiede una scelta organizzativa precisa: mantenere, sempre, una via di accesso a un essere umano per le situazioni che il sistema automatico non è in grado di riconoscere come tali.
Non si tratta di rinunciare a questi strumenti, né di ridimensionarne il valore reale — un ufficio informazioni che risponde davvero ventiquattr’ore su ventiquattro, in più lingue, senza mai un cartello di chiusura, resta un progresso concreto e misurabile per i territori che fino a ieri restavano muti fuori dall’orario d’ufficio. Si tratta, piuttosto, di smettere di pensarli come un sostituto integrale del presidio umano e iniziare a trattarli per quello che sono davvero: un turno di guardia molto efficiente, che copre il lavoro ripetitivo e prevedibile, ma che deve sempre avere, a portata di clic, un modo per passare la linea a qualcuno di vero quando la situazione lo richiede. La differenza tra i due modelli non si vede quasi mai nei mesi tranquilli, quando tutto fila liscio e le domande sono quelle previste. Si vede in una sera di fine luglio, su un sentiero buio, quando qualcuno scrive “aiuto” sperando davvero che qualcuno, dall’altra parte, lo stia leggendo per davvero.
Punti Chiave per Studenti e Professionisti
- Un assistente AI turistico attivo 24/7 copre in modo efficace le richieste ripetitive e a bassa complessità emotiva — orari, percorsi, disponibilità — ma l’effetto ELIZA descritto da Joseph Weizenbaum porta il turista a costruire, interazione dopo interazione, un’aspettativa di comprensione reale che il sistema non possiede, con il rischio di un crollo di fiducia proprio nelle situazioni più delicate.
- Il modello SERVQUAL di Parasuraman, Zeithaml e Berry mostra come un assistente automatico eccella sulle dimensioni della capacità di risposta e dell’affidabilità, ma resti strutturalmente debole sulla dimensione dell’empatia, quella attenzione individualizzata che nessun pattern linguistico, per quanto ben scritto, può replicare pienamente.
- Un protocollo di escalation automatica verso un operatore umano reperibile, attivato dal riconoscimento di parole chiave associate a emergenze, insieme a una dichiarazione di trasparenza conforme all’articolo 50 dell’AI Act sul fatto di star parlando con un’intelligenza artificiale, non sono opzioni accessorie ma componenti strutturali imprescindibili di qualunque servizio di assistenza turistica automatizzato attivo fuori dall’orario di presidio umano.
Chi, tra chi legge, gestisce oggi un servizio di assistenza turistica automatizzato — o sta valutando di implementarne uno — saprebbe rispondere con sicurezza a una domanda semplice: se in questo momento, fuori orario, qualcuno scrivesse “aiuto, è successo qualcosa di grave”, chi, tra un essere umano vero, verrebbe davvero avvisato?