Il sabato mattina in cui quattro sconosciuti ricevono lo stesso itinerario
Firenze, un sabato di ottobre, poco dopo le undici. Davanti a un ostello vicino alla stazione, quattro ragazzi olandesi confrontano gli schermi dei rispettivi telefoni, e ridono — un po’ imbarazzati. Hanno scaricato la sera prima la stessa app di pianificazione viaggi, hanno inserito preferenze diverse (chi ama l’arte rinascimentale, chi il cibo di strada, chi scrive semplicemente “posti non troppo turistici, per favore”), e adesso scoprono che i quattro itinerari generati in automatico per la giornata sono, di fatto, lo stesso itinerario. Stessa piazza. Stesso mercato coperto. Stessa terrazza panoramica, con la fila già lunga alle undici del mattino. Identica, byte per byte. “Non troppo turistico”, scritto nel campo di testo, e il sistema ha risposto con il luogo più fotografato della città.
Chi scrive lavora da venticinque anni nel marketing territoriale e turistico, prevalentemente in Toscana, e questa scena — o una molto simile — l’ha vista più di una volta, seduto al tavolino di un bar a osservare senza volerlo il tavolo accanto. Non è aneddotica isolata. Capita spesso. Troppo spesso, in realtà. È il sintomo più visibile di una promessa che l’intelligenza artificiale applicata al turismo ripete da qualche anno con crescente sicurezza: itinerari su misura, generati in pochi secondi, capaci di leggere i gusti individuali e restituire un percorso “solo per te”. La promessa, in teoria, è seducente. Nella pratica quotidiana produce spesso l’effetto opposto: percorsi identici per persone diverse, mascherati da un’illusione di unicità che il logo dell’app, colorato e rassicurante, contribuisce a rendere credibile.
Questo articolo prova a spiegare, senza tecnicismi da ingegneria del software ma con precisione concettuale, come funzionano davvero i motori che generano questi itinerari — collaborative filtering e content-based filtering, i due meccanismi su cui si regge quasi ogni sistema di raccomandazione esistente, applicati non più a un film o a un prodotto da comprare ma alla sequenza di tappe di una giornata di viaggio. Prova poi a mettere in discussione la promessa più ottimistica legata a questi strumenti: l’idea, formulata con chiarezza da Chris Anderson nella sua teoria della coda lunga, secondo cui la tecnologia avrebbe dovuto aiutare le persone a scoprire ciò che è meno noto, non a confermare ciò che è già popolare. Mostra, con un caso costruito apposta e dichiarato fittizio fin da subito, cosa succede quando un algoritmo di personalizzazione turistica viene addestrato su un solo tipo di viaggiatore e poi applicato a tutti gli altri. Chiude sulle implicazioni normative aperte dall’AI Act europeo, e su cosa significhi, in pratica, dover spiegare a un turista perché un sistema gli ha suggerito proprio quella tappa e non un’altra.
Una premessa d’obbligo, prima di entrare nel merito: chi scrive non è ostile alla personalizzazione automatica. La usa, la consiglia a chi la può permettersi, la considera uno strumento potenzialmente utilissimo per territori piccoli che vogliono distribuire meglio i flussi. Il punto di questo articolo non è “l’algoritmo è cattivo”. È più scomodo di così: l’algoritmo fa esattamente quello per cui è stato ottimizzato, e quasi mai qualcuno gli ha detto di ottimizzare anche per la scoperta, l’equità di accesso, la varietà del territorio. Gli si è chiesto di massimizzare la soddisfazione immediata. Lui ha obbedito. Alla lettera. Senza margine di dubbio.
Per un territorio piccolo la posta in gioco è tutt’altro che teorica. Un ente che investe in un sistema di personalizzazione turistica lo fa quasi sempre per un motivo preciso: alleggerire il carico sui luoghi più fotografati, spingere i visitatori verso l’entroterra, i borghi minori, le botteghe che restano vuote anche ad agosto. Se il sistema si limita a confermare i gusti più diffusi, l’investimento produce l’esatto contrario di ciò per cui è stato pagato. Non un dettaglio. Un fallimento di scopo, nascosto dietro un’interfaccia elegante e una manciata di recensioni entusiaste.
Come un sistema costruisce un percorso: inquadramento teorico
Content-based filtering: se ti è piaciuto quello, eccotene un altro simile
Il primo dei due meccanismi di base, il più intuitivo da spiegare, si chiama content-based filtering, filtraggio basato sul contenuto. Funziona così: il sistema costruisce, per ogni utente, un profilo fatto di attributi — chiamiamoli tag, categorie, etichette — dedotti da ciò che ha visitato, cercato, valutato positivamente in passato. Arte rinascimentale. Cibo di strada. Trekking leggero. Fotografia panoramica. Ogni luogo del catalogo turistico del sistema, a sua volta, porta con sé lo stesso tipo di etichette. Il motore, a quel punto, non fa altro che cercare la sovrapposizione: quali luoghi condividono più tag con il profilo dell’utente, tenendo conto anche di vincoli pratici come orari di apertura, distanza a piedi, tempo disponibile nella giornata.
È un meccanismo onesto, in un certo senso. Trasparente nella logica, anche se quasi mai spiegato all’utente finale. Il suo limite, però, è strutturale, non correggibile con più dati: un sistema content-based propone, per definizione, cose simili a quelle già amate. Non propone mai — non può farlo, per come è costruito — qualcosa di radicalmente diverso dal profilo esistente. Chi ha sempre scelto arte rinascimentale continuerà a ricevere arte rinascimentale. Sempre uguale. Anche quando, quel giorno, avrebbe apprezzato una passeggiata in un mercato del pesce o una cantina di vino naturale mai provata prima. Il sistema non lo sa. Non può saperlo. Gli manca, semplicemente, il dato. Nient’altro.
Collaborative filtering: cosa hanno scelto le persone che ti somigliano
Il secondo meccanismo, più sofisticato e meno intuitivo, si chiama collaborative filtering, filtraggio collaborativo. Qui il sistema non guarda più solo cosa hai amato tu. Guarda cosa hanno amato persone il cui comportamento, statisticamente, assomiglia al tuo — non necessariamente persone con gli stessi gusti dichiarati, ma con pattern di scelta simili: chi ha prenotato le stesse due strutture, cliccato sugli stessi tre articoli, valutato con lo stesso entusiasmo la stessa esperienza enogastronomica. Se quelle persone, dopo la tappa A, hanno scelto quasi sempre la tappa B, il sistema suggerirà B anche a te, pur non sapendo nulla, in senso stretto, del motivo per cui B ti dovrebbe piacere.
Questa idea ha una storia accademica precisa, che vale la pena raccontare perché aiuta a capire da dove viene davvero la tecnologia che oggi genera itinerari. Joseph Konstan, docente all’Università del Minnesota, è tra i cofondatori del gruppo di ricerca GroupLens, nato nei primi anni Novanta per risolvere un problema molto meno affascinante del turismo: come selezionare, dentro i newsgroup Usenet, i messaggi davvero interessanti in mezzo a un diluvio quotidiano di rumore. Il sistema GroupLens, descritto in un paper del 1994 diventato un classico della letteratura sui recommender system, proponeva un’idea allora piuttosto radicale: invece di far leggere a un algoritmo il contenuto dei messaggi (impresa complicatissima nel 1994), perché non far leggere all’algoritmo le valutazioni che altri utenti, simili a te, avevano già dato agli stessi messaggi? Konstan e i suoi colleghi portarono poi lo stesso principio su MovieLens, il sistema di raccomandazione di film che per trent’anni è servito come banco di prova accademico per generazioni di ricercatori sui sistemi di raccomandazione. Tre decadi di dati. Ancora oggi citati nei corsi universitari di data science.
Applicare la stessa logica a un itinerario turistico richiede un piccolo salto concettuale, ma non enorme: invece di raccomandare un singolo film o un singolo prodotto, si raccomanda una sequenza di tappe — quasi una playlist di luoghi, ordinata nel tempo e nello spazio. Chi ha visitato la tappa A, e poi la tappa B, e poi ha pranzato nel posto C, genera un pattern che il sistema registra e può proporre, con piccole variazioni, al prossimo visitatore il cui comportamento iniziale somiglia a quello. È esattamente il meccanismo dietro la voce, ormai familiare a chiunque prenoti online, “le persone che hanno visitato questo luogo hanno anche visitato…”. Applicata in sequenza, tappa dopo tappa, quella frase diventa un itinerario intero. Niente di più.
Sistemi ibridi e il livello operativo: meteo, orari, distanze
Nella pratica commerciale quasi nessun sistema oggi si affida a uno solo dei due meccanismi. La quasi totalità delle app di itinerari personalizzati oggi in circolazione combina content-based e collaborative filtering in un approccio ibrido: il contenuto per garantire coerenza con i gusti dichiarati, la componente collaborativa per aggiungere scoperta e sfumatura, un terzo strato — puramente operativo, non predittivo — che filtra il risultato secondo vincoli concreti: orari di apertura, condizioni meteo previste, tempo di percorrenza a piedi tra una tappa e l’altra, stagionalità dell’evento. Questo terzo strato non riguarda i gusti. Riguarda la fattibilità. Niente psicologia. Solo un calendario. Ed è, va detto con onestà, la parte tecnicamente più semplice dell’intero sistema — eppure quella che, come vedremo, viene percepita dall’utente come la più “intelligente”, perché è quella che evita di proporre un museo chiuso di lunedì.
Non tutti, dentro la comunità di ricerca da cui questi sistemi arrivano, si sono accontentati di ottimizzare solo l’accuratezza della previsione. Già negli anni Duemila, proprio nel gruppo GroupLens di cui Konstan è cofondatore, un lavoro firmato da Sean McNee insieme allo stesso Konstan e a John Riedl — dal titolo rimasto un piccolo classico del settore, “Being Accurate is Not Enough” — metteva in guardia la comunità accademica: un sistema che azzecca sempre la previsione più probabile, senza mai introdurre varietà o sorpresa, alla lunga produce utenti insoddisfatti, non perché sbagli, ma perché non stupisce mai. Da lì nasce l’idea di serendipità misurabile, un indicatore che premia deliberatamente un pizzico di imprevisto dentro la lista dei suggerimenti. Pochissime app di itinerari turistici, oggi, la implementano davvero. La tecnologia esiste. Da vent’anni. Manca, quasi sempre, la volontà commerciale di sacrificare anche un solo punto percentuale di click immediati per un guadagno di varietà che si vede solo nel lungo periodo.
La promessa della coda lunga: Chris Anderson e l’itinerario come scaffale infinito
Chris Anderson, all’epoca direttore della rivista Wired, pubblicò nel 2004 un articolo — diventato poi un libro nel 2006, The Long Tail — che ha cambiato per un decennio buono il modo in cui si è parlato di economia digitale. La tesi, riassunta all’osso: nell’economia fisica, gli scaffali sono limitati, quindi i negozi vendono soprattutto i pochi titoli più popolari, i “successi” — la testa corta della curva di distribuzione. Online, dove lo spazio di catalogo è virtualmente infinito e i costi di distribuzione crollano, diventa conveniente vendere anche i milioni di prodotti di nicchia che, presi singolarmente, vendono pochissimo, ma sommati insieme — la coda lunga della curva — possono valere quanto, o più, dei pochi successi da classifica.
Il ruolo dei sistemi di raccomandazione, in questa visione, non era secondario. Anderson lo scriveva esplicitamente: senza un “editore automatico” capace di guidare ogni persona verso il prodotto di nicchia giusto per lei, la coda lunga resterebbe invisibile, sepolta sotto milioni di titoli che nessuno saprebbe mai come trovare. Il recommender system, in questa lettura, è lo strumento che rende la coda lunga economicamente viva — non un accessorio. Il meccanismo abilitante. Senza quello strumento, niente coda lunga: solo un magazzino sterminato e irraggiungibile.
Applicata al turismo, la promessa era — ed è tuttora, nei materiali di marketing di molte startup del settore — quasi identica: un motore di personalizzazione avrebbe dovuto aiutare i visitatori a scoprire la cappella romanica fuori mano, la trattoria a conduzione familiare con dodici coperti, il sentiero non segnalato sulle mappe ufficiali, distribuendo la domanda turistica su un territorio molto più ampio di quello coperto dai tre o quattro luoghi iconici che oggi assorbono la maggior parte dei visitatori. Personalizzazione come argine all’overtourism. Sulla carta, un’idea elegante. Peccato per la pratica. Nella pratica dei sistemi realmente in funzione oggi, succede — quasi sempre — l’esatto contrario.
Quando la personalizzazione produce l’effetto opposto: analisi critica e sfide
Cass Sunstein e la bolla che l’algoritmo costruisce da solo
Cass Sunstein, giurista e studioso di diritto ed economia comportamentale, oggi ad Harvard, ha dedicato buona parte della sua produzione — a partire dal libro Republic.com, pubblicato nel 2001, fino al successivo #Republic del 2017 — a un rischio che allora riguardava soprattutto l’informazione politica online: quando un sistema seleziona per te i contenuti in base a ciò che hai già mostrato di apprezzare, tende a restringere, non ad allargare, l’orizzonte di ciò che vedi. Sunstein chiama questo fenomeno echo chamber, camera dell’eco, o anche “information cocoon” — bozzolo informativo: un ambiente in cui si continua a sentire, amplificata, la propria voce, mentre il resto del mondo diventa progressivamente meno visibile. Non perché qualcuno lo nasconda apposta. Non c’è complotto. Perché il sistema, ottimizzando per la soddisfazione immediata, non ha alcun incentivo a mostrarti altro. Zero incentivo, in effetti.
Non è un rischio teorico: noi che lavoriamo sugli analytics delle destinazioni lo vediamo già accadere, con i suggerimenti automatici che concentrano i clic sempre sugli stessi cinque luoghi.
La stessa logica, spostata dal dibattito politico alla pianificazione di un weekend, produce quella che qui chiameremo bolla turistica: un itinerario “personalizzato” che, in realtà, è solo lo specchio più rassicurante possibile dei gusti già dichiarati, costruito per massimizzare la probabilità che l’utente lo valuti positivamente nell’immediato — un clic, una prenotazione, una recensione a cinque stelle a fine giornata. E cosa massimizza, con maggiore affidabilità statistica, quella soddisfazione immediata? Il luogo già amato da migliaia di persone prima di te. Quello con duemila recensioni, tutte sopra le quattro stelle. Non il luogo con dodici recensioni, magari eccellenti, ma statisticamente più rischioso da consigliare, perché il sistema ha meno dati per essere sicuro che funzionerà anche per te. Duemila contro dodici. Il conto, per una macchina che ragiona per probabilità, è presto fatto.
Perché il posto meno noto perde quasi sempre il confronto: cold start e popularity bias
C’è un motivo tecnico preciso, non solo culturale, per cui questo accade, ed è utile conoscerlo perché spiega quanto sia difficile correggerlo con un semplice aggiustamento di superficie. Nella letteratura sui sistemi di raccomandazione questo problema ha un nome: cold start, partenza a freddo. Un luogo appena inserito nel catalogo, o semplicemente poco visitato, ha pochissimi dati comportamentali associati — poche recensioni, poche foto, pochi pattern di scelta da cui il sistema collaborativo possa imparare. Statisticamente, raccomandarlo è un azzardo: il sistema non ha abbastanza segnale per essere sicuro che piacerà. Raccomandare invece il luogo popolare è, dal punto di vista del motore, la scelta più sicura, quella con margine d’errore più basso. Il sistema non sta giudicando la qualità intrinseca del luogo. Sta gestendo un rischio statistico. E lo gestisce, quasi sempre, scegliendo la strada più prudente.
A questo si aggiunge un secondo effetto, ancora più insidioso perché si autoalimenta nel tempo: il popularity bias, il pregiudizio di popolarità. Un luogo raccomandato spesso viene visitato più spesso. Più visite generano più recensioni, più fotografie, più dati comportamentali. Più dati comportamentali rendono il sistema ancora più sicuro nel raccomandarlo — e quindi lo raccomanda ancora di più. È un ciclo che si rinforza da solo, un effetto “chi ha, riceve ancora di più” ben documentato nella ricerca sui sistemi di raccomandazione ben prima che si applicasse al turismo. Il luogo meno noto, dall’altra parte, resta bloccato in una specie di invisibilità strutturale: non viene raccomandato perché ha pochi dati, e continua ad avere pochi dati proprio perché non viene raccomandato. Nessuno ha deciso che sia “peggiore”. Nessun giudizio di qualità, da nessuna parte. Semplicemente, il ciclo non gli ha mai dato una possibilità di entrare nel giro.
Il paradosso, a questo punto, dovrebbe essere evidente: la tecnologia che Anderson immaginava come motore della coda lunga, quando viene applicata a sistemi ottimizzati per l’engagement immediato e non per la scoperta, produce l’effetto simmetricamente opposto. Concentra ancora di più la domanda sulla testa corta della curva — i due o tre luoghi iconici di ogni destinazione — mentre la coda lunga del territorio, le decine di piccoli tesori minori, resta esattamente dove era prima: invisibile. Non perché la tecnologia sia sbagliata in sé. Perché l’obiettivo che le è stato assegnato — massimizzare il gradimento immediato, non la varietà di lungo periodo — la porta, per costruzione, in quella direzione. Ogni volta. Senza eccezioni, finché nessuno cambia l’obiettivo stesso.
Un algoritmo non è mai neutro: chi decide cosa ottimizzare
Vale la pena aggiungere un ultimo aspetto critico, spesso trascurato da chi presenta questi strumenti come “empowerment del viaggiatore”, una frase che si legge spesso nei siti di marketing di queste piattaforme. Un sistema di raccomandazione non è mai un intermediario neutro tra il visitatore e il territorio. È costruito da un’azienda che ha, quasi sempre, anche incentivi commerciali propri: commissioni su prenotazioni, accordi con partner locali, spazi sponsorizzati inseriti tra i risultati “organici” senza sempre una distinzione chiara per l’utente finale. Non è un complotto. È semplicemente il modello di business con cui questi strumenti si finanziano. Ma significa che “personalizzazione” e “interesse del viaggiatore” non coincidono automaticamente, e chi usa questi strumenti — professionisti del settore compresi — dovrebbe ricordarselo con la stessa naturalezza con cui ricorda che un motore di ricerca mostra risultati sponsorizzati in cima alla pagina. Un dettaglio da tenere a mente. Sempre. Non solo il lunedì mattina, quando si fanno i conti. Nei corsi che tengo per operatori turistici, quando lo faccio notare vedo spesso la stessa reazione: sorpresa genuina, come se nessuno lo avesse mai detto loro con questa chiarezza prima.
Il Distretto Turistico delle Rocche di Corvasco: un caso costruito a tavolino, con una gamba che non regge la salita
Il caso che segue è interamente inventato. Nome del territorio, dell’azienda, delle persone coinvolte, delle cifre: tutto di fantasia, costruito per illustrare un meccanismo — il bias nei dati di addestramento di un sistema di raccomandazione turistica — non per raccontare un episodio realmente accaduto. Chi vi riconoscesse somiglianze con casi noti tenga presente che il fenomeno descritto è strutturalmente ricorrente nel settore, non un riferimento nascosto a una vicenda specifica.
Nasce “Tappa su Misura”, l’app che doveva svuotare il belvedere
Il Distretto Turistico delle Rocche di Corvasco, un comprensorio collinare immaginario di sette piccoli comuni, soffre da anni di uno squilibrio che chi lavora in questo settore riconosce a occhi chiusi: un solo belvedere, quello del borgo capofila, assorbe circa il sessanta per cento delle visite giornaliere dell’intero territorio, mentre le altre sei rocche — ciascuna con una chiesa romanica, un piccolo museo diffuso, botteghe artigiane ancora attive — restano largamente ignorate. Nel 2023 il consorzio decide di commissionare a una startup, ViaLogica, la costruzione di un’app di itinerari personalizzati, battezzata Tappa su Misura, con un obiettivo dichiarato fin dal capitolato: redistribuire i flussi, spingere i visitatori verso le rocche minori, offrire — recita testualmente la presentazione al bando — “un’esperienza su misura per ogni tipo di viaggiatore”.
ViaLogica, per addestrare rapidamente il motore collaborativo dell’app, acquista una licenza dati da Girovago, una piattaforma di esperienze locali molto popolare tra viaggiatori indipendenti — età media dichiarata dalla stessa piattaforma: trentatré anni, spesa media per esperienza superiore alla media di settore, utenza fortemente orientata a trekking leggero, fotografia paesaggistica, punti panoramici raggiungibili con una camminata di mezz’ora. Un dataset ricco, dettagliato, pieno di tag geolocalizzati e sequenze di visita perfettamente strutturate per l’addestramento di un motore collaborativo. Nessuno, in quella fase, si ferma a chiedersi chi altro, oltre a quel tipo di viaggiatore, userà davvero l’app una volta lanciata.
La domenica del Circolo Ricreativo Il Tiglio
La app viene lanciata in primavera, testata per due mesi da un gruppo di content creator e camminatori esperti, con risultati entusiasmanti: percorsi fotogenici, salite panoramiche, tempi di percorrenza rispettati alla perfezione. Il consorzio, soddisfatto, la propone anche agli operatori che organizzano gite di gruppo per associazioni e circoli ricreativi — un segmento che, nella stagione di spalla, rappresenta da solo quasi un terzo dei pernottamenti dell’intero distretto, quasi tutto concentrato in gite giornaliere in pullman con età media dei partecipanti superiore ai settant’anni.
Una domenica di settembre, il Circolo Ricreativo Il Tiglio, un’associazione di quarantadue pensionati provenienti da un centro industriale a un paio d’ore di distanza, arriva a Corvasco per una gita organizzata. La guida che li accompagna, Samanta, ventisei anni, ha caricato sul tablet l’itinerario generato da Tappa su Misura selezionando semplicemente le categorie “arte”, “panorama”, “enogastronomia” — le uniche disponibili nell’interfaccia dell’epoca, senza alcun campo per indicare mobilità ridotta, necessità di pause, dislivello massimo sostenibile. Il percorso proposto dall’app comprende, nella prima ora, la salita di centoquarantadue gradini di pietra fino alla rocca minore di Sant’Ilarione — bellissima, fotogenica, quasi sempre inserita nei percorsi più apprezzati dal segmento di utenti su cui il motore è stato addestrato — seguita da un tratto di camminata di cinquanta minuti senza alcuna panchina segnalata lungo il tragitto.
Ottavio Marras, settantaquattro anni, arriva a metà della salita con il fiato corto, una mano appoggiata alla pietra fredda del muro laterale, l’altra sul petto. Si ferma. Si siede su un basso muretto a secco, le gambe che tremano leggermente, mentre la moglie Pina gli fa vento con il programma della gita stampato su carta. Il gruppo si spacca in due: una parte prosegue con Samanta, sempre più agitata mentre scorre il tablet cercando — invano — un’opzione per “percorso più semplice” o “aggiungi una sosta”, opzione che nell’app semplicemente non esiste, perché nessuno l’aveva mai considerata necessaria in fase di progettazione. L’altra parte resta indietro, con Ottavio, ad aspettare che il fiatone passi, seduti su un muretto scomodo, in un tratto di sentiero dove — l’app lo aveva calcolato come “panoramico e memorabile” — non c’è ombra prima delle due del pomeriggio. Le scarpe buone, quelle della domenica, non aiutano su una pietra levigata e in leggera pendenza. Qualcuno scivola, quasi cade, si aggrappa al braccio della vicina. Niente di grave. Solo spavento, gambe pesanti, un orologio da polso controllato con ansia crescente perché il pullman, all’ingresso del paese, aspetta comunque fino alle diciotto e trenta, non un minuto di più.
Il lunedì mattina l’ufficio del consorzio riceve tre telefonate di lamentela e una lettera scritta a mano, consegnata di persona dal presidente del circolo: troppe scale, nessuna pausa prevista, “un percorso pensato per ragazzi di trent’anni”, si legge testualmente nella lettera, “non per gente della nostra età che il territorio lo vuole comunque vedere, con calma”.
Il rientro in pullman, quel pomeriggio, avviene in un silenzio insolito per un gruppo abituato a intonare canzoni popolari lungo il tragitto di ritorno. Ottavio sta bene, la pressione tornata regolare dopo una pausa più lunga e un bicchiere d’acqua zuccherata offerto da una volontaria della Croce Verde locale, intervenuta su chiamata precauzionale di Samanta. Nessun ricovero. Solo spavento, gambe pesanti, e un conto finale — quello che il tour operator addebita al consorzio per lo sforamento di quaranta minuti sul programma concordato e per il kit di primo soccorso utilizzato — di poco più di novanta euro. Cifra piccola. Il danno vero, quello che nessuna fattura registra, riguarda la fiducia: ventidue dei quarantadue partecipanti dichiarano, nel questionario di gradimento inviato la settimana successiva, che non tornerebbero a Corvasco con una gita organizzata tramite app.
Il controllo che nessuno aveva fatto: un bias mai verificato
L’indagine interna, condotta nelle settimane successive da Lorenzo Baldassari, il data scientist di ViaLogica incaricato di capire cosa fosse andato storto, porta a una scoperta imbarazzante nella sua semplicità: l’ottantadue per cento dei dati comportamentali usati per addestrare il motore collaborativo dell’app proveniva da un’unica fonte, la piattaforma Girovago, la cui utenza — come detto, età media trentatré anni, alta propensione alla camminata sportiva — non aveva mai generato, nel proprio storico, un solo itinerario con tag di accessibilità, dislivello contenuto, presenza di panchine o soste programmate. Quei tag, semplicemente, non esistevano nel dataset di partenza. Non perché qualcuno li avesse esclusi apposta. Zero cattiva fede, va detto a favore di ViaLogica. Perché nessuno, in fase di progettazione, aveva mai chiesto: “chi altro, oltre al nostro primo cliente dati, userà davvero questo sistema?”.
Nessuno aveva incrociato la composizione demografica reale della clientela del distretto — un terzo di visitatori in gite di gruppo, età media alta, mobilità spesso ridotta — con la composizione demografica del dataset di addestramento. Due popolazioni completamente diverse. Un solo modello. Addestrato su una sola di esse, applicato ciecamente a entrambe. Il sistema non aveva “sbagliato” nel senso in cui si sbaglia un calcolo: aveva fatto esattamente quello che i suoi dati gli permettevano di fare. Semplicemente, quei dati raccontavano solo una fetta della realtà a cui l’app sarebbe stata poi applicata.
La correzione: un controllo umano sui profili sottorappresentati
La soluzione adottata dal consorzio, nelle settimane successive, non è stata smontare l’app. Sarebbe stato uno spreco, oltre che un errore uguale e contrario. Le modifiche introdotte sono state tre, nessuna particolarmente costosa da implementare. Primo: un campo esplicito di profilo di viaggio, scelto dall’utente stesso e non più dedotto silenziosamente dal comportamento — con opzioni chiare su dislivello sostenibile, necessità di pause, ritmo preferito. Secondo: il consorzio ha coinvolto proprio alcuni membri del Circolo Il Tiglio, insieme a due guide locali specializzate in turismo lento, in un lavoro di revisione manuale — poche settimane, pagate come consulenza — per etichettare a mano dislivello ed effort di ogni tappa del catalogo, colmando un vuoto che nessun dato comportamentale automatico avrebbe mai potuto colmare da solo. Terzo, forse il più importante: è stata fissata una soglia minima di rappresentatività per ogni segmento demografico prima che l’app possa proporre un itinerario in autonomia a quel segmento; sotto soglia, il sistema propone di default un percorso curato da un umano, non un percorso generato dal motore statistico.
Assunta Ferretti, responsabile del consorzio, lo ha raccontato qualche mese dopo a un gruppo di operatori di un territorio vicino, interessati a replicare il progetto, con una frase che merita di essere riportata così com’è: “Avevamo chiesto un’app che parlasse a tutti i nostri visitatori. Ci siamo accorti solo dopo che sapeva parlare bene solo a chi le somigliava”. Il controllo umano, in questo caso, non è stato un ripiego di fronte al fallimento della tecnologia. È diventato parte strutturale del sistema, proprio nei punti — i profili meno rappresentati nei dati — dove il sistema automatico, da solo, semplicemente non vede.
Chi deve spiegare l’algoritmo: implicazioni etiche e normative
L’AI Act europeo e gli obblighi di trasparenza verso chi riceve un consiglio
Il Regolamento europeo sull’intelligenza artificiale, il cosiddetto AI Act (Regolamento UE 2024/1689), adotta un approccio basato sul rischio: più un sistema può incidere su diritti fondamentali o su decisioni con conseguenze gravi, più stringenti sono gli obblighi imposti a chi lo sviluppa e a chi lo utilizza. Un generatore di itinerari turistici, va detto con chiarezza, non rientra quasi mai nelle categorie ad “alto rischio” elencate dal regolamento — non decide su un impiego, un credito, un accesso a servizi essenziali. Resta però soggetto, come la gran parte dei sistemi che interagiscono direttamente con le persone, agli obblighi di trasparenza previsti dall’articolo 50: chi fornisce un servizio del genere deve, come minimo, informare l’utente che sta interagendo con un sistema di intelligenza artificiale, non lasciarlo credere di parlare con un consulente umano travestito da app.
Il punto più delicato, quello su cui la normativa europea è ancora in evoluzione più che pienamente definita, riguarda l’obbligo di spiegare — se richiesto — il motivo di una raccomandazione specifica. L’AI Act, da solo, non impone un dettagliato “diritto alla spiegazione” per sistemi a rischio limitato come questo. Ma il quadro normativo europeo, preso nel suo insieme, si muove comunque in quella direzione: il Regolamento Generale sulla Protezione dei Dati, all’articolo 22, riconosce già da tempo il diritto a ottenere informazioni significative sulla logica utilizzata in un processo decisionale automatizzato; il Digital Services Act, all’articolo 27, impone alle piattaforme online di spiegare in linguaggio semplice i parametri principali dei propri sistemi di raccomandazione e di offrire almeno un’opzione di visualizzazione non basata sulla profilazione dell’utente. Nessuna di queste norme, presa da sola, obbliga oggi un’app di itinerari a rispondere alla domanda “perché mi hai proposto proprio questo percorso?” con una spiegazione dettagliata e su misura. Insieme, però, disegnano una direzione normativa piuttosto chiara, verso cui il settore del turismo digitale si sta muovendo, con qualche anno di ritardo rispetto ai settori più regolamentati.
C’è un ultimo tassello, tecnicamente distinto ma sempre più rilevante man mano che questi strumenti incorporano modelli linguistici generativi per formulare descrizioni e suggerimenti in linguaggio naturale: gli obblighi previsti dall’AI Act per i cosiddetti modelli di IA per finalità generali (General Purpose AI, capitolo V del regolamento). Chi fornisce il modello di base su cui un’app come Tappa su Misura costruisce le proprie descrizioni testuali deve mettere a disposizione documentazione tecnica adeguata, informazioni sui dati di addestramento a un livello ragionevole di dettaglio, misure per la trasparenza verso chi integra quel modello a valle. Un obbligo che riguarda, in prima battuta, chi il modello lo produce — le grandi aziende di AI generativa — ma che si riflette a cascata su chi lo utilizza per costruire un prodotto turistico: senza quella documentazione, verificare da dove viene un bias diventa quasi impossibile, non per negligenza del consorzio, ma per opacità di una filiera tecnologica sempre più lunga e stratificata.
Cosa significa, in pratica, spiegare un itinerario
Tornando al caso di Corvasco: cosa avrebbe significato, in pratica, un obbligo di spiegazione applicato a Tappa su Misura, prima ancora del caso Marras? Probabilmente qualcosa di semplice, non un trattato di statistica: una riga di testo, cliccabile, che dicesse — in linguaggio comprensibile — “questo percorso ti è stato proposto perché l’ottantadue per cento dei viaggiatori con un profilo simile al tuo lo ha apprezzato”. Una frase del genere, se fosse stata visibile a Samanta quella domenica di settembre, avrebbe reso immediatamente evidente un dato che nessuno aveva notato prima: “profilo simile al tuo” significava, in quel momento, “profilo di un trentenne appassionato di trekking”, non “profilo di un gruppo di pensionati in gita”. La trasparenza, qui, non avrebbe risolto il problema di fondo — il bias restava nel dataset — ma lo avrebbe reso visibile molto prima che qualcuno si fermasse su un muretto con il fiato corto.
La direzione che alcuni territori più attenti stanno prendendo, anche in assenza di un obbligo normativo stringente, va in questo senso: log di audit consultabili su richiesta, che permettano di ricostruire perché un dato itinerario è stato proposto; possibilità concreta, per l’utente, di correggere il proprio profilo dichiarato invece di subire in silenzio un profilo dedotto; revisione periodica — annuale, in molti casi — della composizione demografica dei dati di addestramento, confrontata con la composizione reale dei visitatori del territorio. Nessuna di queste misure richiede tecnologia sofisticata. Richiede, semmai, la volontà di guardare dentro il proprio sistema con lo stesso scetticismo che si riserverebbe al lavoro di un fornitore esterno mai controllato davvero. Non un dettaglio da rimandare al prossimo aggiornamento software. Una responsabilità che ricade, comunque, su chi decide di mettere in produzione lo strumento — non sull’algoritmo in sé, che di responsabilità non ne ha. Zero, per la precisione: la responsabilità è sempre umana, anche quando la decisione appare automatica. Lo ricordo spesso ai consorzi con cui lavoro: acquistare un algoritmo non significa acquistare anche l’esonero dal controllarne gli effetti.
Cosa resta, oltre lo screenshot dell’itinerario perfetto
La personalizzazione automatica degli itinerari turistici non è una moda passeggera destinata a sparire. È già, per molti territori e per molte strutture, uno strumento concreto di distribuzione dei flussi e di miglioramento dell’esperienza — quando funziona bene, funziona davvero bene, e chi lo ha visto funzionare in un territorio ben preparato lo racconta con entusiasmo genuino, non di circostanza. Il punto di questo articolo non è liquidarla come pericolosa. È più preciso, e più scomodo da accettare per chi vende questi strumenti come neutri: un sistema che impara dai dati del passato riproduce, quasi sempre senza volerlo, la fetta di mondo che quei dati rappresentavano — e quella fetta, quasi mai, coincide con l’intero pubblico a cui il sistema verrà poi applicato.
Il paradosso descritto in apertura — una tecnologia pensata, nella visione di Anderson, per aprire la coda lunga della scoperta, che finisce invece per rinchiudere ogni utente nella bolla di Sunstein, sempre più stretta attorno ai propri gusti già noti — non si risolve con un algoritmo più sofisticato. Si attenua, semmai, con scelte organizzative concrete: dati di addestramento controllati per rappresentatività, non solo per volume; un margine esplicito, dentro il motore, dedicato deliberatamente alla scoperta di ciò che è meno noto, anche a costo di una soddisfazione immediata leggermente più incerta; un controllo umano — non simbolico, reale — proprio sui profili che i dati, per loro natura, tendono a lasciare ai margini. Poche mosse. Non gratuite, ma nemmeno fuori portata per un consorzio di medie dimensioni.
Il caso di Corvasco, per quanto inventato, riassume in una sola gita domenicale un problema che riguarda ogni territorio che oggi valuta l’adozione di questi strumenti: chi ha scelto i dati con cui l’algoritmo impara? E, soprattutto, chi si è preso la briga di controllare chi, in quei dati, non compare affatto?
Punti Chiave per Studenti e Professionisti
- Gli itinerari generati dall’AI combinano quasi sempre content-based filtering (cosa è simile a ciò che hai già amato) e collaborative filtering (cosa hanno scelto persone con un comportamento simile al tuo), un’idea che affonda le radici nel lavoro pionieristico di Joseph Konstan e del gruppo GroupLens sui sistemi di raccomandazione, applicata oggi non più a un singolo prodotto ma a intere sequenze di tappe turistiche.
- La promessa della coda lunga di Chris Anderson — la tecnologia come strumento di scoperta del meno noto — rischia di ribaltarsi, per effetto del cold start e del popularity bias, nella bolla turistica descritta concettualmente da Cass Sunstein: un sistema ottimizzato per la soddisfazione immediata tende a concentrare ancora di più la domanda sui luoghi già popolari, lasciando invisibile proprio ciò che un territorio vorrebbe far scoprire.
- Un algoritmo addestrato su dati non rappresentativi riproduce quel bias su chiunque lo utilizzi, come mostra il caso fittizio del Circolo Il Tiglio a Corvasco: la correzione non è tecnica soltanto, richiede un controllo umano esplicito sui profili sottorappresentati e un quadro di trasparenza — rafforzato dall’AI Act, dal GDPR e dal Digital Services Act — che permetta, a chi lo richiede, di sapere perché un percorso è stato proposto proprio a lui.
Chi gestisce oggi, o gestirà tra breve, uno strumento di personalizzazione turistica per il proprio territorio saprebbe rispondere, con la stessa franchezza di Assunta Ferretti davanti al gruppo di operatori interessati a replicare l’esperienza, a una domanda semplice: nei dati con cui il proprio sistema ha imparato a “conoscere” i visitatori, chi manca — e chi, di conseguenza, rischia di ricevere un itinerario pensato per qualcun altro?