Quando l’AI sbaglia in azienda, spesso il problema non è solo il modello: è il contesto recuperato. Una versione vecchia, una procedura superata o un documento incompleto possono generare una risposta plausibile ma operativamente sbagliata.
Un esempio concreto: tre versioni dello stesso documento
Immagina lo stesso file in tre cartelle diverse, con nomi simili. L’AI ne recupera uno e risponde sulla base di quella fonte. Solo che era la versione di sei mesi fa: nel frattempo le condizioni sono cambiate.
Tecnicamente non è necessariamente un’“allucinazione” nel senso stretto. Ha usato una fonte reale, ma non quella corretta. È un errore di organizzazione documentale e di retrieval, prima ancora che di intelligenza artificiale.
Tre tipi di errore da non confondere
Per intervenire bene serve distinguere:
- Errore di corpus: fonti obsolete, duplicate o contraddittorie;
- Errore di retrieval: il sistema recupera il frammento sbagliato o incompleto;
- Errore di generazione: il modello inventa o ricostruisce oltre le fonti.
Il paper originale su RAG spiega perché collegare un modello a una memoria esterna può migliorare factuality e provenance. Ma studi sulla robustezza del RAG a livello di query e lavori come Stable-RAG mostrano che l’output resta sensibile a formulazione della domanda, qualità del recupero e anche all’ordine dei documenti recuperati.
Conclusione pratica: mettere ordine nella knowledge base aiuta, non perché elimini ogni errore, ma perché riduce le probabilità di rispondere sul contesto sbagliato.
Il lavoro vero è sulla biblioteca, non solo sulla macchina
Se dai a una macchina una biblioteca disordinata, con libri duplicati, scaffali senza etichette e copie vecchie mescolate alle nuove, non puoi pretendere che trovi sempre la citazione giusta.
Prevenire molti errori operativi dell’AI non significa solo aggiungere controlli sul modello. Significa mettere ordine nella conoscenza che l’AI usa:
- organizzare i documenti critici;
- renderli ricercabili;
- aggiungere metadati minimi (chi, quando, versione corrente);
- chiarire gli accessi (chi può vedere cosa);
- definire una fonte di riferimento per le decisioni.
Cosa fare in pratica su un perimetro limitato
- Identifica i documenti critici di un processo (contratti, procedure, policy, report).
- Elimina o archivia i duplicati e stabilisci la versione corrente.
- Aggiungi metadati minimi ma utili.
- Definisci i diritti di accesso.
- Collega l’AI a questo perimetro ordinato, con citazione delle fonti.
- Valuta le risposte con chi vive il processo ogni giorno.
Il risultato atteso non è la perfezione automatica. È un sistema più verificabile: risposte citabili, errori più facili da correggere, fiducia che cresce perché le persone vedono da dove arriva l’informazione.
FAQ
L’AI può imparare da sola a distinguere le versioni?
Non in modo affidabile senza governance. Servono metadati, ownership e regole di versioning. L’AI amplifica l’ordine o il disordine che trova.
Serve un progetto enorme di data cleaning?
No. Si parte da un processo e da un perimetro limitato. Si dimostra il valore e si espande.
Qual è il rischio se non si fa nulla?
Risposte brillanti in demo che falliscono nel quotidiano, perdita di fiducia e ritorno al “meglio chiedere al collega”.
Una knowledge base ordinata elimina le allucinazioni?
No. Riduce errori legati a fonti sbagliate o incomplete, ma non rimuove tutti i limiti di retrieval e generazione.
Fonti
- Lewis et al.: Retrieval-Augmented Generation (arXiv:2005.11401): memoria esterna, factuality e provenance.
- Investigating the Robustness of RAG at the Query Level (arXiv:2507.06956): sensibilità del sistema alla query.
- Stable-RAG: ACL Anthology 2026: impatto dell’ordine dei documenti recuperati.
Approfondisci nella serie
- Gestione documentale e AI: perché i documenti contengono la vera conoscenza
- Sicurezza dei dati e Shadow AI: perché vietare non basta
- Non quale AI scegliere: quale conoscenza rendere utilizzabile
Se vuoi ridurre errori legati a versioni obsolete e fonti incomplete, possiamo fare un assessment mirato su un processo: duplicati, golden source, lacune di retrieval e criteri di verifica. Scrivici a info@zendata.it o visita zendata.it.
Pietro Ciattaglia, CEO di Zendata AI, Roma