La generazione aumentata dal recupero (retrieval-augmented generation, RAG) nasce come risposta a un limite noto dei modelli linguistici: la conoscenza parametrica è opaca, difficile da aggiornare e incline a produrre affermazioni non supportate. L'architettura proposta da Lewis e colleghi (2020) separa i due problemi, affidando a un componente di recupero la selezione dell'evidenza e al modello la sua sintesi. La qualità del risultato dipende quindi, in misura decisiva, da che cosa il recupero consegna al modello.
È qui che i documenti strutturati mettono in crisi la pratica corrente. Un bilancio d'esercizio, un contratto di trasporto, uno statuto cooperativo non sono sequenze uniformi di paragrafi: sono oggetti con una topologia, fatta di gerarchie di sezioni, tabelle, note, definizioni e rimandi incrociati. La segmentazione a lunghezza fissa, il chunking, tratta questa topologia come se non esistesse.
Che cosa si perde con il taglio a lunghezza fissa
Il caso più semplice è la tabella. In uno stato patrimoniale la cella «1.250» acquista significato soltanto insieme all'intestazione di colonna (l'esercizio), a quella di riga (la voce), all'unità dichiarata (migliaia di euro) e alla nota integrativa che la commenta, spesso a distanza di pagine. Un blocco di 512 token che contiene la cella ma non le intestazioni produce un'evidenza formalmente pertinente e semanticamente mutila; il modello la leggerà con la stessa sicurezza di un'evidenza completa, e l'errore risultante non sarà distinguibile, in superficie, da una risposta corretta.
I rimandi presentano lo stesso problema in forma diversa. «Vedi nota 12» è informazione nulla se la nota 12 giace in un altro blocco; una clausola contrattuale letta senza la definizione che la precede può cambiare significato, perché nei testi giuridici le definizioni sono vincolanti e non decorative; una tabella spezzata a metà produce righe orfane delle proprie colonne. In tutti questi casi il degrado non avviene nel modello, ma prima del modello: è un problema di rappresentazione dell'ingresso, non di capacità generativa.
L'unità di recupero è un'unità logica
La prima correzione è analizzare la struttura prima di indicizzare. L'analisi del layout e della struttura documentale è un campo maturo, con benchmark e strumenti consolidati: il punto non è la fattibilità tecnica, ma la scelta architetturale di spendere lavoro in ingresso. Concretamente: le sezioni e le sottosezioni vengono conservate come gerarchia; le tabelle restano tabelle, e ogni riga viaggia con le proprie intestazioni; le note vengono collegate al punto in cui sono richiamate; le definizioni vengono associate alle clausole che le usano.
La seconda correzione è indicizzare i metadati insieme al contenuto: periodo di riferimento, unità di misura, valuta, fonte, versione del documento. Ne discende un principio generale: l'unità di recupero è un'unità logica del documento, non una quantità di caratteri. Un'evidenza ben formata deve stare in piedi da sola, cioè essere interpretabile senza che il lettore, umano o artificiale, debba ricostruire il contesto mancante.
Recupero ibrido, con l'ordine giusto
Sul recupero vero e proprio la letteratura offre due famiglie di metodi: il recupero lessicale, di cui BM25 resta il rappresentante di riferimento (Robertson e Zaragoza, 2009), e il recupero denso su rappresentazioni apprese (Karpukhin et al., 2020). La ricerca semantica da sola, però, non basta, per una ragione che l'esperienza operativa rende evidente: la somiglianza fra testi non è pertinenza. Una domanda sul fondo svalutazione crediti del 2023 somiglia moltissimo a un paragrafo sul fondo svalutazione crediti del 2021, e il recupero denso, da solo, non ha modo di preferire quello giusto.
Un sistema robusto combina la somiglianza con filtri deterministici (tipo di documento, esercizio, sezione), con la classificazione delle sezioni e con le relazioni fra entità: la voce di bilancio, la nota che la spiega, l'allegato che la dettaglia. L'ordine delle operazioni conta: prima si restringe l'insieme dei candidati con i filtri, poi si cerca per somiglianza dentro il sottoinsieme. Invertire l'ordine significa lasciare che un'evidenza dell'esercizio sbagliato, molto simile alla domanda, scavalchi quella corretta.
La valutazione segue l'architettura
Se l'evidenza è il fattore limitante, la valutazione deve misurare l'evidenza. Le metriche di generazione (fluidità, coerenza percepita) sono indicatori deboli, perché premiano risposte convincenti indipendentemente dal loro fondamento. La misura pertinente è la precisione del recupero rispetto a un insieme di riscontri annotati: per questa domanda, su questo documento, l'evidenza corretta è questa cella, questa nota, questa clausola. È una valutazione più costosa da costruire e più severa nei risultati, ed è l'unica che predice il comportamento del sistema in esercizio.
Ne discende anche una regola di condotta per il sistema: quando l'evidenza manca, dichiararlo. Un sistema che completa comunque, attingendo alla conoscenza parametrica del modello, produce esattamente la classe di errori che l'architettura RAG era nata per eliminare.
Il contesto applicativo
Nei prodotti Analytiko™ queste scelte si traducono in due indici che convivono, uno strutturale e uno semantico, in filtri deterministici applicati prima della somiglianza e nella citazione obbligatoria della fonte accanto a ogni dato restituito. Il costo è una pipeline di ingestione più complessa da mantenere; il beneficio è che ogni risposta è verificabile risalendo al documento, alla sezione e alla cella di origine. Quando il documento è un bilancio o un contratto, la verificabilità non è una proprietà accessoria: è la condizione perché il sistema possa entrare in un processo di cui qualcuno risponde.
Riferimenti: Lewis P. et al., «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks», NeurIPS 2020 · Robertson S., Zaragoza H., «The Probabilistic Relevance Framework: BM25 and Beyond», Foundations and Trends in Information Retrieval, 2009 · Karpukhin V. et al., «Dense Passage Retrieval for Open-Domain Question Answering», EMNLP 2020.
Analytiko · 2 settembre 2026