La génération augmentée par la recherche (retrieval-augmented generation, RAG) est née en réponse à une limite connue des modèles de langage : la connaissance paramétrique est opaque, difficile à mettre à jour et encline à produire des affirmations non fondées. L'architecture proposée par Lewis et ses collègues (2020) sépare les deux problèmes, en confiant à un composant de recherche la sélection de l'évidence et au modèle sa synthèse. La qualité du résultat dépend donc, de manière décisive, de ce que la recherche remet au modèle.
C'est ici que les documents structurés mettent en échec la pratique courante. Un bilan, un contrat de transport, les statuts d'une coopérative ne sont pas des suites uniformes de paragraphes : ce sont des objets dotés d'une topologie, faite de hiérarchies de sections, de tableaux, de notes, de définitions et de renvois croisés. La segmentation à longueur fixe, le chunking, traite cette topologie comme si elle n'existait pas.
Ce qui se perd quand on coupe à longueur fixe
Le cas le plus simple est le tableau. Dans un bilan, la cellule « 1 250 » ne prend sens qu'avec l'en-tête de colonne (l'exercice), celui de ligne (le poste), l'unité déclarée (milliers d'euros) et la note qui la commente, souvent à plusieurs pages de distance. Un bloc de 512 jetons qui contient la cellule mais pas les en-têtes produit une évidence formellement pertinente et sémantiquement mutilée ; le modèle la lira avec la même assurance qu'une évidence complète, et l'erreur qui en résulte sera indiscernable, en surface, d'une réponse correcte.
Les renvois posent le même problème sous une autre forme. « Voir note 12 » est une information nulle si la note 12 gît dans un autre bloc ; une clause contractuelle lue sans la définition qui la précède peut changer de sens, car dans les textes juridiques les définitions sont contraignantes et non décoratives ; un tableau coupé en deux produit des lignes orphelines de leurs colonnes. Dans tous ces cas, la dégradation ne se produit pas dans le modèle mais avant le modèle : c'est un problème de représentation de l'entrée, non de capacité générative.
L'unité de recherche est une unité logique
La première correction consiste à analyser la structure avant d'indexer. L'analyse de la mise en page et de la structure documentaire est un champ mûr, avec des référentiels et des outils établis : la question n'est pas la faisabilité technique, mais le choix architectural de dépenser du travail à l'ingestion. Concrètement : les sections et sous-sections sont conservées comme hiérarchie ; les tableaux restent des tableaux, et chaque ligne voyage avec ses en-têtes ; les notes sont rattachées au point où elles sont appelées ; les définitions sont liées aux clauses qui les utilisent.
La seconde correction consiste à indexer les métadonnées avec le contenu : période de référence, unité de mesure, devise, source, version du document. Il en découle un principe général : l'unité de recherche est une unité logique du document, non une quantité de caractères. Une évidence bien formée doit tenir debout seule, c'est-à-dire être interprétable sans que le lecteur, humain ou artificiel, doive reconstruire le contexte manquant.
Une recherche hybride, dans le bon ordre
Sur la recherche proprement dite, la littérature offre deux familles de méthodes : la recherche lexicale, dont BM25 reste le représentant de référence (Robertson et Zaragoza, 2009), et la recherche dense sur représentations apprises (Karpukhin et al., 2020). La recherche sémantique seule, cependant, ne suffit pas, pour une raison que l'expérience opérationnelle rend évidente : la similarité entre textes n'est pas la pertinence. Une question sur la provision pour créances douteuses de 2023 ressemble beaucoup à un paragraphe sur la provision de 2021, et la recherche dense, à elle seule, n'a aucun moyen de préférer le bon.
Un système robuste combine la similarité avec des filtres déterministes (type de document, exercice, section), avec la classification des sections et avec les relations entre entités : le poste de bilan, la note qui l'explique, l'annexe qui le détaille. L'ordre des opérations compte : on restreint d'abord l'ensemble des candidats avec les filtres, puis on cherche par similarité dans le sous-ensemble. Inverser l'ordre, c'est laisser une évidence du mauvais exercice, très semblable à la question, devancer la bonne.
L'évaluation suit l'architecture
Si l'évidence est le facteur limitant, l'évaluation doit mesurer l'évidence. Les métriques de génération (fluidité, cohérence perçue) sont des indicateurs faibles, car elles récompensent des réponses convaincantes indépendamment de leur fondement. La mesure pertinente est la précision de la recherche par rapport à un ensemble de réponses annotées : pour cette question, sur ce document, l'évidence correcte est cette cellule, cette note, cette clause. C'est une évaluation plus coûteuse à construire et plus sévère dans ses résultats, et c'est la seule qui prédise le comportement du système en exploitation.
Il en découle aussi une règle de conduite pour le système : quand l'évidence manque, le dire. Un système qui complète quand même, en puisant dans la connaissance paramétrique du modèle, produit exactement la classe d'erreurs que l'architecture RAG était née pour éliminer.
Le contexte applicatif
Dans les produits Analytiko™, ces choix se traduisent par deux index qui coexistent, l'un structurel et l'autre sémantique, par des filtres déterministes appliqués avant la similarité et par la citation obligatoire de la source à côté de chaque donnée restituée. Le coût est une chaîne d'ingestion plus complexe à maintenir ; le bénéfice est que chaque réponse peut être vérifiée en remontant au document, à la section et à la cellule d'origine. Quand le document est un bilan ou un contrat, la vérifiabilité n'est pas une propriété accessoire : c'est la condition pour que le système entre dans un processus dont quelqu'un répond.
Références : Lewis P. et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », NeurIPS 2020 · Robertson S., Zaragoza H., « The Probabilistic Relevance Framework: BM25 and Beyond », Foundations and Trends in Information Retrieval, 2009 · Karpukhin V. et al., « Dense Passage Retrieval for Open-Domain Question Answering », EMNLP 2020.
Analytiko · 2 septembre 2026