RAG (retrieval-augmented generation) : la brique technique derrière un agent qui répond juste

Un modèle généraliste comme ChatGPT ou Claude répond à partir de deux sources : ce qu’il a appris pendant son entraînement, et ce qu’on lui donne dans la conversation en cours. Ni l’un ni l’autre n’est votre grille tarifaire actuelle, votre politique de congés ou l’avenant contractuel signé la semaine dernière — un assistant laissé à sa seule mémoire finira donc, tôt ou tard, par inventer une réponse plausible mais fausse. Ce n’est pas un problème de qualité de modèle qu’un modèle plus gros résout tout seul : c’est structurel, et l’architecture conçue pour y répondre a un nom, le retrieval-augmented generation (RAG).

Chercher avant de générer

Le mécanisme est plus simple que l’acronyme ne le laisse penser. Une question est convertie en représentation numérique et comparée à un index des documents propres à l’entreprise ; les passages les plus proches sont extraits et transmis au modèle en même temps que la question, de sorte que la réponse est générée à partir de cette matière retrouvée plutôt que de la seule mémoire du modèle. L’approche a été formalisée dans un article de 2020, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, par une équipe de Facebook AI Research dirigée par Patrick Lewis et présentée à NeurIPS — l’article qui a donné son nom à la technique et son architecture en deux temps, désormais standard.

Ce que ça change pour une entreprise qui déploie un assistant

Le gain concret n’est pas que le modèle devient plus intelligent — c’est que sa réponse s’ancre désormais dans un document précis et vérifiable plutôt que dans une moyenne statistique de ses données d’entraînement. Mettez à jour le document source et la prochaine réponse de l’assistant en tient compte immédiatement, sans réentraînement. Le revers : la qualité de la recherche fixe un plafond à la qualité de la réponse — un assistant qui répond avec assurance à partir du mauvais passage reste faux, juste plus poli en le disant.

• →Le découpage (chunking) : des documents fractionnés trop grossièrement ou trop finement rendent le bon passage difficile à retrouver — le découpage doit suivre la logique du document (une clause de politique, un article de contrat), pas un nombre fixe de caractères.
• →La fraîcheur : un assistant RAG vaut ce que vaut son index — tout ce qui est sensible au temps (tarifs, politique de congés, conditions du mois) demande un calendrier de réindexation défini, pas un import ponctuel.
• →La traçabilité : une réponse sans source visible reste une boîte noire même quand elle est juste — exigez que l’agent montre le document dont il s’est servi, pour qu’une personne puisse vérifier en un clic avant d’agir dessus.

Rien de tout cela ne dispense d’une relecture humaine avant de mettre en production un assistant RAG sur des sujets sensibles. Ce que ça change, c’est le mode d’échec : au lieu d’une réponse inventée avec assurance et sans trace de son origine, on obtient une réponse vérifiable — parfois fausse, mais fausse d’une façon qu’on peut repérer.