RAG : comment faire parler une IA avec les documents de votre entreprise

Qu'est-ce que le RAG ?

Un grand modèle de langage connaît beaucoup de choses sur le monde, mais rien de votre entreprise : vos tarifs, vos procédures, vos contrats. Le RAG, génération augmentée par la recherche, résout ce problème sans réentraîner le modèle. Quand une question arrive, le système cherche dans vos documents les passages les plus pertinents, puis les transmet au modèle avec la question. Le modèle rédige alors sa réponse à partir de ces extraits, et peut indiquer d'où vient chaque information.

C'est un peu comme demander à un collègue très rapide de consulter le classeur des procédures avant de vous répondre, plutôt que de répondre de mémoire. Si les notions de modèle et de contexte vous sont peu familières, notre article sur les LLM pose les bases.

Comment fonctionne un système RAG, étape par étape ?

1. Préparation : les documents sont découpés en passages, puis indexés pour pouvoir être retrouvés par le sens et non seulement par les mots exacts.
2. Recherche : quand une question arrive, le système sélectionne les passages les plus proches de la demande.
3. Génération : ces passages sont transmis au modèle avec une consigne du type « réponds uniquement à partir de ces extraits et cite-les ».
4. Réponse : l'utilisateur reçoit une réponse rédigée, accompagnée des références des documents utilisés.

Avec les très grandes fenêtres de contexte des modèles récents, on peut parfois se passer de recherche et fournir directement un dossier entier. Mais dès que la base dépasse quelques centaines de documents ou change souvent, le RAG reste la méthode la plus efficace et la plus économique.

À quoi sert le RAG en entreprise ?

• Un assistant interne qui répond aux questions des salariés sur les procédures, les avantages RH ou les règles qualité.
• Un chatbot client qui répond à partir des fiches produits, des conditions générales et de la FAQ, sans inventer, comme un chatbot IA pour auto-école qui s'appuie sur les informations de l'école.
• Une aide au support technique, qui retrouve la solution dans les tickets et la documentation passés.
• Une recherche dans des contrats ou des dossiers juridiques, avec citation des clauses.
• Un assistant commercial qui retrouve les références et les arguments adaptés à un prospect.

C'est la brique technique de la plupart des chatbots IA que nous déployons : c'est elle qui permet au chatbot de dire « je ne sais pas » plutôt que d'improviser.

Qu'est-ce qui fait la qualité d'un projet RAG ?

Contrairement à une idée répandue, la qualité dépend d'abord des documents, pas du modèle. Des procédures contradictoires, des versions obsolètes ou des PDF scannés illisibles produisent des réponses contradictoires ou obsolètes. La première étape d'un projet est donc souvent un tri : quelle source fait foi, quels documents retirer, quelles lacunes combler.

Viennent ensuite le découpage des documents, la qualité de la recherche et la consigne donnée au modèle. On mesure le résultat avec un jeu de questions types dont on connaît la bonne réponse, avant la mise en ligne puis régulièrement. Un assistant qui répond juste à 95 % des questions courantes et signale honnêtement ses limites vaut bien mieux qu'un assistant brillant mais imprévisible.

Le RAG supprime-t-il les erreurs ?

Il les réduit fortement, sans les supprimer. Le système peut retrouver le mauvais passage, ou le modèle mal interpréter un extrait correct. C'est pourquoi les réponses doivent citer leurs sources, pour que l'utilisateur puisse vérifier, et pourquoi la consigne doit autoriser l'assistant à dire qu'il ne trouve pas l'information. Nous détaillons les autres méthodes pour limiter les erreurs dans notre article sur les hallucinations.

Autre point de vigilance : les droits d'accès. Un assistant interne ne doit pas révéler à un salarié un document auquel il n'a normalement pas accès, comme des fiches de paie ou des dossiers disciplinaires. Le système doit filtrer les documents selon l'utilisateur, avant même la recherche.

Comment lancer un assistant sur vos documents ?

Pour un premier test sans développement, les projets de Claude permettent déjà de déposer des documents de référence et de poser des questions dessus : nous les présentons dans cet article. C'est un excellent moyen de vérifier l'intérêt avant d'investir.

Pour un assistant utilisé par toute l'entreprise ou par vos clients, relié à des sources qui évoluent, avec gestion des droits et mesure de la qualité, un développement sur mesure s'impose. Nous construisons ces assistants dans le cadre de nos offres chatbot IA et agent IA, en commençant toujours par un corpus limité et un jeu de questions de test.

Questions fréquentes

Sources

• Anthropic : présentation des modèles et fenêtres de contexte(nouvel onglet)
• CNIL : intelligence artificielle(nouvel onglet)

Cet article a une visée informative et ne constitue pas un conseil juridique.