RAG IA entreprise : définition, fonctionnement, limites

Le RAG, ou génération augmentée par récupération, est une technique qui fait répondre un modèle de langage à partir de passages de documents retrouvés au moment de la question, et non de sa seule mémoire d'entraînement. En entreprise, il sert à interroger une base documentaire interne (procédures, contrats, documentation technique) sans réentraîner de modèle.

Le terme vient de l'article de Patrick Lewis et ses coauteurs, déposé en mai 2020. Il associait une mémoire paramétrique, le modèle, à une mémoire non paramétrique, un index vectoriel de Wikipédia interrogé par un moteur de recherche neuronal. Les auteurs notaient que fournir la provenance d'une réponse et mettre à jour les connaissances d'un modèle restaient des problèmes ouverts ; séparer le modèle des documents répond aux deux.

Comment fonctionne un RAG sur une base documentaire ?

Le guide RAG de la Direction générale des Entreprises (novembre 2024) décrit deux modules : un module de récupération identifie dans la base documentaire les documents ou extraits les plus pertinents pour la requête, puis un module de génération rédige la réponse en tenant compte de ces passages. Le travail commence avant la première question :

Préparation : conversion des documents en texte, reconnaissance optique de caractères pour les scans, suppression des doublons et des documents contradictoires.
Structuration : découpage en segments, enrichis de métadonnées (chapitre, date, notions traitées).
Indexation : chaque segment est converti en vecteur, une suite de nombres, et rangé dans une base de données vectorielle.
Interrogation : la question est comparée aux segments, les plus proches sont transmis au modèle avec elle, la réponse renvoie aux passages utilisés.

L'ANSSI place cette base vectorielle dans l'architecture type d'un système d'IA générative, construite à partir de sources internes ou de sources partenaires, pour enrichir les requêtes avant leur envoi au modèle.

Quelle différence entre RAG et fine-tuning ?

Le fine-tuning modifie les paramètres du modèle et demande des ressources de calcul importantes. Le RAG laisse le modèle intact : selon la CNIL, il produit des réponses enrichies par des données externes, plus faciles à actualiser que le modèle lui-même, et permet davantage de traçabilité des informations contenues dans les réponses. En pratique, une procédure révisée se réindexe et une version retirée sort de l'index, sans nouvel entraînement.

Qu'est-ce qui fait réussir un RAG côté corpus ?

Ce qu'on attend des réponses (pointer le passage, se taire quand le corpus ne sait pas, montrer les contradictions, ne pas décider) est traité dans l'article Ce qu'on attend d'un assistant documentaire. Ces comportements dépendent de conditions réunies en amont :

Une seule version en vigueur par document. La DGE demande de retirer les documents contradictoires lors du nettoyage. Il s'agit des versions périmées ; deux sources en vigueur qui divergent restent visibles, avec leur date.
Des métadonnées exploitables. Sans date, version, propriétaire et niveau de confidentialité attachés à chaque segment, pas de citation datée ni de filtrage.
Un découpage adapté aux documents. La DGE présente la méthode et la taille des segments comme un paramètre de réussite à fixer avec les experts métier.
Les droits d'accès reportés dans l'index. L'ANSSI demande de traiter le besoin d'en connaître dès la conception (R8) en gérant rôles et droits sur les données utilisées en production.
Le vocabulaire de la maison. La recherche lexicale rate les synonymes, la recherche sémantique certaines formulations ; la DGE propose une recherche hybride et, en option, un graphe de connaissances bâti sur les nomenclatures existantes.

Ces opérations sont détaillées dans l'article Préparer ses données pour l'IA.

Quelles sont les limites du RAG ?

Les hallucinations diminuent sans disparaître, selon la DGE, qui recommande une évaluation régulière du système.
La recherche peut manquer des documents pertinents, notamment parce qu'elle se limite souvent aux N segments les plus proches, N étant fixé à l'avance.
Les performances baissent sur les documents qui mêlent texte, images et tableaux, fréquents dans les PDF techniques.
La base vectorielle et les échanges avec le modèle forment une nouvelle surface d'attaque : l'ANSSI recommande de filtrer les entrées et sorties des utilisateurs (R25) et de journaliser l'ensemble des traitements (R29).
Le corpus vieillit : l'intégration d'un grand volume de nouveaux documents peut imposer un nouveau prétraitement, d'où le besoin d'un propriétaire et d'une règle de mise à jour.

Côté RGPD, la CNIL précise que l'organisme qui connecte un système d'IA générative à sa propre base de connaissance est responsable de ce traitement lorsqu'elle contient des données personnelles, et recommande d'associer le DPO et, le cas échéant, de réaliser une AIPD.

Où héberger un RAG sur des documents internes ?

Pour une documentation sensible ou stratégique, la CNIL cite le RAG en exemple et juge généralement plus sûr un déploiement sur site ; à défaut, un hébergement distant encadré par un contrat de sous-traitance, avec un encadrement des transferts hors de l'Union européenne. L'ANSSI recommande de privilégier un hébergement SecNumCloud en cas de déploiement dans un cloud public (R14). La DGE indique, à titre indicatif, qu'un même projet peut demander 6 mois de déploiement sur site contre 2 mois dans le cloud. Les critères de choix d'un hébergeur sont détaillés dans Ce que veut dire héberger en France et SecNumCloud, c'est quoi.

Un premier projet se cadre sur un cas d'usage, un corpus délimité et une série de questions réelles dont on connaît la bonne réponse, qui servent à évaluer le système avant de l'étendre. Dans la méthode affichée sur l'accueil, les assistants viennent en quatrième étape, après l'audit, le rapport et la plateforme de données. Pour un corpus précis, vous pouvez nous écrire.

Questions fréquentes

Le RAG supprime-t-il les hallucinations ?

Non. Le guide de la DGE indique qu'il les réduit sans les faire disparaître ; une évaluation régulière sur des questions de référence reste nécessaire.

Un RAG peut-il respecter les droits d'accès existants ?

Oui, si les droits sont portés dans l'index et appliqués au moment de la recherche, comme l'ANSSI le demande dès la conception. Un passage qu'un utilisateur ne peut pas ouvrir ne doit pas alimenter sa réponse.

Combien coûte un RAG ?

La DGE estimait en juin 2024, à partir d'entretiens avec des professionnels, l'installation par un intégrateur à environ 100 000 € en ordre de grandeur, hors puissance de calcul. Un produit SaaS s'achète par abonnement, à un coût très variable selon les usages.

Combien de temps faut-il pour déployer un RAG ?

La DGE compte environ 3 mois avec un intégrateur, et 3 mois pour un premier produit minimum en développement interne, avant quelques mois supplémentaires pour un outil fonctionnel.

Sources

Tous les articles

RAG en entreprise : faire répondre une IA à partir de sa base documentaire