Chercher avant de répondre

RAG signifie Retrieval-Augmented Generation, ou génération augmentée par récupération d’information. Un système recherche des passages dans une collection de documents, puis les fournit au modèle pour préparer une réponse. Il n’est pas nécessaire de réentraîner le modèle à chaque ajout de document.

Un exemple concret

Une équipe dispose de centaines de fiches produit. À la question « Quel modèle convient à une pièce humide ? », le système retrouve les fiches pertinentes et les transmet au modèle. Celui-ci peut formuler une réponse et indiquer les passages utilisés. La qualité dépend autant de la recherche que de la rédaction finale.

Ce qui peut encore mal fonctionner

Un passage pertinent peut ne pas être retrouvé. Une ancienne fiche peut contredire la nouvelle. Le modèle peut aussi interpréter de travers un extrait correct. Ajouter des documents ne suffit donc pas : il faut suivre leur fraîcheur, leurs permissions et la façon dont ils sont découpés.

Comment l’évaluer

Préparez dix questions dont vous connaissez la réponse et conservez les passages de référence. Testez aussi une question sans réponse dans les documents. Un système utile doit savoir signaler cette absence. Vérifiez enfin qu’un utilisateur ne puisse pas obtenir un document auquel il n’a pas accès.