Le local est un choix de déploiement, pas un label de qualité.
Organiser les collections, ajouter leur contexte, combiner BM25 et recherche vectorielle, reclasser peu de résultats et évaluer l’ensemble.
Réponse courte
Un pipeline local utile commence par des collections nommées et une courte explication de leur contenu. Il indexe les termes exacts pour la recherche lexicale, le sens pour la recherche vectorielle et les métadonnées nécessaires aux droits et au périmètre produit. À chaque question, il réunit les candidats des deux recherches, retire les doublons puis reclasse un ensemble limité avant de charger les documents complets. QMD est une mise en œuvre concrète de ce principe pour des collections Markdown. Le local reste une option de déploiement. Il ne garantit à lui seul ni la pertinence, ni la fraîcheur, ni les droits d’accès, ni la sécurité.
À retenir
- 01
Les collections et leurs descriptions donnent une carte au moteur avant le classement des passages.
- 02
La recherche lexicale, les vecteurs et le reclassement répondent à des échecs différents.
- 03
Le local change le lieu d’exécution. La qualité dépend toujours de questions représentatives et d’évaluations.
01 / SITUATION
Un dossier de documents n’est pas encore un système de connaissance
Une équipe industrielle peut disposer de procédures, de notes de maintenance et de manuels fournisseurs en Markdown ou en texte exporté. Un éditeur de logiciel possède sa documentation, ses notes de version et ses décisions internes. Les rendre interrogeables ne dit pas encore quelle source fait foi, qui peut la voir, quand elle devient ancienne ni quelle collection répond à la question.
Le travail utile commence donc avant les embeddings. Il faut définir les collections, leurs responsables, leur mise à jour et quelques indications de contexte. La recherche peut ensuite rapprocher le vocabulaire exact du produit et des formulations plus naturelles, sans demander au modèle de deviner le sens de chaque dossier.
02 / MECHANISM
Des collections jusqu’aux preuves évaluées
Chaque étape doit rester observable pour relier une mauvaise réponse à la source, à l’index, à la requête ou au classement.
- 01Définir les collections
Regrouper les documents selon une limite métier stable : produit, site, équipe ou niveau d’autorité. Nommer un responsable et un chemin de mise à jour pour chaque collection.
- 02Décrire leur contexte
Préciser ce que contient la collection, à qui elle sert et quand il faut l’exclure. Les contextes QMD offrent une façon concrète d’attacher cette carte à une arborescence documentaire.
- 03Construire deux index complémentaires
Conserver un index lexical pour les codes, libellés et expressions exactes, puis un index vectoriel pour les reformulations et les proximités de sens. Versionner les sources et la configuration des embeddings.
- 04Chercher dans le bon périmètre
Appliquer d’abord les filtres de collection, de rôle, de langue et de produit. Générer les candidats sans charger de documents sans rapport dans le contexte du modèle.
- 05Fusionner, dédoublonner et reclasser
Réunir les listes avec une règle stable, regrouper les contenus répétés et reclasser un petit ensemble avec la question complète et le contexte produit actuel.
- 06Inspecter, évaluer et rafraîchir
Tester des questions réalistes, des contre-exemples et des sources périmées. Repérer l’étape fautive, reconstruire les index modifiés et prévoir une réponse honnête lorsque la preuve manque.
03 / Dans le travail réel
Procédures industrielles
Séparer les procédures approuvées, les manuels fournisseurs et les notes de maintenance. Le code exact d’une machine retrouve la bonne famille ; la recherche sémantique aide quand l’opérateur décrit plutôt le symptôme.
Connaissance comptable
Garder les règles du cabinet distinctes des documents propres à un client. Les droits choisissent la collection autorisée avant le lancement des moteurs.
Documentation produit
Indexer séparément le guide actuel, les notes de version et les limites connues. Le déploiement ne rafraîchit que les collections touchées par une modification.
Pièges fréquents
- Indexer tous les dossiers sans préciser leur responsable ni leur niveau d’autorité.
- Présenter l’exécution locale comme une preuve d’exactitude, de confidentialité ou de contrôle des accès.
- Appliquer les droits après l’arrivée du texte dans le prompt.
- Modifier les fichiers sans reconstruire les index lexicaux ou vectoriels devenus anciens.
- Juger le pipeline sur quelques démonstrations réussies au lieu d’un ensemble de questions représentatif.
Checklist d’implémentation
- Chaque collection a un objectif, un responsable et une règle de mise à jour.
- Les descriptions précisent ce qui doit être inclus et exclu.
- Les filtres d’accès et de produit s’appliquent avant la recherche.
- Les index lexicaux et sémantiques peuvent être inspectés séparément.
- La fusion, le dédoublonnage et le reclassement sont déterministes ou versionnés.
- Les évaluations couvrent les termes exacts, les reformulations, les contre-exemples et les documents anciens.
- L’absence de preuve produit une limite claire, pas une réponse inventée.
Ce que cette approche ne promet pas
- QMD est une référence d’ingénierie, pas la preuve qu’une configuration convient à tous les corpus.
- Les modèles et le matériel locaux modifient la latence, la couverture et le coût d’exploitation sans garantir une meilleure pertinence.
- Aucun pipeline de recherche ne corrige des documents contradictoires ou une autorité mal définie.
Sources et nature des références
- 01The Probabilistic Relevance Framework: BM25 and BeyondRobertson and Zaragoza · 2009Recherche
- 02ColBERTv2: Effective and Efficient Retrieval via Lightweight Late InteractionSanthanam et al. · 2022Recherche
- 03RAGAS: Automated Evaluation of Retrieval Augmented GenerationEs et al. · 2024Recherche
- 04QMD: query Markdown with hybrid searchTobi Lütke · 2026Pratique de terrain
Questions fréquentes
Une recherche locale signifie-t-elle que tout l’assistant reste local ?
Non. L’indexation et la recherche peuvent tourner sur place tandis que la génération ou les outils s’exécutent ailleurs. Chaque trajet de données doit être cartographié.
Faut-il commencer par les vecteurs ?
Commencez par une recherche lexicale simple et des questions réalistes. Ajoutez le sémantique lorsqu’il corrige des reformulations ou des rapprochements que cette base manque.
Quand faut-il réindexer une collection ?
Quand le contenu, l’extraction, le découpage ou la configuration des embeddings change. Le rythme dépend de la vitesse à laquelle chaque source vieillit.