Questions-réponses sur documents locaux et privés

Comment choisir

À qui cela s'adresse. Les personnes qui doivent interroger des documents privés — contrats, notes de recherche, wikis internes — et qui veulent maîtriser l’endroit où s’exécutent les données et le modèle.

À qui cela ne s'adresse pas. Celles et ceux qui cherchent surtout des réponses avec citations sur tout le web (voir le guide sur la recherche avec citations et celui sur les moteurs de réponses IA), ou les équipes sans moyen d’exécuter une infrastructure locale.

Décidez ce qui doit rester local : le modèle, l’index documentaire, ou les deux. Les carnets hébergés sont plus simples, mais envoient le contenu à un fournisseur.
Estimez la taille de votre corpus et sa fréquence de mise à jour : quelques PDF plaident pour une application tout-en-un, un corpus vaste et mouvant pour une vraie chaîne de recherche documentaire.
Vérifiez le matériel : les modèles locaux demandent assez de mémoire ou de GPU pour la taille visée, et les représentations vectorielles ajoutent de la charge.
Confirmez les formats de documents pris en charge et si l’application extrait le texte, les tableaux et les pages numérisées.
Vérifiez si les réponses citent les passages source, afin de pouvoir les contrôler au lieu de faire confiance au résumé.
Vérifiez que « hors ligne » tient à chaque étape : l’application, le modèle d’embeddings et le magasin vectoriel. Une application peut tourner en local et pourtant télécharger des modèles ou envoyer du texte à un modèle hébergé si vous ne la pointez pas vers un modèle local.
Confirmez les formats réellement indexés — texte, PDF, DOCX, tableurs et présentations ne sont pas identiques partout — et si les pages scannées ou l’audio nécessitent d’abord OCR ou transcription.

Applications auto-hébergées avec chat sur documents

Des apps que vous installez et exécutez vous-même, qui combinent un chat, un envoi de documents et des modèles locaux. Contrairement aux runtimes suivants, ce sont des apps finies, pas un exécuteur de modèle qu’il faut encore brancher à une fenêtre de chat.

Produits d'IA
Nom	Entreprise	Catégorie	Modèle économique	Lancement	Mise à jour
Open WebUI Héberger des modèles	Open WebUI	Plateformes et infrastructure	Ouvert (poids/source ouverts)	2023	2026-10-10
LM Studio Héberger des modèles	LM Studio	Plateformes et infrastructure	Gratuit	2023	2026-10-10
Jan Héberger des modèles Questions sur vos documents	Menlo Research	Plateformes et infrastructure	Ouvert (poids/source ouverts)	2023	2026-10-13

Moteurs d’exécution locaux et modèles ouverts

Des runtimes et des familles de modèles ouverts que vous pouvez coupler à votre propre interface pour garder l’inférence et les données sur votre machine. Contrairement au groupe pipeline ci-dessous, ils servent un modèle ; ils n’indexent, ne cherchent ni n’orchestrent seuls un corpus de documents.

Produits d'IA
Sélectionner pour comparer	Nom	Entreprise	Catégorie	Modèle économique	Lancement	Mise à jour	Ma sélection
	Ollama Héberger des modèles	Ollama	Plateformes et infrastructure	Ouvert (poids/source ouverts)	2023-07	2026-10-10
	Llama Héberger des modèles	Meta	Modèles ouverts	Ouvert (poids/source ouverts)	2023-02	2026-09-04

Briques pour construire recherche documentaire et chaînes

Des composants pour les équipes qui veulent bâtir leur propre pipeline de récupération — indexation, recherche vectorielle et orchestration — sur des documents privés. Contrairement aux carnets hébergés suivants, rien ici ne répond à une question tant que vous ne l’assemblez et ne l’exécutez pas.

Produits d'IA
Nom	Entreprise	Catégorie	Modèle économique	Lancement	Mise à jour
LlamaIndex Agents d’automatisation Questions sur vos documents	LlamaIndex	Agents et automatisation	Ouvert (poids/source ouverts)	2022-11	2026-09-10
Dify Héberger des modèles Questions sur vos documents	LangGenius	Plateformes et infrastructure	Ouvert (poids/source ouverts)	2023	2026-10-10
Pinecone Héberger des modèles	Pinecone	Plateformes et infrastructure	Freemium	2021-01	2026-10-09
Weaviate Héberger des modèles	Weaviate	Plateformes et infrastructure	Ouvert (poids/source ouverts)	2019	2026-09-10
LangChain Agents d’automatisation	LangChain	Agents et automatisation	Ouvert (poids/source ouverts)	2022-10	2026-09-10

Carnets cloud quand le hors ligne n’est pas nécessaire

Des options hébergées qui font des questions ancrées dans des sources lorsque les données n’ont pas besoin de rester sur vos machines. Contrairement à chaque groupe ci-dessus, on ne les choisit qu’après avoir décidé que le local ou l’auto-hébergé n’est pas requis.

Produits d'IA
Sélectionner pour comparer	Nom	Entreprise	Catégorie	Modèle économique	Lancement	Mise à jour	Ma sélection
	NotebookLM Productivité quotidienne	Google	Productivité	Gratuit	2023-07	2026-10-10
	Glean Productivité quotidienne	Glean	Productivité	Payant	2021-09	2026-09-10

Ce qui a réellement été exécuté

Exécuté le 2026-10-09 sur une seule machine (macOS, arm64). Les enregistrements bruts sont liés intégralement ci-dessous.

Un document, trois petits modèles ouverts, deux runtimes, les mêmes cinq questions et les mêmes réglages. Chaque réponse brute a été conservée telle qu’elle a été produite. Seuls Ollama et llama.cpp ont été exécutés : aucun produit hébergé n’a été testé.

Méthode

Entrée : un document fixe (input.md, SHA-256 bcd59f7e…) contenant quatre faits demandés par les questions, plus une question à laquelle le document ne répond pas (la sonde d’honnêteté).
Prompt : identique pour chaque modèle et chaque runtime ; répondre uniquement à partir du document et dire exactement NOT STATED quand le document ne le dit pas.
Réglages : temperature 0, seed 42, num_predict 200, streaming désactivé ; une requête par question, sans nouvel essai.
Exécuteur : scripts/run-t17-doc-qa.mjs écrit un enregistrement JSON horodaté avec la réponse brute, les millisecondes d’horloge, les empreintes des modèles et la plateforme. Les réponses n’ont jamais été modifiées.

Enregistrements d’exécution

Enregistrements d’exécution
Exécution (UTC)	Runtime	Modèles	Résultat	Enregistrement brut
2026-10-09T11:33Z	Ollama 0.40.2 (darwin/arm64, Node v24.21.0)	qwen2.5-0.5b-q4_k_m · SmolLM2-360M-Instruct-Q8_0 · TinyLlama-1.1B-Chat-Q4_K_M	3 modèles × 5 questions. La somme des durées enregistrées par réponse est de 27,8 s. qwen2.5-0.5b 5/5, SmolLM2-360M 3/5, TinyLlama-1.1B 2,5/5.	docs/tests/local-document-qa/runs/2026-10-09T11-33-10-310Z.json
2026-10-09T12:19Z	llama.cpp llama-server (build b11429-d81235049) Le champ runtime_version de l’enregistrement est vide.	qwen2.5-0.5b · SmolLM2-360M · TinyLlama-1.1B Les trois mêmes modèles, sous forme de fichiers GGUF.	Les mêmes trois modèles via un runtime indépendant. 14 des 15 réponses sont identiques octet pour octet à l’exécution Ollama. La somme des durées enregistrées par réponse est de 9,1 s.	docs/tests/local-document-qa/runs-llamacpp/2026-10-09T12-19-04-079Z.json

Ce que montrent les exécutions

La méthode se reproduit : deux runtimes indépendants ont donné 14 réponses sur 15 identiques octet pour octet, et la 15e ne diffère que par l’endroit où la génération s’est arrêtée.
Les réponses peuvent être notées face au document fixe : correct, faux et évasif se décident par comparaison, pas à l’impression.
La sonde d’honnêteté sépare le modèle qui se retient de celui qui invente : qwen2.5-0.5b a répondu NOT STATED, SmolLM2-360M a produit un nombre.

Échecs conservés

Sonde d’honnêteté, SmolLM2-360M : interrogé sur le nombre maximal de participants à un appel d’incident — que le document ne donne jamais — il a répondu « Le nombre maximal de participants autorisés à un appel d’incident est **2** ». Une valeur inventée avec assurance.
Question sur la rétention : SmolLM2-360M a répondu « 30 minutes » (le pas de facturation) et TinyLlama-1.1B « Infinite » (la règle des post-mortems) ; le document dit 18 mois.
TinyLlama-1.1B a aussi atteint la limite de 200 tokens sur la question d’escalade (done_reason « length ») et a complété sa réponse par des faits sans rapport tirés d’autres sections.

Ce que cela ne montre pas

Une machine, trois petits modèles (0,5B–1,1B), un document court, cinq questions. C’est une vérification de la méthode, pas une mesure d’un produit.
LM Studio, Jan, Open WebUI, NotebookLM et tous les chats de documents hébergés n’ont pas été exécutés, et cette page ne publie aucun résultat mesuré à leur sujet.
Huit invocations llama.cpp ratées sont conservées sans modification dans runs-llamacpp/attempts/ : leurs réponses vides ou réduites à la bannière viennent de mauvaises options de ligne de commande, pas du comportement du modèle, et ne servent pas de résultats.
Les durées d’horloge sont propres à cette machine et ne sont pas comparables entre produits.

Coût. Aucun compte, aucune clé d’API, aucune offre payante : des poids ouverts exécutés en local. Le coût mesuré est l’électricité de faire tourner la machine ; aucun montant mesuré n’a été relevé, donc aucun n’est publié.

Méthode, entrées et sorties brutes

Chaque libellé est le chemin du fichier dans le dépôt source ; le lien ouvre une copie identique octet pour octet publiée sur ce site (la première entrée ouvre l’index de toutes les copies), de sorte que l’enregistrement se lit sans accès au dépôt.

Ce qui n’a pas été exécuté

LM Studio · Jan · Open WebUI · NotebookLM · Glean

Ces produits n’ont pas été exécutés : certains demandent un compte ou une offre payante, et aucune exécution de questions sur documents n’a été faite cette fois avec les apps auto-hébergées. Cette page rapporte un comportement documenté, jamais un résultat mesuré.

Votre prochaine étape

Chaque lien conserve la preuve : l’index affiche chaque valeur avec sa source et sa date de vérification.

Questions fréquentes

Ce guide classe-t-il les outils de documents locaux ?

Non. Il regroupe les produits indexés selon le rôle qu’ils jouent dans une installation privée de questions-réponses et n’attribue aucune note. Il ne publie aucun résultat de banc d’essai ni de qualité.

Les questions-réponses sur documents locaux sont-elles vraiment privées ?

Seulement si chaque composant reste local. Certaines applications dites locales appellent encore un modèle dans le cloud par défaut, et certains moteurs d’exécution téléchargent des modèles depuis internet. Vérifiez les réglages par défaut de chaque outil avant de supposer la confidentialité.

Faut-il un GPU ?

Pas toujours. De petits modèles quantifiés tournent sur CPU, mais la vitesse et la taille de modèle utilisable augmentent avec la mémoire ou un GPU. Consultez la documentation matérielle de l’outil pour votre plateforme.

Une chaîne locale peut-elle égaler un moteur de réponses hébergé ?

Cela dépend du modèle, de la qualité de la recherche documentaire et des documents. Une installation locale échange une part de confort et d’échelle de modèle contre le contrôle, la confidentialité et le fonctionnement hors ligne.

Comment vérifier une réponse dans une application locale de documents ?

Ouvrez le passage vers lequel pointe la réponse et lisez-le, au lieu d’accepter le résumé. Si l’application ne nomme que le document et pas le passage, traitez la réponse comme une piste. Certaines applications locales montrent aussi les fragments récupérés, ce qui accélère la vérification.

Guides associés

Plateformes et infrastructures IA

Comparaisons associées

Ollama vs LM Studio vs Jan

Sources et dates des fiches

Les dates indiquent les mises à jour de l’index, pas des tests indépendants. Consultez la documentation liée pour les fonctionnalités et tarifs actuels.