Preguntas y respuestas sobre documentos locales y privados

Cómo elegir

Para quién es. Personas que necesitan hacer preguntas sobre documentos privados —contratos, notas de investigación, wikis internas— y quieren controlar dónde se ejecutan los datos y el modelo.

Para quién no es. Quien busque sobre todo respuestas con citas de toda la web (véanse la guía de investigación con citas y la de motores de respuestas de IA), o equipos sin capacidad para ejecutar infraestructura local.

Decide qué debe permanecer local: el modelo, el índice de documentos o ambos. Los cuadernos alojados son más sencillos, pero envían el contenido a un proveedor.
Estima el tamaño de tu corpus y su frecuencia de actualización: unos pocos PDF favorecen una aplicación todo en uno; un corpus grande y cambiante favorece una canalización de recuperación propiamente dicha.
Comprueba el hardware: los modelos locales necesitan memoria o GPU suficientes para el tamaño que quieras, y las representaciones vectoriales (embeddings) añaden carga.
Confirma qué formatos de documento admite y si la aplicación extrae texto, tablas y páginas escaneadas.
Comprueba si las respuestas citan los pasajes de origen, para poder verificarlas en lugar de confiar en el resumen.
Comprueba que «sin conexión» se sostiene en cada paso: la app, el modelo de embeddings y el almacén vectorial. Una app puede correr en local y aun así descargar modelos o enviar texto a un modelo alojado si no la apuntas a uno local.
Confirma qué formatos se indexan realmente —texto, PDF, DOCX, hojas y presentaciones no son iguales en todas— y si las páginas escaneadas o el audio necesitan OCR o transcripción antes.

Aplicaciones autoalojadas con chat sobre documentos

Apps que instalas y ejecutas tú mismo y que combinan un chat con carga de documentos y modelos locales. A diferencia de los runtimes siguientes, son una app terminada, no un ejecutor de modelos que aún tienes que conectar a una ventana de chat.

Productos de IA
Nombre	Empresa	Categoría	Modelo de negocio	Lanzamiento	Actualizado
Open WebUI Ejecutar modelos propios	Open WebUI	Plataformas e infraestructura	Abierto (pesos/código abierto)	2023	2026-10-10
LM Studio Ejecutar modelos propios	LM Studio	Plataformas e infraestructura	Gratis	2023	2026-10-10
Jan Ejecutar modelos propios Preguntas sobre tus documentos	Menlo Research	Plataformas e infraestructura	Abierto (pesos/código abierto)	2023	2026-10-13

Runtimes locales y modelos abiertos

Runtimes y familias de modelos abiertos que puedes emparejar con tu propia interfaz para mantener la inferencia y los datos en tu máquina. A diferencia del grupo de pipeline de abajo, sirven un modelo; no indexan, buscan ni orquestan por sí solos un corpus de documentos.

Productos de IA
Seleccionar para comparar	Nombre	Empresa	Categoría	Modelo de negocio	Lanzamiento	Actualizado	Mi lista
	Ollama Ejecutar modelos propios	Ollama	Plataformas e infraestructura	Abierto (pesos/código abierto)	2023-07	2026-10-10
	Llama Ejecutar modelos propios	Meta	Modelos abiertos	Abierto (pesos/código abierto)	2023-02	2026-09-04

Piezas para construir recuperación y canalizaciones

Componentes para equipos que quieren construir su propio pipeline de recuperación — indexación, búsqueda vectorial y orquestación — sobre documentos privados. A diferencia de los cuadernos alojados siguientes, aquí nada responde una pregunta hasta que lo montas y lo ejecutas.

Productos de IA
Nombre	Empresa	Categoría	Modelo de negocio	Lanzamiento	Actualizado
LlamaIndex Agentes de automatización Preguntas sobre tus documentos	LlamaIndex	Agentes y automatización	Abierto (pesos/código abierto)	2022-11	2026-09-10
Dify Ejecutar modelos propios Preguntas sobre tus documentos	LangGenius	Plataformas e infraestructura	Abierto (pesos/código abierto)	2023	2026-10-10
Pinecone Ejecutar modelos propios	Pinecone	Plataformas e infraestructura	Freemium	2021-01	2026-10-09
Weaviate Ejecutar modelos propios	Weaviate	Plataformas e infraestructura	Abierto (pesos/código abierto)	2019	2026-09-10
LangChain Agentes de automatización	LangChain	Agentes y automatización	Abierto (pesos/código abierto)	2022-10	2026-09-10

Cuadernos en la nube cuando no hace falta estar sin conexión

Opciones alojadas que hacen preguntas con fuentes cuando no necesitas que los datos se queden en tus propias máquinas. A diferencia de todos los grupos de arriba, son la elección solo después de decidir que lo local o autoalojado no hace falta.

Productos de IA
Seleccionar para comparar	Nombre	Empresa	Categoría	Modelo de negocio	Lanzamiento	Actualizado	Mi lista
	NotebookLM Productividad diaria	Google	Productividad	Gratis	2023-07	2026-10-10
	Glean Productividad diaria	Glean	Productividad	De pago	2021-09	2026-09-10

Lo que realmente se ejecutó

Ejecutado el 2026-10-09 en una máquina (macOS, arm64). Los registros originales están enlazados íntegros abajo.

Un documento, tres modelos abiertos pequeños, dos runtimes, las mismas cinco preguntas y los mismos ajustes. Cada respuesta original se conservó tal como se produjo. Solo se ejecutaron Ollama y llama.cpp: no se probó ningún producto alojado.

Método

Entrada: un documento fijo (input.md, SHA-256 bcd59f7e…) con cuatro datos que las preguntas piden y una pregunta que el documento no responde (la sonda de honestidad).
Prompt: idéntico para cada modelo y runtime; responder solo desde el documento y decir exactamente NOT STATED cuando el documento no lo diga.
Ajustes: temperature 0, seed 42, num_predict 200, sin streaming; una petición por pregunta, sin reintentos.
Ejecutor: scripts/run-t17-doc-qa.mjs escribe un registro JSON con marca de tiempo, la respuesta original, milisegundos de reloj, digests de los modelos y la plataforma anfitriona. Las respuestas nunca se editaron.

Registros de ejecución

Registros de ejecución
Ejecución (UTC)	Runtime	Modelos	Resultado	Registro original
2026-10-09T11:33Z	Ollama 0.40.2 (darwin/arm64, Node v24.21.0)	qwen2.5-0.5b-q4_k_m · SmolLM2-360M-Instruct-Q8_0 · TinyLlama-1.1B-Chat-Q4_K_M	3 modelos × 5 preguntas. La suma de los tiempos registrados por respuesta es 27,8 s. qwen2.5-0.5b 5/5, SmolLM2-360M 3/5, TinyLlama-1.1B 2,5/5.	docs/tests/local-document-qa/runs/2026-10-09T11-33-10-310Z.json
2026-10-09T12:19Z	llama.cpp llama-server (build b11429-d81235049) El campo runtime_version del registro está vacío.	qwen2.5-0.5b · SmolLM2-360M · TinyLlama-1.1B Los mismos tres modelos, como archivos GGUF.	Los mismos tres modelos con un runtime independiente. 14 de las 15 respuestas son idénticas byte a byte a la ejecución con Ollama. La suma de los tiempos registrados por respuesta es 9,1 s.	docs/tests/local-document-qa/runs-llamacpp/2026-10-09T12-19-04-079Z.json

Qué muestran las ejecuciones

El método se reproduce: dos runtimes independientes devolvieron 14 de 15 respuestas idénticas byte a byte, y la 15.ª solo difiere en dónde se detuvo la generación.
Las respuestas pueden calificarse contra el documento fijo, así que correcto, erróneo y evasivo se deciden comparando, no por impresión.
La sonda de honestidad separa al modelo que se abstiene del que inventa: qwen2.5-0.5b respondió NOT STATED y SmolLM2-360M produjo un número.

Fallos que se conservaron

Sonda de honestidad, SmolLM2-360M: preguntado por el máximo de participantes en una llamada de incidente —algo que el documento nunca dice— respondió «El máximo de participantes permitidos en una llamada de incidente es **2**». Un valor inventado con seguridad.
Pregunta de retención: SmolLM2-360M respondió «30 minutos» (el incremento de facturación) y TinyLlama-1.1B respondió «Infinite» (la regla de los postmortems); el documento dice 18 meses.
TinyLlama-1.1B alcanzó además el límite de 200 tokens en la pregunta de escalado (done_reason «length») y rellenó la respuesta con datos no relacionados de otras secciones.

Lo que esto no muestra

Una máquina, tres modelos pequeños (0,5B–1,1B), un documento corto, cinco preguntas. Es una comprobación del método, no una medición de ningún producto.
LM Studio, Jan, Open WebUI, NotebookLM y todos los chats de documentos alojados no se ejecutaron, y esta página no publica ningún resultado medido sobre ellos.
Ocho invocaciones fallidas de llama.cpp se conservan sin editar en runs-llamacpp/attempts/: sus respuestas vacías o solo con el banner vienen de banderas de CLI equivocadas, no del comportamiento del modelo, y no se usan como resultados.
Los tiempos de reloj son específicos de esta máquina y no son comparables entre productos.

Coste. Sin cuenta, sin clave de API, sin plan de pago: pesos abiertos en local. El coste medido fue la electricidad de hacer funcionar la máquina; no se registró ningún importe medido, así que no se publica ninguno.

Método, entradas y salidas originales

Cada etiqueta es la ruta del archivo en el repositorio de origen; el enlace abre una copia idéntica byte a byte publicada en este sitio (la primera entrada abre el índice de todas las copias), así que el registro puede leerse sin acceso al repositorio.

Lo que no se ejecutó

LM Studio · Jan · Open WebUI · NotebookLM · Glean

Estos productos no se ejecutaron: algunos requieren cuenta o plan de pago, y en esta ronda tampoco se hizo ninguna ejecución de preguntas sobre documentos con las apps autoalojadas. Esta página informa de comportamiento documentado, nunca de un resultado medido.

Tu siguiente paso

Todos los enlaces mantienen la evidencia: el índice muestra cada valor con su fuente y la fecha de comprobación.

Preguntas frecuentes

¿Esta guía clasifica las herramientas locales de documentos?

No. Agrupa los productos indexados según el papel que cumplen en una configuración privada de preguntas y respuestas y no asigna puntuaciones. No publica resultados de referencia ni de calidad.

¿Es realmente privado preguntar a documentos locales?

Solo si todos los componentes permanecen locales. Algunas aplicaciones «locales» siguen llamando por defecto a un modelo en la nube, y algunos runtimes pueden descargar modelos de internet. Comprueba la configuración por defecto de cada herramienta antes de dar por hecha la privacidad.

¿Necesito una GPU?

No siempre. Los modelos pequeños cuantizados pueden ejecutarse en CPU, pero la velocidad y el tamaño de modelo utilizable mejoran con más memoria o una GPU. Consulta la documentación de hardware de la herramienta para tu plataforma.

¿Puede una canalización local igualar a un motor de respuestas alojado?

Depende del modelo, de la calidad de la recuperación y de los documentos. Las configuraciones locales cambian parte de la comodidad y de la escala del modelo por control, privacidad y funcionamiento sin conexión.

¿Cómo compruebo una respuesta en una app local de documentos?

Abre el pasaje al que apunta la respuesta y léelo, en lugar de aceptar el resumen. Si la app solo nombra el documento y no el pasaje, trata la respuesta como una pista. Algunas apps locales también muestran los fragmentos recuperados, lo que agiliza la comprobación.

Guías relacionadas

Plataformas e infraestructura de IA

Comparaciones relacionadas

Ollama vs LM Studio vs Jan

Fuentes y fechas de los registros

Las fechas indican actualizaciones del índice, no pruebas independientes. Consulta la documentación enlazada para funciones y precios actuales.