Una base de conocimiento RAG en la empresa no es subir todo el disco a una base de datos vectorial. Es una capa de ingenieria con cuatro partes: fuentes curadas, fragmentacion correcta de documentos, recuperacion hibrida con reordenacion y aplicacion de permisos. Segun los informes de proveedores de 2026, entre el 70% y el 80% de los proyectos RAG empresariales nunca llegan a produccion, y la mayoria de los fallos se originan en las capas de ingesta y recuperacion, no en el modelo. Esta guia desglosa las cuatro capas y propone un plan de 90 dias.
Por que mueren la mayoria de los proyectos RAG antes de produccion
El patron se repite. Un equipo construye un piloto en dos semanas, la demo impresiona, y despues el sistema se encuentra con la realidad de la organizacion y se desmorona. Un estudio de 2026 de MLOps Community sobre 143 despliegues RAG empresariales encontro que el 73% sufrio al menos un fallo critico en su primer trimestre en produccion, y que el 41% de esos fallos nunca fue detectado por las suites de evaluacion estandar.
La causa casi nunca es la eleccion del modelo. La estimacion mas citada del sector es que el 80% de los fallos de RAG se remontan a la capa de ingesta y fragmentacion. Dicho de otro modo: cuando el sistema devuelve una respuesta incorrecta, en la mayoria de los casos al modelo se le entrego el pasaje equivocado de partida. Esa distincion importa porque cambia el destino del presupuesto: no una mejora de modelo, sino ingenieria de recuperacion.
La implicacion presupuestaria: en 2026 RAG no es un problema de modelo, es un problema de ingenieria de recuperacion. Mejorar la fragmentacion y la reordenacion produce un salto de precision mayor que pasar a un modelo mas caro, y con un coste de operacion muy inferior. Si estas siguiendo la economia unitaria de un proyecto de IA, esa es la diferencia entre un coste variable que escala con el uso y una inversion puntual en infraestructura.
Las cuatro capas de una base de conocimiento empresarial
| Capa | Que hace | Fallo habitual |
|---|---|---|
| Fuentes y metadatos | Que documentos entran, quien es su propietario, cuando se actualizaron por ultima vez | Ingerirlo todo de golpe, incluidas versiones caducadas y borradores |
| Fragmentacion | Dividir los documentos en los pasajes que el modelo recibe como contexto | Una unica regla de fragmentacion para cada tipo de documento, que rompe tablas y secciones |
| Recuperacion y ordenacion | Encontrar los pasajes relevantes y devolver los mejores | Apoyarse solo en busqueda vectorial, sin coincidencia por palabra clave |
| Permisos | Garantizar que un usuario solo ve lo que tiene permitido ver | Comprobar los permisos en la interfaz en lugar de en el momento de la recuperacion |
Como fragmentar documentos correctamente
La fragmentacion es la decision que mas afecta a la precision, y tambien la que la mayoria de los equipos toma por defecto. Tres familias de metodos son relevantes en 2026:
| Metodo | Mas adecuado para | Tamano recomendado |
|---|---|---|
| Recursivo por caracteres de tamano fijo | Prosa corrida, documentos de politica, descripciones de procesos | 256-512 tokens para preguntas factuales |
| Fragmentacion semantica | Documentos tecnicos, especificaciones, documentacion de producto | 512-1024 tokens para tareas analiticas |
| Late chunking | Documentos largos donde el contexto cruza los limites de seccion | Primero se incrusta el documento completo y despues se divide |
Una regla practica: un fragmento debe contener una respuesta completa a una sola pregunta. Si a un empleado se le entregara ese pasaje en papel, podria responder sin consultar nada mas? Si no, el fragmento es demasiado corto. Si el pasaje cubre tres temas distintos, es demasiado largo y a la busqueda vectorial le costara enfocarlo.
Dos errores recurrentes: romper tablas por la mitad, lo que convierte los datos numericos en ruido, y perder el encabezado jerarquico. La solucion al segundo es barata: anteponer a cada fragmento una linea de contexto con el nombre del documento, la seccion y la fecha.
Recuperacion hibrida y reordenacion
La busqueda vectorial por si sola se pierde exactamente lo que las organizaciones preguntan: numeros de pieza, nombres de cliente, codigos de error, clausulas contractuales. Son cadenas exactas que la incrustacion semantica difumina. Por eso la recuperacion hibrida, que combina incrustaciones densas con coincidencia por palabra clave al estilo BM25, sigue superando a la busqueda solo densa en la mayoria de tipos de documento empresarial.
La estructura que se ha convertido en punto de partida habitual: recuperar 20 candidatos, reordenarlos con un modelo reranker y pasar los cinco mejores al LLM. La reordenacion es el paso con mayor retorno respecto al esfuerzo, porque corrige errores de recuperacion sin tocar la capa de fragmentacion.
Permisos: la capa que todo el mundo aplaza
Aqui es donde mueren los pilotos. En un piloto todo el mundo ve todo, y despues llega el momento en que un agente de soporte no debe ver documentos de nomina. Si los permisos solo se aplican en la interfaz, la recuperacion sigue leyendo el documento y el modelo puede seguir citandolo. La aplicacion tiene que ocurrir en el momento de la recuperacion, como filtro de metadatos, antes de que ningun pasaje llegue al modelo.
En la practica: cada fragmento lleva los identificadores de grupo autorizados a verlo, y la consulta filtra por ellos. Eso es tambien lo que hace auditable el sistema, porque puedes mostrar exactamente que documentos alimentaron cada respuesta.
Como medir que el sistema funciona
Alrededor del 70% de los equipos que operan RAG en produccion no mide de forma sistematica la calidad de la recuperacion. Por eso los fallos pasan desapercibidos. El marco aceptado es la triada RAG, tres ejes que puedes ejecutar automaticamente contra un conjunto fijo de preguntas:
| Eje | La pregunta que comprueba | Que hacer si esta bajo |
|---|---|---|
| Relevancia del contexto | Encontro la recuperacion los documentos correctos? | Corregir la fragmentacion, anadir recuperacion hibrida |
| Fundamentacion | Esta la respuesta realmente respaldada por los pasajes recuperados? | Endurecer el prompt, exigir citacion de la fuente |
| Relevancia de la respuesta | Responde la respuesta a lo que se pregunto? | Descomponer las preguntas de varios saltos |
Un punto debil conocido: el 71% de los sistemas RAG en produccion falla en preguntas de varios saltos, las que exigen combinar informacion de dos documentos distintos. Si ese es tu caso de uso central, construye el conjunto de evaluacion en torno a el desde el primer dia, y no en torno a preguntas factuales simples que siempre pasan.
Lo que distingue a los equipos que llegan a produccion: un conjunto de evaluacion documentado, versionado y ejecutado automaticamente cada noche. Sin el, cada cambio en la fragmentacion o en el prompt es una apuesta, y no puedes saber si mejoraste algo o lo rompiste.
Un plan de 90 dias
Dias 1-30: elige un caso de uso con una audiencia definida. Mapea solo los 50 a 200 documentos relevantes, purga versiones caducadas y asigna a cada documento un propietario y una fecha de ultima actualizacion. En paralelo, escribe 40 preguntas reales que el equipo hace de verdad, con respuestas aprobadas. Ese es tu conjunto de evaluacion.
Dias 31-60: construye la tuberia: fragmentacion, incrustacion, recuperacion hibrida, reordenacion y filtro de permisos. Ejecuta el conjunto de evaluacion y registra una puntuacion de referencia en los tres ejes. Mejora la fragmentacion y la ordenacion hasta que la relevancia del contexto se estabilice.
Dias 61-90: abrelo a un grupo piloto real, registra cada pregunta junto con los pasajes recuperados y anade un boton de feedback. Las preguntas fallidas pasan a engrosar el conjunto de evaluacion. Solo cuando las metricas se mantengan estables dos semanas seguidas conviene ampliar a mas fuentes.
Preguntas frecuentes
Cuantos documentos hacen falta para empezar un proyecto RAG empresarial?
Muchos menos de los que se supone. Un unico caso de uso queda bien cubierto con 50 a 200 documentos limpios y actuales. Ingerir decenas de miles de documentos al principio baja la precision, porque las versiones caducadas y los borradores compiten por las mismas plazas de recuperacion.
Cual es el tamano de fragmento recomendado?
Entre 256 y 512 tokens para preguntas factuales, y entre 512 y 1024 tokens para tareas analiticas. La regla practica: un fragmento debe contener una respuesta completa a una sola pregunta, sin romper tablas y sin perder el encabezado de seccion.
Por que no basta con la busqueda vectorial?
Porque difumina cadenas exactas como numeros de pieza, codigos de error y nombres de cliente. La recuperacion hibrida, que combina incrustaciones con coincidencia por palabra clave al estilo BM25, da mejores resultados en casi todos los tipos de documento empresarial.
Como se garantiza que un usuario nunca vea un documento que no le corresponde?
Aplicando los permisos en el momento de la recuperacion y no en la interfaz. Cada fragmento lleva los identificadores de grupo autorizados a verlo, y la consulta filtra por ellos antes de que ningun pasaje llegue al modelo.
Cuanto se tarda en llegar a produccion?
Un unico caso de uso enfocado puede llegar a un piloto real en unos 90 dias: un mes para mapear fuentes y construir el conjunto de evaluacion, un mes para construir y ajustar la tuberia, y un mes de piloto con feedback real.