RAG o ajuste fino para el conocimiento de empresa

Ideas clave

El RAG busca los documentos pertinentes en el momento de la pregunta y se los da al modelo, así que las respuestas pueden citar fuentes y cambiar cuando cambian los documentos.
El ajuste fino modifica los pesos del modelo, lo que sirve para un estilo y un formato coherentes y para clasificaciones acotadas, pero es una mala forma de almacenar hechos.
Los hechos incorporados a los pesos no pueden filtrarse por permisos de usuario ni borrarse de forma selectiva, lo que importa para el RGPD y para el material confidencial.
Un sistema RAG es tan bueno como su recuperación, así que pruébalo con preguntas reales y mide si se encuentra el pasaje correcto antes de juzgar las respuestas.

¿Empezar con RAG o con ajuste fino?

Usa RAG cuando tu asistente necesite documentos actuales, referencias y permisos por documento. Valora el ajuste fino cuando las pruebas demuestren que los ejemplos mejoran una tarea repetida, el estilo o el formato. Puedes combinar ambos. Primero mide un sistema de búsqueda básico para distinguir los problemas de recuperación de los de generación.

¿Cómo se comparan las opciones?

Aspecto	RAG	Ajuste fino	Meterlo todo en el prompt
Mejor para	Responder desde políticas, manuales, registros y bases de conocimiento	Tono coherente, formato de salida, clasificación y tareas acotadas	Conjuntos pequeños y fijos de documentos y experimentos rápidos
Actualizar el conocimiento	Editar el documento y reindexar	Volver a entrenar el modelo	Cambiar el prompt
Citas de las fuentes	Natural: la respuesta sale de pasajes con nombre	No disponible: el modelo no puede mostrar dónde aprendió algo	Posible, si etiquetas el texto
Control de acceso por usuario	Filtrar en la recuperación para que cada persona vea solo lo que permite su rol	No es posible: el conocimiento se comparte entre todos los usuarios	Solo construyendo un prompt distinto para cada usuario
Borrar información	Quitar el documento del índice	Sin borrado fiable por documento en los pesos compartidos	Quitarlo del prompt
Fallo típico	No se recupera el pasaje correcto	Hechos erróneos dichos con seguridad y alejamiento de tus documentos	Los prompts largos encarecen y los modelos usan peor la parte central de entradas largas

¿Cuándo elegir RAG?

Tu conocimiento cambia: tarifas, políticas, procedimientos, guías clínicas, contratos.
La gente necesita ver de dónde sale una respuesta, para comprobarla o citarla.
Personas distintas pueden ver documentos distintos.
Parte de la información debe poder retirarse, por ejemplo cuando una persona ejerce el derecho de supresión.
Quieres probar la recuperación documental antes de invertir en entrenar un modelo.

¿Cuándo tiene sentido el ajuste fino?

Necesitas que el modelo siga de forma fiable un formato de salida fijo, como una nota clínica estructurada o un esquema JSON.
Necesitas un estilo o una voz de la casa a lo largo de miles de salidas.
La tarea es acotada y repetida, como clasificar incidencias o extraer campos, y un modelo más pequeño y barato puede hacerla una vez ajustado.
Tienes suficientes ejemplos limpios y representativos, revisados por una persona que conoce el trabajo.

El ajuste fino no sustituye a una base documental fiable. Cambia el comportamiento del modelo, pero no aporta permisos por documento ni un origen verificable para los hechos aprendidos.

Por qué los hechos en los pesos son un problema de privacidad

Cuando datos personales o confidenciales entran en el entrenamiento, pueden acabar dentro del modelo de formas difíciles de encontrar y de retirar. El Dictamen 28/2024 del Comité Europeo de Protección de Datos dice que un modelo entrenado con datos personales no es anónimo de forma automática y que hay que evaluarlo caso por caso. Eso hace que ajustar un modelo con documentos llenos de datos personales sea una decisión para una evaluación de impacto de protección de datos, no un atajo técnico.

Qué contiene un buen sistema RAG

Fuentes limpias: documentos actuales y sin duplicados, con responsable y fecha, porque el sistema no puede ser mejor que los archivos.
Fragmentación según la estructura: dividir por títulos, cláusulas y tablas, no por un número arbitrario de caracteres.
Búsqueda híbrida: combinar búsqueda por palabras clave y vectorial para encontrar términos exactos, códigos y nombres además de paráfrasis.
Reordenación: una segunda pasada que ordena los pasajes candidatos según lo bien que responden a la pregunta.
Filtrado por permisos en la recuperación: el rol del usuario decide qué documentos pueden buscarse.
Citas en cada respuesta, con enlace al pasaje y al documento.
Una salida honesta: cuando la recuperación es débil, el sistema dice que no lo sabe en lugar de adivinar.
Eliminación de datos antes de la llamada al modelo y un registro de auditoría de preguntas, pasajes y respuestas.

Dónde falla el RAG

Fallo	Causa	Solución
Documento correcto, pasaje equivocado	Fragmentos demasiado grandes o pequeños	Fragmentar por estructura y probar tamaños con preguntas reales
Respuestas desactualizadas	Versiones antiguas aún indexadas	Reindexar al cambiar y mostrar las fechas de los documentos
Faltan cifras de tablas o PDF escaneados	Mal análisis del documento	Usar un analizador que conserve la estructura de las tablas y revisar a mano las páginas escaneadas
Respuesta segura que los pasajes no respaldan	El modelo rellena huecos con su propia memoria	Indicarle que responda solo desde los pasajes, exigir citas y comprobarlas
Una persona ve documentos de otro equipo	Reglas de acceso aplicadas después de la recuperación, o ausentes	Filtrar por permisos antes de buscar

¿Cómo sabes que funciona?

Reúne unas decenas de preguntas reales de quienes usarán el sistema y, para cada una, anota qué documento debería responderla. Pásalas por el sistema y comprueba dos cosas por separado: si se recuperó el pasaje correcto y si la respuesta fue correcta y fiel a él. Los problemas de recuperación y los de generación necesitan arreglos distintos, y confundirlos hace perder semanas.

Comparte los tipos de documentos y ejemplos de respuestas que necesitas. Te ayudamos a probar la recuperación y decidir si el ajuste fino aporta valor.

Planifica tu asistente documental

FAQ

¿Puede el RAG funcionar sin enviar datos fuera de la UE?

Sí. El índice vectorial, los documentos y el modelo pueden ejecutarse en la UE o en tus propios servidores. Además, los datos personales pueden eliminarse antes de que el modelo vea los pasajes.

¿Necesitamos ajuste fino para manejar la terminología de nuestro sector?

Normalmente no al principio. Un glosario, una buena recuperación e instrucciones claras cubren la mayor parte de la terminología. El ajuste fino empieza a valer la pena cuando una tarea acotada y repetida necesita un formato fijo o un modelo más barato.

¿Se pueden combinar RAG y ajuste fino?

Sí. Un patrón habitual es usar RAG para los hechos y un modelo ligeramente ajustado para el formato y el tono. Añade el segundo paso solo cuando el primero esté medido y funcionando.

Fuentes

Sobre el autor

Artem Synytskyi · Cofundador · IA

Artem dirige la IA en ESADEX y desarrolla sistemas LLM, RAG y de voz a texto para entornos regulados.

RAG o ajuste fino: cómo dar a un LLM el conocimiento de tu empresa