RAG para empresas: 5 preguntas antes de montar un asistente con tus documentos

Un RAG (generación aumentada por recuperación) es un asistente que busca en tus documentos y responde citando de dónde sale cada dato. Es de lo más pedido en IA para empresas. Tras medir uno durante semanas, estas son las cinco preguntas que haría antes de gastar un euro.

1. ¿Qué preguntas va a recibir?

Escribe 30-100 preguntas reales y, para cada una, el documento que debería salir. Sin eso no hay forma de saber si funciona. Yo usé 93 preguntas con su artículo esperado.

2. ¿Encuentra el documento correcto?

Casi todos los fallos vienen de la búsqueda, no del modelo. En mi prueba, añadir un reranker subió la cobertura unos 8 puntos, más que un grafo de conocimiento (lo cuento aquí).

3. ¿Sabe decir «no lo sé»?

Es el riesgo más serio. En mi prueba el modelo no se abstuvo en ninguna de 80 respuestas, ni siquiera cuando el documento correcto no estaba. Hay que poner un umbral y medirlo.

4. ¿Dónde viven los datos?

Si hay datos personales o información sensible, un LLM local evita enviarlos fuera. Tiene un coste en velocidad y calidad: comparé tres modelos pequeños sin GPU. Y conviene revisar el marco de RGPD y ENS.

5. ¿Necesito un grafo?

Normalmente no al empezar. Un grafo ayuda en preguntas que encadenan varios documentos, pero cuesta construirlo. Primero un buen buscador híbrido con reranker; después, si las preguntas lo piden, el grafo.

En resumen

Un RAG útil no empieza por el modelo: empieza por las preguntas de prueba. Si quieres que revise el tuyo o plantear uno, agenda un diagnóstico.