RAG Seguro para Empresas: Datos, Permisos y Evaluación

Respuesta directa

Un RAG seguro no consiste solo en subir documentos a un chatbot. Hay que decidir qué fuentes entran, quién puede consultarlas, cómo se respetan permisos existentes y cómo se prueba que las respuestas citan información permitida.

La recuperación de contexto puede hacer útil un asistente interno, pero también amplifica un mal control de acceso. Un usuario no debería obtener a través de una conversación un documento que no puede abrir en el sistema original.

Qué hay que decidir antes de tocar la configuración

Decisión	Pregunta	Evidencia
Fuentes	¿Qué repositorios son válidos?	Inventario
Permisos	¿Quién ve cada fragmento?	Pruebas por rol
Calidad	¿Responde con fuente?	Conjunto evaluado
Operación	¿Qué se registra?	Logs sin exceso de datos

Plan de implementación paso a paso

1. Selecciona un caso de uso acotado y fuentes responsables.
2. Clasifica datos sensibles y aplica permisos antes de indexar.
3. Prepara preguntas reales, incluidas preguntas sin respuesta.
4. Evalúa recuperación, citas, rechazo y escalado a persona.
5. Define actualización y retirada de documentos.
6. Despliega con monitorización y canal para corregir fallos.

Evalúa respuestas que el asistente debe rechazar

Construye un conjunto de preguntas permitidas, preguntas sin fuente y preguntas que un rol no debería responder. Evalúa no solo si el texto suena correcto, sino si recupera el documento adecuado, cita el fragmento y evita revelar información de otro equipo. Repite la prueba al añadir fuentes o cambiar permisos.

Operación responsable

Establece un dueño de cada repositorio y una fecha para retirar información obsoleta. Un botón para informar una respuesta incorrecta debe llegar a alguien que pueda corregir fuente, permiso o instrucción.

Filtra los documentos antes de enviarlos al modelo

Supón que recursos humanos y ventas comparten el asistente, pero no sus carpetas. Una instrucción que diga “no reveles datos de recursos humanos” no basta si el buscador entrega esos fragmentos a cualquier usuario. La búsqueda debe aplicar la identidad y los permisos antes de construir el contexto. Prueba con documentos ficticios identificables y comprueba qué fragmentos recupera cada rol, además de leer la respuesta final.

Retira después el acceso a una carpeta y repite la consulta, incluida una conversación ya abierta. La revocación debe alcanzar índice, cachés y recuperación posterior. El historial puede conservar información que el usuario vio cuando tenía permiso: define su política de acceso y retención. Comprueba también las citas y descargas enlazadas. Un asistente que rechaza una pregunta pero permite abrir el documento citado sigue exponiendo la fuente.

Evalúa contradicciones, fuentes caducadas e instrucciones maliciosas

Prepara dos versiones de una política con fechas y estados distintos. Pregunta por la condición actual y exige que la respuesta identifique la fuente vigente. Añade una pregunta que no pueda resolverse con tus documentos: debe reconocer ese límite, sin completar la respuesta con una regla inventada. Revisa por separado si recuperó la fuente adecuada y si el texto la interpretó correctamente; cada fallo necesita una corrección diferente.

Incluye en un documento de prueba una instrucción para ignorar permisos o revelar otra carpeta. Trata ese contenido como datos, nunca como autoridad para cambiar el comportamiento del asistente. Si dispone de herramientas, limita también sus acciones fuera del buscador. Guarda los casos fallidos con fuentes ficticias y repítelos al cambiar modelo, instrucciones o repositorio. Una respuesta correcta en la demostración no garantiza que todos los roles estén protegidos.

Riesgos habituales y cómo evitarlos

• Indexar carpetas completas: aplica mínimo privilegio y selección explícita.
• Confiar en respuestas fluidas: exige fuente y revisión para usos críticos.
• Olvidar documentos obsoletos: versiona y programa reindexación.

Cuando la decisión depende de una función concreta, conviene contrastarla con la guía oficial de recuperación de OpenAI antes de desplegar. La documentación del proveedor cambia con más frecuencia que una guía general.

Cuándo pedir ayuda técnica

Cuando el asistente consulta documentación interna o atiende clientes, la seguridad forma parte del producto. Codanter diseña soluciones de IA conectadas a procesos y permisos reales.

Consulta IA para empresas, automatización y qué significa RAG con documentos.