Asistentes internos con IA: cómo responder con fuentes vigentes y autorizadas

Un asistente interno con IA puede acelerar la consulta de procedimientos, políticas y datos operativos. Sin embargo, conectarlo a todas las carpetas, correos y bases de conocimiento no convierte ese material en información fiable. El problema aparece cuando responde con un borrador, una versión ya reemplazada o un documento al que la persona que pregunta no debería acceder.

La prioridad no es que el asistente conteste siempre, sino que responda con información autorizada, vigente y comprobable. Para lograrlo, conviene crear una lista de admisión de fuentes antes de poner en marcha la automatización: cada origen debe tener responsable, estado de confianza, permisos definidos y una regla para actualizarse o retirarse.

El riesgo no es solo inventar una respuesta

Una respuesta incorrecta no siempre procede de una invención del modelo. También puede surgir de recuperar contenido real pero inapropiado: un procedimiento histórico, un correo informal que contradice una política o datos reservados de otro equipo. En sistemas basados en recuperación documental, las debilidades en vectores y embeddings pueden incluir controles de acceso desalineados, fugas entre contextos, conflictos entre fuentes y contenido contaminado. [3]

Por ello, el alcance debe definirse antes de elegir una herramienta. Decida qué consultas puede atender el asistente, qué repositorios quedan fuera y qué acciones no puede ejecutar por sí mismo. Si una respuesta puede aprobar, modificar o enviar algo con impacto operativo, el asistente debe limitarse a preparar información y derivar la decisión a una persona autorizada.

• Trate los procedimientos aprobados y vigentes como fuentes prioritarias.
• Clasifique borradores, documentos históricos y material externo como contenido de menor confianza o exclúyalos.
• Evite que el asistente ejecute acciones sensibles sin revisión humana.

Aplique una lista de admisión a cada fuente

El primer paso práctico es inventariar cada carpeta, base de conocimiento, CRM o buzón compartido que se quiera conectar. Para cada fuente, registre el responsable de negocio, su finalidad, la fecha de última revisión, el estado —aprobada, borrador, histórica o externa—, los grupos con acceso y el criterio de archivo o retirada. Si nadie puede identificar quién mantiene un documento, no debería alimentar respuestas automáticas.

Esta clasificación evita que el repositorio se trate como un bloque homogéneo. Un procedimiento publicado por el área responsable puede responder una duda operativa; un correo reenviado puede servir, como mucho, para localizar contexto que una persona valide. Ejemplo hipotético: si una empresa conserva dos políticas de viajes, el asistente debe priorizar la marcada como vigente y mostrar su versión, no combinar ambas para producir una regla nueva.

• Asigne un propietario funcional, no solo un administrador técnico.
• Defina una fecha de revisión y una caducidad para fuentes críticas.
• Separe claramente el contenido aprobado del histórico, provisional o recibido de terceros.

Conserve los permisos cuando recupere documentos

Los permisos de la aplicación de origen deben acompañar al contenido hasta el índice de búsqueda y aplicarse en cada consulta. Un patrón de filtrado de seguridad usa la identidad y los grupos de la persona para excluir documentos no autorizados, pero ese filtrado no sustituye la autenticación ni la autorización general de la aplicación. [2]

No basta con ocultar enlaces en la interfaz. Compruebe la recuperación con perfiles reales y diferenciados, por ejemplo administración, operaciones y dirección. Formule la misma pregunta desde cada perfil y revise qué documentos se recuperan antes de generar la respuesta. El objetivo es que el asistente no amplíe permisos existentes ni use una fuente a la que la persona usuaria no tendría acceso directo.

• Indexe metadatos de usuario, grupo y nivel de acceso cuando sean necesarios para filtrar.
• Revise cambios de altas, bajas y movimientos de equipo en los permisos de origen.
• Registre los fallos detectados en pruebas y corrija la fuente de permisos, no solo la respuesta visible.

Evite que el contenido no confiable se convierta en instrucciones

Correos, archivos cargados por usuarios, páginas web copiadas y documentos de terceros pueden contener texto que intente cambiar el comportamiento previsto del asistente. Deben tratarse como datos para analizar, nunca como instrucciones de control. OWASP recomienda separar e identificar el contenido no confiable, aplicar privilegio mínimo a las herramientas conectadas y requerir aprobación humana para acciones de alto impacto. [1]

La protección también depende de la actualización. Un cambio en un documento o en sus etiquetas puede no reflejarse en un índice hasta que se complete una nueva indexación correcta. Defina, por tanto, una frecuencia de sincronización acorde con la criticidad de la fuente y una regla para retirar contenido obsoleto mientras se actualiza. [5]

• Mantenga las instrucciones del sistema separadas de los documentos recuperados.
• Limite las herramientas y datos a los estrictamente necesarios para cada caso de uso.
• Marque el contenido externo o cargado por usuarios para que no compita con fuentes aprobadas.

Exija evidencia y diseñe una ruta de abstención

Para consultas sobre procesos internos, la respuesta debería incluir una explicación breve, el nombre del documento o registro utilizado y su fecha o versión. Si no hay evidencia suficiente, la salida adecuada es indicar que no se ha encontrado una fuente vigente. Esta trazabilidad permite que la persona detecte una referencia antigua y que el equipo responsable corrija el origen documental.

Antes de abrir el asistente a toda la empresa, cree una batería pequeña y repetible: preguntas con procedimientos vigentes, versiones obsoletas, fuentes contradictorias, datos que un perfil no debe consultar y asuntos sin documentación. Mida si cita una fuente válida, si la cita respalda realmente la respuesta, si se abstiene cuando corresponde y si deriva los casos sensibles. El NIST plantea documentar la supervisión humana y establecer procesos repetibles de prueba, evaluación, verificación y validación. [4]

• Muestre fuente, versión y fecha cuando el asistente responda sobre un proceso.
• Configure derivación a una persona ante conflictos, falta de evidencia o información sensible.
• Repita las pruebas tras cambios relevantes de fuentes, permisos, modelo o flujos de trabajo.

Preguntas frecuentes

¿Un sistema RAG evita que un asistente interno use información incorrecta?

No por sí solo. La recuperación documental puede aportar contexto, pero la calidad depende de las fuentes admitidas, sus permisos, su vigencia y la evaluación de los resultados. También debe separar contenido no confiable y prever revisión humana en casos sensibles.

¿Qué debe hacer el asistente si encuentra dos documentos contradictorios?

No debería elegir una regla por apariencia o antigüedad inferida. Debe mostrar el conflicto, identificar las fuentes disponibles y derivar la validación al responsable definido para ese proceso. Después, conviene corregir la clasificación o retirar la fuente que ya no corresponda.

¿Con qué frecuencia se deben revisar las fuentes del asistente?

Depende de cuánto cambie cada proceso y de su impacto operativo. Como mínimo, asigne a cada fuente una persona responsable, una fecha de revisión y una regla de caducidad. Las fuentes críticas requieren además una sincronización controlada y pruebas tras cambios relevantes.