Assistants internes avec IA : répondre avec des sources à jour et autorisées

Un assistant interne avec IA peut accélérer la consultation de procédures, de politiques et de données opérationnelles. Toutefois, le connecter à tous les dossiers, e-mails et bases de connaissances ne transforme pas ce contenu en information fiable. Le problème survient lorsqu’il répond à partir d’un brouillon, d’une version déjà remplacée ou d’un document auquel la personne qui pose la question ne devrait pas avoir accès.

La priorité n’est pas que l’assistant réponde systématiquement, mais qu’il fournisse des informations autorisées, à jour et vérifiables. Pour y parvenir, il est utile de créer une liste d’admission des sources avant de lancer l’automatisation : chaque source doit avoir un responsable, un statut de confiance, des autorisations définies et une règle de mise à jour ou de retrait.

Le risque ne consiste pas seulement à inventer une réponse

Une réponse incorrecte ne provient pas toujours d’une invention du modèle. Elle peut aussi résulter de la récupération d’un contenu réel mais inapproprié : une procédure historique, un e-mail informel qui contredit une politique ou des données confidentielles d’une autre équipe. Dans les systèmes fondés sur la récupération documentaire, les faiblesses liées aux vecteurs et aux embeddings peuvent inclure des contrôles d’accès mal alignés, des fuites entre contextes, des conflits entre sources et du contenu contaminé. [3]

C’est pourquoi le périmètre doit être défini avant de choisir un outil. Décidez quelles demandes l’assistant peut traiter, quels référentiels sont exclus et quelles actions il ne peut pas exécuter seul. Si une réponse peut approuver, modifier ou envoyer un élément ayant un impact opérationnel, l’assistant doit se limiter à préparer les informations et transmettre la décision à une personne autorisée.

• Traitez les procédures approuvées et à jour comme des sources prioritaires.
• Classez les brouillons, les documents historiques et les contenus externes comme des contenus de confiance moindre, ou excluez-les.
• Évitez que l’assistant exécute des actions sensibles sans contrôle humain.

Appliquez une liste d’admission à chaque source

La première étape pratique consiste à inventorier chaque dossier, base de connaissances, CRM ou boîte mail partagée que vous souhaitez connecter. Pour chaque source, consignez le responsable métier, sa finalité, la date de dernière révision, le statut — approuvée, brouillon, historique ou externe —, les groupes qui y ont accès et le critère d’archivage ou de retrait. Si personne ne peut identifier qui maintient un document, celui-ci ne devrait pas alimenter de réponses automatiques.

Cette classification évite que le référentiel soit traité comme un bloc homogène. Une procédure publiée par le service responsable peut répondre à une question opérationnelle ; un e-mail transféré peut tout au plus servir à repérer un contexte qu’une personne devra valider. Exemple hypothétique : si une entreprise conserve deux politiques de voyage, l’assistant doit prioriser celle qui est marquée comme en vigueur et afficher sa version, sans les combiner pour produire une nouvelle règle.

• Attribuez un responsable fonctionnel, et pas seulement un administrateur technique.
• Définissez une date de révision et une date d’expiration pour les sources critiques.
• Distinguez clairement le contenu approuvé du contenu historique, provisoire ou reçu de tiers.

Conservez les autorisations lors de la récupération des documents

Les autorisations de l’application source doivent accompagner le contenu jusqu’à l’index de recherche et être appliquées à chaque requête. Un schéma de filtrage de sécurité utilise l’identité et les groupes de la personne pour exclure les documents non autorisés, mais ce filtrage ne remplace ni l’authentification ni l’autorisation générale de l’application. [2]

Il ne suffit pas de masquer des liens dans l’interface. Vérifiez la récupération avec des profils réels et distincts, par exemple l’administration, les opérations et la direction. Posez la même question depuis chaque profil et examinez quels documents sont récupérés avant de générer la réponse. L’objectif est que l’assistant n’étende pas les autorisations existantes et n’utilise pas une source à laquelle la personne utilisatrice n’aurait pas directement accès.

• Indexez les métadonnées d’utilisateur, de groupe et de niveau d’accès lorsqu’elles sont nécessaires au filtrage.
• Examinez les changements d’arrivées, de départs et de mobilités d’équipe dans les autorisations sources.
• Consignez les défaillances détectées lors des tests et corrigez la source des autorisations, pas seulement la réponse visible.

Empêchez le contenu non fiable de devenir des instructions

Les e-mails, les fichiers téléversés par les utilisateurs, les pages web copiées et les documents de tiers peuvent contenir du texte qui tente de modifier le comportement prévu de l’assistant. Ils doivent être traités comme des données à analyser, jamais comme des instructions de contrôle. OWASP recommande de séparer et d’identifier le contenu non fiable, d’appliquer le principe du moindre privilège aux outils connectés et d’exiger une approbation humaine pour les actions à fort impact. [1]

La protection dépend également de la mise à jour. Une modification d’un document ou de ses étiquettes peut ne pas être reflétée dans un index avant qu’une nouvelle indexation correcte ne soit terminée. Définissez donc une fréquence de synchronisation adaptée à la criticité de la source et une règle de retrait des contenus obsolètes pendant la mise à jour. [5]

• Conservez les instructions système séparées des documents récupérés.
• Limitez les outils et les données à ce qui est strictement nécessaire pour chaque cas d’usage.
• Marquez le contenu externe ou téléversé par les utilisateurs afin qu’il ne rivalise pas avec les sources approuvées.

Exigez des preuves et concevez une procédure d’abstention

Pour les demandes portant sur des processus internes, la réponse devrait inclure une brève explication, le nom du document ou de l’enregistrement utilisé, ainsi que sa date ou sa version. En l’absence de preuves suffisantes, la réponse appropriée consiste à indiquer qu’aucune source à jour n’a été trouvée. Cette traçabilité permet à la personne de détecter une référence ancienne et à l’équipe responsable de corriger la source documentaire.

Avant d’ouvrir l’assistant à toute l’entreprise, créez une batterie de tests courte et reproductible : des questions portant sur des procédures à jour, des versions obsolètes, des sources contradictoires, des données qu’un profil ne doit pas consulter et des sujets sans documentation. Mesurez s’il cite une source valide, si cette citation étaye réellement la réponse, s’il s’abstient lorsque c’est nécessaire et s’il transmet les cas sensibles. Le NIST propose de documenter la supervision humaine et d’établir des processus répétables de test, d’évaluation, de vérification et de validation. [4]

• Affichez la source, la version et la date lorsque l’assistant répond à propos d’un processus.
• Configurez le transfert à une personne en cas de conflit, de manque de preuves ou d’informations sensibles.
• Répétez les tests après des changements importants touchant les sources, les autorisations, le modèle ou les flux de travail.

Questions fréquentes

Un système RAG empêche-t-il un assistant interne d’utiliser des informations incorrectes ?

Non, pas à lui seul. La récupération documentaire peut fournir du contexte, mais la qualité dépend des sources admises, de leurs autorisations, de leur actualité et de l’évaluation des résultats. Il faut également séparer le contenu non fiable et prévoir un contrôle humain pour les cas sensibles.

Que doit faire l’assistant s’il trouve deux documents contradictoires ?

Il ne devrait pas choisir une règle en fonction de son apparence ou d’une ancienneté déduite. Il doit signaler le conflit, identifier les sources disponibles et transmettre la validation au responsable défini pour ce processus. Ensuite, il est utile de corriger la classification ou de retirer la source qui n’est plus pertinente.

À quelle fréquence les sources de l’assistant doivent-elles être révisées ?

Cela dépend de la fréquence des changements de chaque processus et de son impact opérationnel. Au minimum, attribuez à chaque source une personne responsable, une date de révision et une règle d’expiration. Les sources critiques nécessitent en outre une synchronisation contrôlée et des tests après des changements importants.