La donnée devient un risque dès qu'on veut l'exposer trop vite à l'IA
Pour un Chief Data Officer, l'IA augmente l'urgence de sujets déjà connus : qualité des sources, droits d'accès, lineage, données personnelles, certification documentaire. Un assistant interne branché trop vite sur de mauvaises données produit simplement de mauvaises décisions plus vite.
Le modèle compte, mais la fiabilité dépend d'abord des sources autorisées et de la manière dont elles sont exposées.
"La valeur de l'assistant dépendait moins du modèle que de la qualité des sources autorisées."
Un bon assistant sur de mauvaises sources produit une mauvaise décision plus vite
Un RAG sur données pauvres aggrave le problème. Il donne une réponse confiante, parfois sourcée, mais fondée sur des contenus obsolètes, contradictoires ou accessibles au mauvais public.
Les risques ne sont pas abstraits. Ils apparaissent dans le quotidien des équipes :
- RAG sur données pauvres
- droits mal propagés
- lineage absent
- données personnelles exposées
Le vrai risque dépasse l'hallucination. C'est la perte de confiance dans l'ensemble du dispositif data quand les premières réponses importantes se révèlent fragiles.
Traiter la qualité des sources avant de parler d'assistant interne
La bonne réponse ne consiste pas à ouvrir un lac de données aux assistants IA sans politique de contexte. Elle consiste à installer une gouvernance data adaptée aux usages IA : classification, lineage, qualité et accès contextualisé. Cette approche garde l'ambition, mais elle impose une discipline simple : chaque usage IA doit produire un livrable, une métrique, un propriétaire et une décision explicite de continuation ou d'arrêt.
1. Classer les données utilisables par l'IA
Le catalogue data IA doit classer ce qui peut être exposé, à qui, pour quel usage et avec quel niveau de confiance. Toutes les sources ne méritent pas d'entrer dans un assistant, même si elles existent dans le SI.
- Décision attendue : choisir le périmètre pilote et ce qui restera hors champ.
- Preuve attendue : une mesure avant déploiement, même imparfaite.
- Anti-pattern : lancer un assistant généraliste sans workflow prioritaire.
2. Prioriser les jeux à forte valeur
La priorité doit aller aux jeux de données ou corpus qui combinent valeur, qualité et droits maîtrisés. Un domaine documentaire bien certifié vaut mieux qu'un assistant généraliste sur un lac de données incertain.
La politique de contexte précise quelles sources peuvent être utilisées, comment les citations sont affichées et ce que l'assistant doit refuser.
3. Mettre en place RAG et permissions
Les permissions doivent être héritées ou explicitement recalculées. Un assistant ne doit pas voir plus que l'utilisateur, même si la couche RAG rend l'accès techniquement facile.
Les contrôles d'accès doivent être testés comme une fonctionnalité critique : cas autorisés, cas interdits, logs, révocation, audit.
4. Suivre qualité et dérives
Le pilote doit être confronté à la qualité réelle du patrimoine data. On suit les sources certifiées, le taux d'hallucination détectée, le temps d'accès à la donnée et les incidents de droits. Le livrable de pilotage : indicateurs qualité.
| Étape | Livrable | Signal de qualité |
|---|---|---|
| Cadrage | catalogue data IA | Baseline sources certifiées disponible |
| Responsabilité | politique de contexte | Validateur humain nommé |
| Contexte | contrôles d'accès | Sources et droits explicités |
| Pilotage | indicateurs qualité | Décision go/stop à date fixe |
:::
Ce qui change quand les permissions et la fiabilité sont enfin visibles
Quand permissions et fiabilité deviennent visibles, les métiers comprennent pourquoi certaines réponses sont possibles et d'autres refusées. Cette transparence crée plus de confiance qu'une réponse toujours disponible.
Le pilotage doit suivre les hallucinations détectées, les sources certifiées, les incidents de droits et le temps d'accès à la donnée fiable. C'est le tableau de bord minimum du CDO.
Un pilote documentaire qui prouve d'abord la qualité des sources
Le pilote doit choisir un domaine documentaire limité et certifier les sources avant d'ouvrir l'accès. On teste ensuite la traçabilité, les refus et la qualité des réponses.
Pour ce thème, le pilote doit contenir cinq éléments :
- un sponsor capable d'arbitrer les priorités ;
- un propriétaire opérationnel du workflow ;
- un jeu de données ou de cas réels relié à contrôles d'accès ;
- une règle claire sur les usages interdits ;
- une date de revue avec décision de continuation ou d'arrêt.
Cette approche prouve la qualité des sources avant de promettre un assistant d'entreprise.
Les signaux à vérifier avant d'ouvrir plus largement l'accès
Avant d'ouvrir plus largement, le CDO doit vérifier la qualité des citations, la propagation des droits, la capacité à retirer une source et la gestion des réponses incertaines.
Un assistant qui répond à tout n'est pas mature. Un assistant qui sait refuser proprement inspire davantage confiance.
Qu'est-ce qui rend une source admissible dans un assistant interne ?
Le catalogue data IA doit préciser sa qualité, son niveau de confiance, les publics autorisés et l'usage prévu. Un domaine documentaire limité et certifié vaut mieux qu'un accès large à des contenus contradictoires.
Comment le RAG doit-il respecter les permissions existantes ?
Les droits sont hérités ou explicitement recalculés afin que l'assistant ne voie jamais plus que l'utilisateur. Les cas autorisés, refusés, la révocation, les logs et l'audit doivent être testés comme une fonctionnalité critique.
Pourquoi la capacité à refuser une réponse est-elle un signe de maturité ?
Un refus explicite protège l'utilisateur lorsque la source est incertaine, non autorisée ou insuffisante. Répondre à tout masque les limites du patrimoine data et fragilise la confiance.
Quel tableau de bord minimum le CDO doit-il suivre ?
Il combine sources certifiées, hallucinations détectées, temps d'accès à la donnée fiable et incidents de droits. La qualité des citations et la capacité à retirer une source complètent la décision d'ouverture.
Les sources certifiées restent la meilleure ligne de défense
Les sources certifiées restent la meilleure ligne de défense. Plus leur part augmente dans les usages IA, plus l'organisation peut ouvrir l'accès sans perdre le contrôle.