Shadow AI : encadrer les usages de l'IA que personne n'a déclarés

Ce que recouvre le shadow AI

On appelle shadow AI l'ensemble des usages de l'IA que l'entreprise n'a ni choisis, ni validés, ni même repérés. Un commercial qui colle un appel d'offres dans un assistant grand public pour en tirer une synthèse. Une assistante de direction qui fait traduire un courrier par un service en ligne. Un contrôleur de gestion qui demande à un chatbot de corriger une formule, en joignant le fichier entier. Un développeur qui installe une extension de complétion de code sur son poste. Aucun de ces gestes n'est malveillant. Tous partent d'une bonne intention : aller plus vite, mieux écrire, sortir d'un blocage.

Le phénomène n'a rien de nouveau. Ce qui change avec l'IA générative, c'est la nature de ce qui circule. On ne dépose plus seulement un fichier sur un espace de stockage : on confie un texte, un tableau ou un contrat à un service qui va le lire, le traiter, et parfois le conserver.

Les formes les plus courantes

• Le compte personnel sur un assistant conversationnel, utilisé depuis le poste de travail ou depuis le téléphone.
• L'extension de navigateur qui résume les pages, reformule les mails ou remplit des formulaires.
• La fonction IA activée par défaut dans un logiciel déjà utilisé, sans que personne ait relu ce qu'elle transmet.
• Le connecteur qui relie un assistant à la messagerie, à l'agenda ou à l'espace documentaire de l'entreprise.

Pourquoi l'interdiction seule ne tient pas

Le premier réflexe d'une direction qui découvre ces usages est souvent de tout bloquer. La note part, les domaines sont filtrés sur le réseau, et le sujet semble clos. En réalité, il vient de changer de place. Les usages passent sur le téléphone personnel, sur le wifi de la maison, sur un ordinateur non géré. Ils existent toujours, ils sont simplement devenus invisibles, et la personne qui en avait parlé ouvertement a appris qu'il valait mieux se taire.

L'interdiction pure a un second effet, plus coûteux : elle envoie le message que l'entreprise ne s'intéresse pas au gain de temps que ses équipes ont trouvé. Or ces usages spontanés sont la meilleure cartographie des besoins que vous aurez jamais. Ils disent où le travail frotte, quelles tâches pèsent, quels documents reviennent sans cesse. Les faire disparaître, c'est jeter l'information la plus utile pour décider où investir.

Il y a bien des usages à arrêter, et nous y venons. La position qui tient dans la durée consiste à fixer des limites nettes sur les données, puis à proposer une voie officielle assez bonne pour que personne n'ait envie de la contourner.

Les risques réels, sans dramatiser

L'ANSSI, dans ses recommandations de sécurité pour un système d'IA générative publiées en avril 2024, résume bien le problème : envoyer des informations à un service d'IA générative grand public revient à les déposer sur un espace de stockage qui appartient au prestataire. Le cloisonnement entre clients et la confidentialité des données reposent alors sur la seule confiance envers ce prestataire. L'agence rappelle aussi que, dans la plupart des offres, les données envoyées peuvent servir à améliorer les modèles.

Sa recommandation R34 est sans ambiguïté : proscrire l'usage d'outils d'IA générative sur Internet pour un usage professionnel impliquant des données sensibles. Le guide cite notamment les données personnelles, les données contractuelles, juridiques ou financières de l'entreprise, et les secrets informatiques comme les mots de passe ou les clés d'API.

Quatre familles de risques à garder en tête

• La fuite de données : un fichier client, une grille tarifaire, un projet de contrat qui sort du périmètre de l'entreprise.
• Les droits trop larges : un assistant connecté à la messagerie ou à l'espace documentaire, avec des autorisations que personne n'a relues.
• La qualité des réponses : un chiffre inventé, une clause mal résumée, une traduction fautive qui part chez un client sans relecture.
• La dépendance : un processus qui repose en silence sur un compte personnel, et qui s'arrête le jour où la personne change de poste.

Ces risques ne justifient pas la panique. Ils justifient un cadre. La plupart des usages que vous allez découvrir ne touchent aucune donnée sensible, et peuvent continuer tels quels, parfois avec un meilleur outil.

Recenser les usages sans chasse aux sorcières

Vous ne pouvez pas encadrer ce que vous ne voyez pas. Le recensement est donc la première étape, et c'est celle qui se rate le plus souvent. Si les équipes pensent que l'exercice sert à désigner des coupables, elles répondront ce qu'elles pensent qu'on veut entendre, c'est-à-dire rien.

Annoncer une période de déclaration sans reproche

La direction annonce clairement que l'objectif est de comprendre, et qu'aucun usage déclaré pendant cette période ne sera reproché à qui que ce soit. Cette promesse doit être tenue, y compris quand un usage déclaré pose un vrai problème. On corrige l'usage, on ne sanctionne pas la personne qui l'a signalé.

Poser des questions concrètes

Un questionnaire qui demande « utilisez-vous l'IA ? » produit des réponses inutilisables. Mieux vaut demander, tâche par tâche : pour quoi faites-vous appel à un outil d'IA, avec quel outil, quel type de document y mettez-vous, et que faites-vous du résultat.

Compléter par des ateliers courts

Réunir une équipe autour d'une question simple, « montrez-nous ce que vous faites avec ces outils », donne souvent plus que le questionnaire. Les gens montrent volontiers une astuce dont ils sont fiers. C'est l'occasion de repérer les usages brillants à généraliser, et ceux qui exposent des données sans que la personne s'en rende compte.

Regarder les signaux techniques, avec mesure

Votre service informatique peut observer, de façon agrégée, les domaines d'IA les plus consultés depuis le réseau, les extensions installées sur les postes gérés et les connecteurs autorisés dans vos outils bureautiques. Cet état des lieux sert à compléter les déclarations, jamais à surveiller des individus. Si vous l'utilisez, dites-le, et associez vos représentants du personnel et votre délégué à la protection des données dès le départ.

Classer ce que vous trouvez

Au terme du recensement, vous disposez d'une liste d'usages réels. Plutôt que de trancher cas par cas, classez-les en trois groupes.

• À encourager : l'usage ne touche aucune donnée sensible et fait gagner du temps. Reformuler un texte générique, préparer un plan de présentation, expliquer une notion. On le documente et on le partage.
• À outiller : l'usage est utile, mais il passe aujourd'hui par un outil inadapté ou manipule des données qui ne devraient pas sortir. La synthèse de contrats, l'analyse de fichiers clients, la traduction de documents internes. On lui trouve une voie officielle.
• À arrêter : l'usage expose des données sensibles sans bénéfice qui le justifie, ou confie à l'outil une décision qui doit rester humaine. On l'arrête, en expliquant pourquoi.

Ce classement a un avantage : il montre aux équipes que la majorité de ce qu'elles font est accepté, et que le cadre vise un petit nombre de cas précis.

Une charte courte, que les gens lisent

La CNIL, dans ses questions-réponses sur l'utilisation d'un système d'IA générative publiées en juillet 2024, recommande d'encadrer ces usages par des politiques ou chartes internes qui définissent clairement les usages autorisés et les usages interdits. Le mot important est « clairement ». Une charte de trente pages rédigée par le service juridique ne sera lue par personne. Une page recto verso, écrite dans la langue des équipes, sera affichée et relue.

Ce que la charte doit contenir

• La liste des outils autorisés, et la manière d'y accéder.
• La liste des données qui ne sortent jamais, avec des exemples tirés de votre activité.
• La règle de relecture : tout contenu produit par un outil d'IA et envoyé à l'extérieur est relu par une personne qui en répond.
• Les décisions qu'on ne confie jamais à un outil : un prix, un engagement contractuel, une appréciation sur une personne.
• La marche à suivre pour proposer un nouvel usage ou un nouvel outil.
• Le nom d'un interlocuteur à qui poser ses questions.

Sur les décisions et les engagements, la charte peut s'appuyer sur ce que nous appliquons dans nos propres projets : ce qui engage l'entreprise est calculé et vérifié par un système maîtrisé, jamais produit librement par un modèle. Pour la dimension réglementaire, notre article sur ce que l'AI Act impose déjà à une PME détaille les obligations qui s'ajoutent à la charte.

Des outils officiels à la hauteur

Une charte qui interdit sans proposer d'alternative ramène directement au point de départ. Si l'outil officiel est plus lent, moins bon ou plus compliqué que l'assistant personnel, les équipes retourneront vers l'assistant personnel. La voie officielle doit donc être au moins aussi pratique que ce qu'elle remplace.

Choisir l'outil à partir des usages recensés

C'est ici que le recensement paie. Vous savez quels usages sont les plus fréquents, et lesquels touchent des données sensibles. Ce sont eux qui dictent le choix : un assistant conversationnel dans une offre professionnelle dont les conditions excluent la réutilisation de vos données, un outil de traduction dont l'hébergement est connu, ou un outil métier construit pour un cas précis quand le besoin le justifie. La question de l'hébergement, en France ou chez un hyperscaler, est traitée dans notre article sur l'hébergement d'un projet IA en France.

Relire les droits dès l'activation

Beaucoup d'outils professionnels proposent des connexions à la messagerie, à l'agenda ou aux documents partagés. L'ANSSI recommande (R35) de revoir les droits d'accès des outils d'IA générative dès leur activation, pour vérifier que les réglages par défaut ne sont pas trop ouverts, puis de refaire cette revue régulièrement, les mises à jour du produit pouvant modifier les accès. C'est un point que nos équipes sécurité et conformité IA contrôlent systématiquement avant une mise en service.

Suivre la dépense

Donner des accès officiels a un coût, et ce coût dérive vite si personne ne le suit. Les licences non utilisées, les usages facturés à la consommation, les doublons entre services méritent un pilotage dès le départ. Notre cadre de pilotage des coûts de l'IA part justement d'une cartographie des usages, la même que celle que vous venez de construire.

Les règles sur les données, en pratique

La règle la plus importante de tout le dispositif tient en une phrase : certaines données ne sortent jamais de l'entreprise vers un outil que vous ne maîtrisez pas. Encore faut-il que chacun sache les reconnaître.

Donner des exemples tirés de votre métier

« Données sensibles » ne dit rien à un commercial pressé. « Le fichier des remises accordées aux clients », « un bulletin de paie », « un projet de contrat avant signature », « un identifiant de connexion » lui parle immédiatement. Chaque service peut établir sa propre liste de quelques exemples, validée par la direction.

Apprendre à anonymiser, quand c'est possible

Beaucoup d'usages restent utiles une fois les noms, montants et références retirés. Demander de l'aide pour structurer une réponse à un client mécontent ne nécessite ni le nom du client ni le montant du litige. Ce réflexe s'apprend vite, et il élargit fortement ce qui peut être fait sans risque.

Prévoir le cas de l'erreur

Quelqu'un finira par coller le mauvais fichier. La charte doit dire quoi faire à ce moment-là : prévenir qui, dans quel délai, et sans crainte d'être sanctionné pour avoir signalé. Une erreur déclarée tout de suite se traite, surtout si elle touche des données personnelles et qu'une notification peut être nécessaire. Une erreur cachée devient un incident.

Former, puis revenir régulièrement

La CNIL recommande de familiariser les utilisateurs finaux avec le fonctionnement et les limites des outils, et de les inciter à vérifier ce qu'ils fournissent en entrée comme la qualité de ce qui sort. La formation n'est donc pas un supplément : c'est la condition pour que la charte soit comprise et appliquée.

Une bonne formation sur ce sujet ne ressemble pas à une conférence sur l'IA. Elle part des usages recensés dans le service, montre la bonne façon de les faire avec l'outil officiel, et consacre du temps aux cas limites : que faire d'une réponse qui semble juste mais qu'on ne peut pas vérifier, comment reconnaître une donnée qui ne doit pas sortir. C'est l'approche de nos parcours de formation, construits sur les cas réels de chaque équipe. Pour aller plus loin sur la progression d'une équipe dans le temps, notre article sur la montée en maturité des équipes sur l'IA décrit les paliers que nous observons.

Enfin, le recensement n'est pas un exercice unique. Les outils évoluent, de nouvelles fonctions apparaissent dans les logiciels existants, les équipes trouvent de nouveaux usages. Revenir sur le sujet à intervalle régulier, avec la même promesse de déclaration sans reproche, permet de garder une image juste de ce qui se fait réellement.

Les erreurs fréquentes

• Publier la charte avant l'outil officiel. Les équipes lisent une liste d'interdits sans alternative, et le shadow AI repart de plus belle.
• Confier le sujet au seul service informatique. Le cadre touche aux métiers, au juridique, aux ressources humaines. Sans relais dans chaque service, il reste lettre morte.
• Sanctionner le premier usage déclaré. Un seul exemple suffit pour que plus personne ne déclare quoi que ce soit.
• Oublier les fonctions IA intégrées aux logiciels existants. Elles arrivent par une mise à jour, souvent activées par défaut, et échappent au recensement si on ne pense qu'aux outils autonomes.
• Traiter le sujet comme une affaire de conformité uniquement. Le recensement révèle aussi des gains de temps que l'entreprise peut généraliser. Le laisser de côté, c'est se priver du meilleur de l'exercice.

Par où commencer

Si vous ne deviez faire que trois choses ce trimestre, ce seraient celles-ci : annoncer une période de déclaration sans reproche et recenser les usages, écrire une charte d'une page avec des exemples tirés de votre activité, et mettre à disposition au moins un outil officiel qui couvre les usages les plus fréquents. Le reste, formation, revue des droits, suivi des coûts, se construit ensuite, sur une base saine.

Ce travail relève autant de la conduite du changement que de la sécurité. Il s'inscrit dans une démarche plus large, que nous décrivons dans notre page consacrée à l'IA responsable.

Si vous voulez savoir où en est votre organisation, quels usages circulent déjà et lesquels mériteraient un outil dédié, notre diagnostic IA commence précisément par ce recensement, avec vos équipes et sur leurs vrais outils.

Sources

• ANSSI, Recommandations de sécurité pour un système d'IA générative (avril 2024)
• CNIL, Les questions-réponses sur l'utilisation d'un système d'IA générative (juillet 2024)

Questions fréquentes

Faut-il bloquer l'accès aux assistants IA grand public sur le réseau de l'entreprise ?

Le blocage peut se justifier pour certains services ou certains postes, mais il ne suffit jamais seul. Les usages basculent alors vers le téléphone ou l'ordinateur personnel, où vous ne voyez plus rien. Bloquez ce qui doit l'être après avoir proposé une alternative officielle, pas avant.

Qui doit porter le sujet dans l'entreprise ?

Un binôme fonctionne bien : une personne côté métier, qui connaît les usages et parle la langue des équipes, et une personne côté informatique ou sécurité, qui connaît les outils et les accès. Le délégué à la protection des données et les ressources humaines sont associés dès le départ. La direction, elle, porte publiquement la promesse de déclaration sans reproche.

Un salarié peut-il être sanctionné pour avoir utilisé un outil IA non autorisé ?

La question relève de votre règlement intérieur et de votre conseil juridique. Sur le plan pratique, sanctionner des usages antérieurs à toute règle écrite est contre-productif : la confiance nécessaire au recensement disparaît. Une fois la charte publiée et expliquée, son non-respect se traite comme celui de toute autre règle interne.

Les offres professionnelles des éditeurs règlent-elles le problème des données ?

Elles le réduisent souvent, parce que leurs conditions peuvent exclure la réutilisation de vos données pour entraîner les modèles. Il faut toutefois lire ces conditions, vérifier où les données sont hébergées et relire les droits accordés aux connecteurs. Une offre professionnelle mal configurée peut exposer davantage qu'un compte personnel utilisé avec prudence.

Comment savoir si notre charte fonctionne ?

Deux signaux sont utiles. Le premier : les équipes proposent spontanément de nouveaux usages par la voie prévue, au lieu de les cacher. Le second : l'outil officiel est réellement utilisé, ce que votre service informatique peut vérifier de façon agrégée. Si l'un des deux manque, la charte est probablement trop restrictive ou l'outil pas assez pratique.