Shadow AI : l’IA utilisée sans cadre par vos salariés

Le shadow AI désigne l’usage d’outils d’IA par des salariés pour leur travail, sans que l’entreprise les ait choisis, configurés ou autorisés : un compte ChatGPT personnel pour rédiger des devis, une extension de navigateur qui résume les courriels, un assistant gratuit pour traduire un contrat. Il apparaît quand l’IA rend service plus vite que l’entreprise ne pose de règles.

Cet article explique pourquoi le shadow AI apparaît, quels risques il fait courir, et pourquoi la formation donne de meilleurs résultats que l’interdiction. Le collectif CAIO forme les équipes à l’usage encadré de l’IA dans sa formation AI Act et RGPD.

Qu’est-ce que le shadow AI ?

Le shadow AI, ou IA fantôme, regroupe tous les usages d’outils d’IA qui échappent à la connaissance ou au contrôle de l’entreprise. Le terme vient de shadow IT, qui désigne depuis longtemps les logiciels installés ou souscrits par les salariés sans passer par l’informatique.

Trois situations relèvent du shadow AI :

• Un outil non autorisé. Le salarié utilise un assistant que l’entreprise n’a pas validé, en général avec un compte ouvert à son adresse personnelle.
• Un outil autorisé, mal configuré ou mal utilisé. L’outil est validé, mais le salarié l’emploie avec des données ou pour des tâches que personne n’a prévues, ou il a activé un connecteur sur sa messagerie.
• Une fonction d’IA ajoutée sans bruit. Un logiciel déjà en place (traitement de texte, CRM, outil de visioconférence) active une fonction d’IA par une mise à jour, et les salariés l’utilisent sans que personne ait regardé où partent les données.

Exemples concrets : une chargée de clientèle colle une réclamation, nom du client compris, dans un assistant gratuit pour adoucir sa réponse. Un contrôleur de gestion envoie un export comptable à un outil en ligne pour obtenir un commentaire des écarts. Un manager enregistre ses entretiens individuels avec une application de transcription installée sur son téléphone.

Pourquoi le shadow AI apparaît-il ?

Le shadow AI apparaît pour des raisons simples, et de bonne foi dans la plupart des cas.

L’outil rend service. Un salarié qui a gagné une heure sur un compte rendu ne voit pas pourquoi il s’en priverait. Il cherche à mieux faire son travail.

Aucune règle n’existe. Sans charte ni consigne, le salarié tranche seul. Il ne sait pas qu’un compte personnel pose problème, ni qu’un export CRM contient des données personnelles au sens du RGPD.

L’outil officiel n’existe pas ou ne convient pas. Si l’entreprise n’a choisi aucun outil, ou si l’outil choisi ne fait pas ce dont l’équipe a besoin, les salariés vont ailleurs.

L’accès est immédiat. La plupart des assistants d’IA s’ouvrent en quelques secondes avec une adresse électronique, sans installation ni achat. Aucune demande d’achat ne passe par l’informatique.

L’interdiction cache sans arrêter. Quand l’entreprise interdit l’IA sans proposer d’alternative, les usages continuent sur les téléphones et les ordinateurs personnels. Ils deviennent seulement invisibles.

Quels sont les risques réels du shadow AI ?

Les risques du shadow AI viennent de l’absence de cadre autour des outils. Ils se rangent en quatre familles.

Les données qui sortent. Sur un compte grand public, les conversations peuvent être conservées et, selon les conditions de l’offre, réutilisées par le fournisseur. La CNIL, dans ses questions-réponses sur l’utilisation d’un système d’IA générative, recommande de ne jamais partager d’informations confidentielles, comme des données personnelles ou des données couvertes par le secret des affaires, lors de l’utilisation d’un service grand public. Elle recommande aussi d’éviter les comptes créés avec des adresses personnelles. L’article IA et RGPD détaille quelles données peuvent aller où.

Les erreurs qui passent. Un modèle de langage peut produire une réponse fausse et plausible. Un salarié qui n’a pas appris à vérifier transmet un chiffre inventé, une référence juridique qui n’existe pas ou une traduction qui inverse le sens d’une clause. Sans cadre, personne ne sait que le document est passé par un outil d’IA, et personne ne le relit en conséquence.

La responsabilité qui reste. La CNIL écrit que, dans le cas général, c’est l’organisme utilisateur qui engage sa responsabilité légale en cas de mauvaise utilisation de l’IA par son personnel. L’usage non déclaré ne la transfère pas au salarié.

Le cadre réglementaire ignoré. Les questions-réponses de la Commission européenne sur la maîtrise de l’IA indiquent qu’une entreprise dont les salariés utilisent ChatGPT pour rédiger ou traduire des textes est concernée par l’article 4 du règlement sur l’IA. Une entreprise qui ignore ces usages ne peut pas prendre les mesures que ce texte lui demande (voir l’article AI Act, article 4).

Faut-il interdire ChatGPT au travail ou encadrer son usage ?

Interdire tous les outils d’IA est une réponse possible, que certaines entreprises choisissent pour des raisons de secret ou de secteur. Elle a un coût : les usages continuent hors de vue, et l’entreprise perd à la fois le contrôle et le bénéfice.

Encadrer demande plus de travail et donne plus de prise. L’encadrement repose sur quatre décisions :

1. Choisir au moins un outil autorisé, sous un compte géré par l’entreprise, avec un contrat et des réglages vérifiés.
2. Écrire les règles : usages permis, usages exclus, données qui ne sortent pas, vérification des résultats. C’est l’objet d’une charte d’utilisation de l’IA.
3. Ouvrir une voie de demande pour les outils non listés, avec une réponse rapide. Un salarié qui attend six mois une réponse ne l’attendra pas.
4. Former les utilisateurs avant l’accès, sur leurs propres tâches.

La CNIL recommande d’encadrer les usages par une liste d’utilisations autorisées et interdites et de former les utilisateurs finaux.

Le relevé des usages existants est le point de départ. Demandez à chaque équipe quels outils elle utilise, pour quelles tâches et avec quelles données, sans menace de sanction. Les réponses donnent la liste des besoins réels, et les premiers usages à autoriser.

Pourquoi former plutôt que surveiller ?

Surveiller le shadow AI (bloquer des domaines, analyser les journaux réseau) attrape une partie des usages sur les postes de l’entreprise. Cette surveillance ne voit ni le téléphone personnel, ni la tâche, ni les données concernées. Elle peut aussi soulever ses propres questions au regard du droit du travail et du RGPD, à examiner avec les personnes compétentes avant toute mise en place.

Former agit sur la cause. Un salarié qui sait classer une donnée avant de la coller, qui connaît l’outil autorisé et sait vérifier une sortie n’a plus de raison d’aller ailleurs. Il devient aussi celui qui signale un nouvel usage utile à ses collègues.

Une formation utile contre le shadow AI porte sur les tâches réelles de chaque métier :

• la chargée de clientèle apprend à préparer sa réponse sans données nominatives dans l’outil autorisé
• le contrôleur de gestion apprend quels exports peuvent aller dans quel outil, et comment réduire les données au nécessaire
• le manager apprend ce que l’entreprise autorise pour la transcription de réunions, et ce qu’elle exclut pour les entretiens individuels
• chacun apprend à vérifier une sortie avant de la transmettre (voir les hallucinations de l’IA)

La formation AI Act et RGPD part des usages relevés dans l’équipe, y compris ceux qui n’étaient pas déclarés, et fait pratiquer au groupe les règles de son entreprise sur ses propres outils. Elle apprend à repérer les cas à faire relire par les personnes chargées de la protection des données ou par un cabinet dont c’est le métier. Les responsables d’équipe apprennent à repérer ces usages dans la formation IA pour managers, et la page formation IA en entreprise liste les autres parcours.