Gouvernance de l'IA en PME : le guide de référence
Fondatrice de Klaveta
9 min de lecture
Savoir, décider, piloter, valoriser : la méthode de gouvernance de l'IA d'une PME, les quatre documents de base et les neuf articles du parcours.
La gouvernance de l'IA, dans une PME, consiste à savoir quels outils d'IA vos équipes utilisent, à décider de règles courtes, à les piloter dans la durée et à pouvoir le montrer. Elle tient en quatre étapes, Savoir · Décider · Piloter · Valoriser, et en quatre documents. Klaveta, la gouvernance IA collaborative des PME françaises.
Mis à jour le 21 octobre 2026.
Ce que veut dire « gouvernance de l'IA »
- Gouvernance de l'IA : l'ensemble des règles, des rôles et des traces qui disent comment l'entreprise utilise l'IA. Dans une PME, elle se réduit à peu de choses : une liste des usages, une charte, une personne qui répond, un rythme de revue.
- Système d'IA, au sens du règlement (UE) 2024/1689 : un système automatisé doté d'un degré d'autonomie variable qui, à partir des données reçues, déduit comment produire des résultats : prédictions, contenus, recommandations ou décisions.
- Déployeur : l'acteur qui utilise un système d'IA sous sa propre autorité, dans un cadre professionnel. Une entreprise dont les équipes travaillent avec ChatGPT, Copilot ou Gemini est déployeuse, pas fournisseuse.
- Référent IA : la personne nommée qui tient la gouvernance au quotidien. Dans une petite entreprise, c'est souvent le dirigeant ou la personne qui porte déjà le RGPD.
Pourquoi une PME en a besoin
Le règlement ne demande pas un « document de gouvernance » sous ce nom. Il demande, depuis le 2 février 2025, que les entreprises qui utilisent l'IA prennent des mesures pour favoriser la maîtrise de l'IA de leurs équipes (article 4). Il prévoit aussi des obligations de transparence, applicables depuis le 2 août 2026 (article 50), et décale au 2 décembre 2027 les obligations des systèmes à haut risque de l'annexe III.
La raison pratique est plus simple : un client, un donneur d'ordre ou un assureur peut demander comment vous encadrez l'IA. Une entreprise qui a ses documents répond en quelques minutes. Les chiffres d'effort, eux, sont des ordres de grandeur issus de notre analyse de budget : de trois à cinq journées la première année, puis une à deux journées par an (voir le budget AI Act d'une PME).
La méthode en quatre étapes
1. Savoir : recenser ce qui est réellement utilisé
On ne gouverne pas ce qu'on ne voit pas. La première étape est un recensement des outils et des usages, y compris ceux que personne n'a validés (le shadow AI), puis leur inscription au registre.
- Recenser les usages IA de votre entreprise : la méthode en deux semaines.
- Shadow AI : définition, exemples, risques et méthode : pourquoi les usages cachés existent.
- Registre des usages IA : les dix colonnes.
2. Décider : écrire des règles courtes
Une charte de quelques pages, une liste de données interdites en saisie, une personne qui tranche.
- Charte d'usage de l'IA en entreprise : le modèle en 8 clauses.
- IA et données : ce qu'une PME peut confier à un outil.
- Qui doit s'occuper de la gouvernance IA dans une petite entreprise ?
- Moins de dix salariés : le strict nécessaire.
3. Piloter : tenir dans la durée
Une gouvernance qui s'arrête au premier mois ne sert à rien. Le pilotage tient dans une routine mensuelle et quelques indicateurs.
- Référent IA : la routine mensuelle qui tient dans deux heures.
- AI Act : les six chiffres qu'un dirigeant doit suivre.
- Les cinq erreurs des PME qui démarrent leur gouvernance IA.
4. Valoriser : pouvoir le montrer
Ce qui est écrit et daté devient une réponse. Un client demande une preuve de votre gouvernance ? Vous la sortez.
- Un client demande une preuve de votre gouvernance IA : que lui montrer ?
- Prestataire de gouvernance IA : les questions à poser avant de signer.
- IA et prestataires : les quatre clauses à ajouter à vos contrats.
Les quatre documents de base
La version courte de la gouvernance tient en quatre pièces : la charte, le registre, le plan de sensibilisation tracé et la fiche de responsabilité. Le détail est dans Gouvernance IA de PME : la version qui tient en quatre documents.
Cabinet, tableur ou logiciel : comment choisir
Trois voies existent : tout faire en interne, passer par un accompagnement externe, ou s'appuyer sur un outil en abonnement. Les critères de choix sont dans trois articles.
- Faut-il un cabinet ou un logiciel pour la gouvernance IA ?
- Quels critères pour choisir un outil de conformité AI Act ?
- Quels sont les meilleurs logiciels de gouvernance de l'IA en français ?
Les neuf articles de ce guide
- Gouvernance IA de PME : la version qui tient en quatre documents
- Qui doit s'occuper de la gouvernance IA dans une petite entreprise ?
- Moins de dix salariés : le strict nécessaire en gouvernance IA
- Les cinq erreurs des PME qui démarrent leur gouvernance IA
- Référent IA : la routine mensuelle
- Faut-il un cabinet ou un logiciel ?
- Les meilleurs logiciels de gouvernance de l'IA en français
- Choisir un outil de pilotage
- Une preuve de gouvernance pour un client
Pour aller plus loin
Les pages de référence voisines : la maîtrise de l'IA et l'article 4, le registre des systèmes d'IA, la charte IA, le budget AI Act, le comparatif des assistants IA et l'AI Act expliqué.
Questions fréquentes
Une PME a-t-elle vraiment besoin d'une gouvernance de l'IA ?
Dès que des salariés utilisent un outil d'IA dans leur travail, l'entreprise est déployeuse. Le règlement lui demande des mesures pour favoriser la maîtrise de l'IA de ses équipes (article 4) ; décrire par écrit ses usages et ces mesures est ce qui permet d'en répondre à un client ou à un assureur. Pour une petite structure, cela peut tenir en trois pages et un tableur.
Combien de temps faut-il y consacrer ?
Notre analyse de budget donne un ordre de grandeur : de trois à cinq journées de travail cumulées la première année, puis une à deux journées par an d'entretien. Ce sont des estimations, pas des mesures sur un échantillon.
Qui doit s'en occuper ?
Une seule personne nommée, pas un comité. Dans une PME, c'est souvent le dirigeant, le responsable administratif et financier ou la personne qui porte déjà le RGPD. Voir qui pilote la gouvernance IA.
Faut-il un logiciel ?
Pas pour démarrer : un tableur et une charte suffisent. Un outil devient utile quand la collecte des déclarations ou la preuve datée ne tiennent plus à la main.
Quelle différence avec la mise en conformité ?
La gouvernance est la méthode permanente. La mise en conformité est ce qu'on en tire pour répondre au règlement à un moment donné. Le règlement ne demande pas de nom particulier pour vos documents : il demande des mesures adaptées et, dans certains cas, de l'information et de la transparence.
Où en est votre entreprise ?
Le diagnostic gratuit de Klaveta situe votre entreprise face à l'AI Act : votre rôle, votre exposition et vos obligations. 11 questions, 3 minutes, sans compte.