L'essentiel en 30 secondes
- L'Article 9 impose aux fournisseurs de systèmes d'IA à haut risque d'établir, de mettre en œuvre, de documenter et de maintenir un système de gestion des risques (Art. 9(1)).
- C'est un processus itératif continu sur tout le cycle de vie, en quatre étapes : identifier les risques, estimer et évaluer ceux liés à l'usage prévu et au mésusage prévisible, évaluer ceux révélés après commercialisation, adopter des mesures ciblées (Art. 9(2)).
- Le risque résiduel doit être jugé acceptable ; le système est testé avant sa mise sur le marché selon des indicateurs définis à l'avance (Art. 9(5) à (8)) ; l'impact sur les mineurs et les personnes vulnérables est examiné (Art. 9(9)).
- Les obligations de l'Annexe III s'appliquent à partir du 2 décembre 2027, celles de l'Annexe I à partir du 2 août 2028, selon le règlement (UE) 2026/1744 (« Omnibus IA »).
- La documentation du SGR alimente la documentation technique (Art. 11) et la surveillance après commercialisation (Art. 72) ; elle est conservée dix ans (Art. 18).
- Un manquement du fournisseur relève de l'Art. 16 : amende jusqu'à 15 M€ ou 3 % du chiffre d'affaires mondial (Art. 99(4)), le plus bas des deux montants pour une PME.
L'Article 9 impose au fournisseur d'un système d'IA à haut risque un système de gestion des risques : un processus continu et itératif, sur tout le cycle de vie, qui identifie les risques pour la santé, la sécurité et les droits fondamentaux, les évalue, adopte des mesures ciblées et vérifie par des tests que le risque résiduel est acceptable. Il est documenté et révisé régulièrement. Il s'applique aux systèmes de l'Annexe III à partir du 2 décembre 2027.
1. Contexte réglementaire : l'Article 9 de l'AI Act
L'Article 9 du Règlement (UE) 2024/1689, connu sous le nom d'AI Act, est l'une des exigences centrales qui pèsent sur les fournisseurs de systèmes d'IA classés à haut risque. Il définit la nature et la finalité du système de gestion des risques (SGR) à mettre en place avant la mise sur le marché.
Les systèmes d'IA à haut risque sont listés à l'Annexe III du Règlement. Ils couvrent notamment :
- les logiciels de recrutement et de tri de candidatures (Annexe III, point 4) ;
- les systèmes d'évaluation de la solvabilité ou de scoring de crédit (Annexe III, point 5) ;
- les systèmes utilisés dans l'éducation, l'accès aux services essentiels, la justice ou la gestion des infrastructures critiques.
Pour ces systèmes, l'Article 9 impose un système de gestion des risques couvrant l'ensemble du cycle de vie du système d'IA. L'obligation pèse en priorité sur le fournisseur, celui qui développe et met sur le marché, mais les déployeurs (utilisateurs professionnels) collaborent, notamment au titre de l'Article 26.
Le guide AI Act PME France présente le panorama complet, et la page sur les systèmes à haut risque de l'Annexe III détaille la liste des domaines.
2. Qu'est-ce qu'un système de gestion des risques (SGR) pour l'IA ?
Un SGR n'est pas un simple document. C'est un processus itératif et planifié qui s'exécute en continu pendant toute la durée de vie du système d'IA. L'Article 9, paragraphe 2, le décrit comme un cycle structuré comportant :
- l'identification et l'analyse des risques connus et raisonnablement prévisibles que le système peut faire peser sur la santé, la sécurité et les droits fondamentaux ;
- l'estimation et l'évaluation des risques qui peuvent émerger lors de l'utilisation conforme à la destination prévue, ainsi que dans des conditions de mauvaise utilisation raisonnablement prévisible ;
- l'évaluation d'autres risques pouvant survenir sur la base de l'analyse des données collectées via le système de surveillance après commercialisation (Art. 72) ;
- l'adoption de mesures appropriées et ciblées de gestion des risques.
L'objectif est triple : garantir la conformité réglementaire, protéger les personnes affectées et fournir une traçabilité auditable aux autorités de surveillance du marché. Seuls sont visés les risques qui peuvent être raisonnablement réduits ou éliminés par la conception, le développement ou l'information technique fournie (Art. 9(3)).
Le SGR alimente plusieurs autres briques documentaires : la documentation technique (Art. 11), la déclaration de conformité UE (Art. 47), les logs (Art. 12), et les instructions d'utilisation transmises au déployeur (Art. 13).
3. Les 4 piliers de l'Article 9 : exigences clés
Le texte de l'Article 9 peut se lire à travers quatre axes opérationnels, une grille de lecture qui n'est pas prévue comme telle par le règlement.
| Pilier | Exigence Article 9 | Livrable attendu |
|---|---|---|
| Identification | Recenser tous les risques prévisibles | Cartographie des risques signée et datée |
| Atténuation | Concevoir et tester des mesures correctives | Plan d'actions techniques et organisationnelles |
| Information | Fournir aux déployeurs les éléments nécessaires | Notice d'utilisation + documentation technique |
| Surveillance | Réviser le SGR en continu | Procès-verbaux de revue, journaux d'incidents |
L'Article 9, paragraphe 5, précise que les mesures retenues doivent éliminer ou réduire les risques autant que techniquement possible, par une conception et un développement adéquats, puis prévoir des mesures d'atténuation et de contrôle pour les risques qui ne peuvent pas être éliminés. Le fournisseur veille à ce que le risque résiduel de chaque danger, comme le risque résiduel global, soit jugé acceptable. Les systèmes sont testés avant leur mise sur le marché, selon des indicateurs et des seuils définis à l'avance et adaptés à la finalité (Art. 9(6) à (8)). Le fournisseur examine aussi si le système est susceptible d'avoir un impact négatif sur les personnes de moins de 18 ans et sur d'autres groupes vulnérables (Art. 9(9)).
Les normes ISO/IEC 42001:2023 (système de management de l'IA) et ISO/IEC 23894:2023 (gestion des risques) peuvent aider à structurer un SGR auditable. Elles sont volontaires et ne donnent pas de présomption de conformité à l'AI Act. L'Art. 9(10) permet aussi de combiner le SGR avec les procédures de gestion des risques prévues par d'autres textes de l'Union.
4. Cycle de vie de l'IA : couverture obligatoire du SGR
L'Article 9, paragraphe 2, précise que le SGR couvre l'ensemble du cycle de vie du système d'IA. Cette exigence dépasse largement la phase de développement.
| Phase du cycle | Actions SGR | Documents produits |
|---|---|---|
| Conception | Analyse des cas d'usage, identification des données sensibles | Note de cadrage, analyse d'impact |
| Développement | Sélection des jeux de données, tests adverses, évaluation des biais | Rapports de tests, registre de versions |
| Validation pré-marché | Évaluation de la conformité, tests en conditions réelles | Dossier technique, déclaration UE |
| Mise sur le marché | Notice d'utilisation, formation des déployeurs | Manuel utilisateur, supports de formation |
| Exploitation | Surveillance, logs, gestion des incidents | Journaux, tickets, rapports d'incidents |
| Mises à jour | Réévaluation des risques à chaque évolution substantielle | Avenants au dossier technique |
| Fin de vie | Décommissionnement, archivage, notification | Procès-verbal de retrait |
Une PME qui développe par exemple un outil de tri automatisé de CV doit donc revoir et mettre à jour régulièrement et systématiquement son analyse de risques, notamment après une mise à jour du modèle, une modification des données d'entraînement ou une modification substantielle.
Vos documents IA, personnalisés et prêts aujourd'hui
Charte d'usage de l'IA, politique IA, registre des outils, analyses de risques et d'impact, procédures : le pack regulia les réunit, personnalisés selon votre entreprise et vos outils, à jour du règlement (UE) 2026/1744. 29 € jusqu'au 31 octobre, puis 99 €.
Créer mon pack — 29 €5. Documentation et enregistrement : preuves nécessaires
La documentation est l'épine dorsale du SGR. Sans preuves écrites, datées et accessibles, la conformité ne peut être démontrée à l'autorité nationale compétente.
L'Article 9 doit se lire en miroir de l'Article 11 (documentation technique), de l'Article 12 (tenue de registres / logs automatiques) et de l'Article 18 (conservation de la documentation).
L'Article 18 fixe une durée de conservation de 10 ans à compter de la mise sur le marché ou de la mise en service du système d'IA à haut risque. Cette obligation s'applique à la documentation technique, à la documentation du système qualité (Art. 17) et aux décisions des organismes notifiés.
Documents minimaux à conserver :
- la cartographie initiale des risques et ses révisions successives ;
- les rapports de tests (robustesse, précision, cybersécurité au titre de l'Art. 15) ;
- la trace écrite des choix d'atténuation et des risques résiduels acceptés ;
- les procès-verbaux des revues périodiques de SGR ;
- les journaux d'incidents et les notifications transmises aux autorités au titre de l'Article 73 (incidents graves).
Les plafonds et le calcul d'une amende pour une PME figurent dans le guide des sanctions AI Act pour les PME.
6. Formation et compétences : ressources humaines
L'Article 4 du Règlement demande aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser la maîtrise de l'IA (AI literacy) de leur personnel et des personnes qui utilisent des systèmes d'IA pour leur compte : sensibilisation, règles d'usage, formation adaptée aux rôles. Voir le guide sur la formation des équipes à la maîtrise de l'IA.
Côté SGR, trois profils sont utiles dans une PME :
- un responsable conformité IA (par exemple rattaché au DPO ou au RSSI), garant du processus global ;
- une équipe technique formée aux tests adverses, à l'évaluation des biais et à la cybersécurité des modèles ;
- un référent métier capable de qualifier les usages réels et les dérives potentielles.
Les compétences clés à acquérir couvrent : sécurité des données (croisement avec ISO/IEC 27001:2022), éthique de l'IA, méthodologies d'évaluation des biais, et lecture critique des sorties d'un modèle.
Un budget formation est à prévoir dès la première année : sans personnel formé, le SGR reste difficile à faire vivre.
7. Évaluation des risques : méthodologie et outils
Aucune méthodologie unique n'est imposée par l'AI Act. Le fournisseur choisit son cadre, à condition que celui-ci permette de répondre aux exigences de l'Article 9. Trois référentiels peuvent aider.
| Référentiel | Apport pour le SGR | Statut |
|---|---|---|
| ISO/IEC 42001:2023 | Système de management de l'IA, gouvernance, rôles | Norme certifiable |
| ISO/IEC 23894:2023 | Lignes directrices de management des risques IA | Norme guide |
| Fiches pratiques CNIL | Cadrage RGPD + IA, base légale, droits des personnes | Lignes directrices régulateur |
La méthodologie type comprend :
- Analyse des données d'entrée : qualité, représentativité, biais historiques.
- Tests de robustesse : performance en conditions dégradées, attaques adverses.
- Évaluation de l'équité : audit des biais sur variables sensibles (genre, origine, âge).
- Tests d'explicabilité : capacité du système à justifier ses décisions.
- Tests d'utilisation détournée : simulation des cas de mauvaise utilisation raisonnablement prévisible.
Exemple concret : pour un logiciel de scoring de crédit, l'évaluation doit mesurer le taux de refus différentiel par catégorie socio-démographique, comparer la performance sur des jeux de données représentatifs, et documenter les seuils retenus.
Le glossaire donne le vocabulaire technique de référence.
8. Mises à jour et améliorations : processus de maintenance
Le SGR est vivant. L'Article 9, paragraphe 2, exige une révision régulière et systématique du système de gestion des risques.
Trois déclencheurs justifient une réévaluation :
- une modification substantielle du système d'IA au sens de l'Art. 3, point 23 (réentraînement majeur, ajout de fonctionnalités, changement d'architecture) ;
- un incident grave notifié au titre de l'Article 73 ;
- une évolution réglementaire (acte délégué, décision d'une autorité, jurisprudence pertinente).
Bonnes pratiques de maintenance pour une PME :
- planifier une revue annuelle du SGR (fréquence recommandée, non fixée par le texte), avec procès-verbal signé par la direction ;
- relier le SGR au système qualité (Art. 17) pour bénéficier d'une logique d'amélioration continue ;
- maintenir un registre central des incidents internes, même non graves, pour détecter les signaux faibles ;
- intégrer les retours du système de surveillance post-commercialisation (Art. 72) dans le processus de revue.
L'absence de mise à jour documentée peut être relevée comme un manquement en cas de contrôle.
9. Coûts et ressources pour les PME : estimation et priorités
Le coût d'un SGR conforme dépend de la complexité du système d'IA et du niveau initial de maturité de l'entreprise.
Pour optimiser le budget, une PME peut s'appuyer sur :
- le service desk AI Act de la Commission européenne, point d'entrée pour les questions sur l'application du règlement ;
- les fiches pratiques CNIL sur l'IA et le RGPD ;
- les bacs à sable réglementaires prévus à l'Article 57, qui permettent de tester un système d'IA sous supervision avant mise sur le marché ;
- des modèles documentaires (politique IA, registre des systèmes d'IA, évaluations de risques), par exemple le pack de documents de conformité regulia.
Priorisation recommandée : commencer par les systèmes à plus fort impact client (décisions individuelles automatisées), puis étendre progressivement aux usages internes.
Passez des obligations aux documents
Un manquement à la transparence peut coûter jusqu'à 3 % du chiffre d'affaires (Art. 99). Documentez vos mesures en une dizaine de minutes : charte, politique IA, registre, analyses de risques et procédures, livrés par e-mail en Word, Excel et PDF. 29 € jusqu'au 31 octobre, puis 99 €, satisfait ou remboursé 30 jours.
Créer mon pack — 29 €10. Conclusion : mise en œuvre progressive pour les PME
L'Article 9 n'impose pas un Big Bang. Il impose une démarche structurée, traçable et soutenable. Pour une PME, la mise en œuvre se planifie en quatre étapes.
- Cartographier : identifier précisément les systèmes d'IA à haut risque utilisés, développés ou déployés. S'appuyer sur l'Annexe III et sur les exclusions de l'Article 6, paragraphe 3.
- Structurer les processus clés : mettre en place l'identification, l'évaluation, l'atténuation et la documentation des risques. Aligner sur ISO/IEC 42001:2023.
- Documenter et former : produire la documentation technique (Art. 11), former le personnel à la maîtrise de l'IA (Art. 4), tenir les registres.
- Auditer et améliorer : organiser une revue annuelle, intégrer les retours de la surveillance post-commercialisation, ajuster le SGR à chaque modification substantielle.
La conformité à l'Article 9 est d'abord une obligation juridique : elle démontre que les risques ont été identifiés, traités et suivis.
La page Sources recense les textes officiels cités dans cet article.
FAQ — Questions fréquentes sur l'Article 9
Quelles sont les principales obligations de l'Article 9 pour une PME ?
Une PME fournisseur doit mettre en place un système de gestion des risques (SGR) pour chaque système d'IA à haut risque qu'elle développe. Ce SGR couvre tout le cycle de vie : identification des risques, mesures d'atténuation, documentation, formation et révisions périodiques. Les déployeurs PME ont des obligations connexes au titre de l'Article 26.
Quels sont les risques liés à une non-conformité avec l'Article 9 ?
Le non-respect par le fournisseur des exigences applicables aux systèmes d'IA à haut risque (dont l'Article 9, via l'Article 16) est sanctionné au titre de l'Article 99(4) du Règlement (UE) 2024/1689. Les amendes peuvent atteindre 15 000 000 € ou 3 % du chiffre d'affaires mondial annuel total ; une grande entreprise se voit appliquer le montant le plus élevé, une PME le plus bas (Art. 99(6)). Les autorités peuvent en outre exiger le retrait du système du marché.
Comment les PME peuvent-elles se conformer avec des ressources limitées ?
Une approche progressive est recommandée. Commencer par cartographier les IA à haut risque, mobiliser les fiches pratiques CNIL et le service desk AI Act, utiliser des modèles documentaires, et envisager le recours aux bacs à sable réglementaires (Art. 57). Le pack de documents de conformité regulia évite de partir de zéro pour les documents internes.
Quelle documentation est requise pour prouver la conformité ?
La cartographie des risques, les rapports de tests, les preuves d'atténuation, les procès-verbaux de revue de SGR, les journaux d'incidents, et la documentation technique de l'Article 11. La durée de conservation est de 10 ans à compter de la mise sur le marché (Art. 18).
Quelles sont les étapes pour mettre en place un SGR conforme ?
Sept étapes structurantes : 1) cartographier les IA à haut risque ; 2) identifier les risques spécifiques ; 3) définir et tester les mesures d'atténuation ; 4) documenter les processus et les choix ; 5) prendre des mesures pour favoriser la maîtrise de l'IA du personnel concerné ; 6) déployer la surveillance post-commercialisation ; 7) réviser régulièrement le SGR et après chaque modification substantielle.
Sources officielles
- Règlement (UE) 2024/1689 — texte officiel EUR-Lex
- Règlement (UE) 2026/1744 (« Omnibus IA ») — EUR-Lex
- AI Act Service Desk — Commission européenne
- CNIL — fiches pratiques sur l'intelligence artificielle
- ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system
- ISO/IEC 23894:2023 — Information technology — Artificial intelligence — Guidance on risk management
- ISO/IEC 27001:2022 — Information security management systems
Disclaimer. Cet article fournit des informations générales sur l'EU AI Act applicables aux PME françaises. Il ne constitue pas un conseil juridique. Pour toute décision opérationnelle, faites valider votre démarche par votre DPO ou conseil juridique. regulia décline toute responsabilité quant à l'usage qui peut être fait de ces informations.