L'essentiel en 30 secondes
- L'Article 14 impose que les systèmes d'IA à haut risque soient conçus et développés pour pouvoir être effectivement supervisés par des personnes physiques pendant leur utilisation (Art. 14(1)).
- Le fournisseur donne aux personnes chargées de la supervision cinq capacités (Art. 14(4)) : comprendre le système, rester conscient du biais d'automatisation, interpréter les sorties, décider de ne pas les suivre, intervenir ou arrêter le système.
- Le déployeur confie la supervision à des personnes compétentes, formées et dotées de l'autorité nécessaire, avec le soutien requis (Art. 26(2)).
- Pour les systèmes de l'Annexe III, ces obligations s'appliquent à partir du 2 décembre 2027, selon le règlement (UE) 2026/1744 (« Omnibus IA ») ; pour l'Annexe I, à partir du 2 août 2028.
- Un manquement du fournisseur à l'Article 14 relève de l'Art. 16 : amende jusqu'à 15 M€ ou 3 % du chiffre d'affaires mondial (Art. 99(4)), le plus bas des deux montants pour une PME.
- Une grille « avant, pendant, après l'exécution » aide à organiser la supervision ; elle n'est pas prévue par le texte.
L'Article 14 impose que les systèmes d'IA à haut risque soient conçus de façon à pouvoir être effectivement supervisés par des personnes physiques. Le fournisseur doit permettre à ces personnes de comprendre le système, de rester conscientes du biais d'automatisation, d'interpréter les sorties, de les écarter et d'interrompre le système (Art. 14(4)). Le déployeur confie la supervision à des personnes compétentes, formées et dotées de l'autorité nécessaire (Art. 26(2)), à partir du 2 décembre 2027 pour les systèmes de l'Annexe III.
1. Contexte juridique : l'Article 14 de l'AI Act
L'Article 14 du Règlement (UE) 2024/1689 s'applique aux systèmes d'IA à haut risque : ceux de l'Annexe III (Article 6(2)) et ceux liés aux produits de l'Annexe I (Article 6(1)). La page sur les systèmes à haut risque détaille la classification. Pour une PME française, cela vise par exemple un logiciel de tri de CV, un outil de scoring de crédit ou un dispositif de diagnostic médical.
La logique du texte : un système d'IA à haut risque ne peut fonctionner sans qu'un être humain conserve la capacité de comprendre, surveiller et reprendre la main. La supervision n'est pas une option ajoutée à la fin : elle se prévoit dès la conception.
L'Article 14, paragraphe 1, exige que les systèmes à haut risque soient conçus et développés, y compris avec des outils d'interface homme-machine appropriés, de manière à pouvoir être effectivement supervisés par des personnes physiques pendant leur période d'utilisation. Cette supervision vise à prévenir ou à réduire les risques pour la santé, la sécurité ou les droits fondamentaux (Art. 14(2)).
Exemples de secteurs concernés pour les PME :
| Secteur | Exemple de système d'IA à haut risque | Référence AI Act |
|---|---|---|
| Santé | Aide au diagnostic radiologique (dispositif médical) | Art. 6(1), Annexe I (règlement (UE) 2017/745) |
| Ressources humaines | Tri automatisé de candidatures | Annexe III, point 4 (a) |
| Services financiers | Scoring de solvabilité des particuliers | Annexe III, point 5 (b) |
| Éducation | Évaluation automatisée des acquis des élèves | Annexe III, point 3 (b) |
| Justice et administration | Aide à la décision juridictionnelle | Annexe III, point 8 (a) |
Les obligations s'appliquent au fournisseur du système (celui qui le développe) et au déployeur (celui qui l'utilise). Une PME peut endosser l'un, l'autre ou les deux rôles. La distinction conditionne l'étendue exacte des mesures à mettre en place. Le guide AI Act PME France présente les obligations transverses, et l'article sur les obligations du déployeur (Art. 26) détaille le rôle de la PME utilisatrice.
2. Les capacités de supervision humaine, organisées en trois phases
L'Article 14, paragraphe 4, énumère cinq capacités que les personnes chargées de la supervision doivent pouvoir exercer, de façon appropriée et proportionnée. Le texte ne prévoit pas de phases : une grille « avant, pendant, après l'exécution » aide toutefois à les organiser.
2.1 Avant l'exécution : validation et paramétrage
Avant qu'un système d'IA traite une donnée réelle, le superviseur humain doit pouvoir :
- Vérifier que les données d'entrée sont pertinentes et suffisamment représentatives au regard de la finalité du système, lorsque le déployeur les contrôle (Art. 26(4)).
- Comprendre les capacités et limites du système (Art. 14, par. 4 (a)).
- Activer ou désactiver les fonctions optionnelles.
- Valider les seuils de décision et les niveaux de confiance.
Cette phase requiert une documentation accessible : notice d'utilisation du fournisseur (Art. 13), fiche système, registre des systèmes d'IA utilisés.
2.2 Pendant l'exécution : surveillance active
Le superviseur doit conserver une vue temps réel sur le fonctionnement :
- Détecter les anomalies, dysfonctionnements et performances inattendues (Art. 14(4), point a).
- Rester conscient de la tendance à se fier automatiquement ou excessivement aux sorties du système, ou « biais d'automatisation » (Art. 14(4), point b).
- Interpréter correctement les sorties du système, notamment grâce aux outils et méthodes d'interprétation disponibles (Art. 14(4), point c).
2.3 Après l'exécution : intervention et révision
Une fois le résultat produit, la supervision continue :
- Décider, dans une situation donnée, de ne pas utiliser le système, d'écarter, de remplacer ou d'inverser sa sortie (Art. 14(4), point d).
- Intervenir dans le fonctionnement du système ou l'interrompre au moyen d'un bouton d'arrêt ou d'une procédure équivalente, de façon que le système s'arrête dans un état sûr (Art. 14(4), point e).
- Tracer les interventions pour audit ultérieur, avec des journaux d'événements conformes à l'Article 12.
| Phase | Question clé | Documentation associée |
|---|---|---|
| Avant | Le système est-il prêt et bien configuré ? | Fiche de pré-déploiement |
| Pendant | Le système fonctionne-t-il dans son enveloppe attendue ? | Journaux d'événements |
| Après | La décision finale est-elle pertinente ? | Registre d'intervention humaine |
3. Obligations spécifiques pour les PME
L'AI Act prévoit des mesures de soutien pour les PME (Art. 62), mais aucune dérogation à l'Article 14. La supervision humaine s'impose quelle que soit la taille de l'entreprise dès lors qu'un système à haut risque est déployé.
Concrètement, une PME qui déploie un système à haut risque peut s'organiser ainsi :
- Identifier nommément les personnes en charge de la supervision dans le registre interne d'IA.
- S'assurer qu'elles disposent de la compétence, de la formation et de l'autorité nécessaires (Art. 26(2)) : compréhension métier, lecture des sorties du système, autorité hiérarchique pour interrompre.
- Allouer le temps et les ressources nécessaires à l'exercice effectif de la supervision — un superviseur surchargé ou non formé ne remplit pas le critère.
- Mettre à disposition les outils techniques : interface de monitoring, accès aux logs, bouton d'arrêt accessible.
- Documenter l'organisation dans une procédure interne ; un fournisseur l'intègre à son système de gestion de la qualité (Art. 17).
Pour les déployeurs (Art. 26(2)), l'obligation est complétée : la PME confie la supervision à des personnes physiques disposant de la compétence, de la formation et de l'autorité nécessaires, et leur fournit le soutien nécessaire.
Vos documents IA, personnalisés et prêts aujourd'hui
Charte d'usage de l'IA, politique IA, registre des outils, analyses de risques et d'impact, procédures : le pack regulia les réunit, personnalisés selon votre entreprise et vos outils, à jour du règlement (UE) 2026/1744. 29 € jusqu'au 31 octobre, puis 99 €.
Créer mon pack — 29 €4. Risques et sanctions pour non-conformité
L'Article 99 du Règlement (UE) 2024/1689 structure le régime de sanctions en trois paliers. Un manquement du fournisseur à l'Article 14 relève de l'Article 16 et donc du palier intermédiaire (Art. 99(4)) ; un manquement du déployeur à l'Article 26 relève du même palier.
| Manquement | Montant maximal | Référence |
|---|---|---|
| Pratiques interdites (Art. 5) | 35 M€ ou 7 % du CA mondial | Art. 99, par. 3 |
| Manquement aux obligations des fournisseurs (Art. 16, dont Art. 14) et des déployeurs (Art. 26) | 15 M€ ou 3 % du CA mondial | Art. 99, par. 4 |
| Information inexacte aux autorités | 7,5 M€ ou 1 % du CA mondial | Art. 99, par. 5 |
Pour les PME et les start-up, l'Article 99(6) prévoit que l'amende est plafonnée au montant le plus bas entre le pourcentage et la somme forfaitaire, un correctif important par rapport au régime des grandes entreprises. Pour calculer le plafond d'amende de votre entreprise, le calculateur applique ces règles.
Au-delà de l'amende, les conséquences opérationnelles d'un défaut de supervision sont multiples :
- Retrait du marché par l'autorité de surveillance (Art. 79).
- Mesures correctives imposées par l'autorité, dans un délai fixé.
- Responsabilité prévue par le droit national en cas de préjudice causé par une décision automatisée mal supervisée.
5. Outils et méthodologies pratiques
Quatre familles d'outils permettent de structurer la supervision humaine.
5.1 Référentiels normatifs
- ISO/IEC 42001:2023 : système de management de l'IA. La clause 8 (fonctionnement) et l'Annexe A (cycle de vie, utilisation des systèmes) structurent l'exploitation. La norme est volontaire et ne donne pas de présomption de conformité à l'AI Act.
- ISO/IEC 23894:2023 — gestion des risques liés à l'IA. Utile pour identifier les scénarios où la supervision est critique.
- ISO/IEC 27001:2022 : sécurité de l'information. Elle peut encadrer la traçabilité des interventions.
5.2 Documentation type
| Document | Objet | Fréquence de mise à jour recommandée |
|---|---|---|
| Fiche système d'IA | Décrire capacités, limites, seuils | À chaque évolution du modèle |
| Registre des superviseurs | Identifier les personnes habilitées | Trimestrielle |
| Journal d'intervention humaine | Tracer chaque décision de supervision | Continue |
| Procédure d'arrêt | Décrire la chaîne de décision en cas d'incident | Annuelle |
| Plan de formation | Garantir la compétence des superviseurs | Annuelle |
5.3 Outils techniques
Des outils d'interface homme-machine appropriés sont exigés (Art. 14(1)) pour comprendre et surveiller le fonctionnement du système (Art. 14(4), point a). Pour une PME, plusieurs approches existent :
- Tableau de bord intégré au système (à exiger du fournisseur).
- Plateforme tierce de suivi de modèles (model monitoring) ;
- Solution maison avec exports CSV horodatés et revue hebdomadaire pour les systèmes à faible volumétrie.
5.4 Compétences à acquérir
L'Article 4 du Règlement demande de prendre des mesures pour favoriser la maîtrise de l'IA (AI literacy) du personnel : sensibilisation, règles d'usage, formation adaptée aux rôles. Un superviseur doit comprendre :
- Le périmètre fonctionnel du système.
- Les indicateurs de performance et de dérive.
- Les biais probables et leurs signaux faibles.
- La procédure d'escalade.
Le glossaire recense les termes utiles à la formation interne.
6. Cas d'étude : supervision dans le secteur de la santé
Exemple illustratif : une PME française de 80 salariés commercialise un logiciel d'aide à la détection de lésions sur imagerie médicale. Le système est un dispositif médical qui exige l'intervention d'un organisme notifié au sens du règlement (UE) 2017/745 : il est à haut risque au titre de l'Article 6(1), avec des obligations à partir du 2 août 2028.
Cartographie des supervisons
| Phase | Acteur | Action concrète |
|---|---|---|
| Avant | Radiologue | Vérifie la qualité de l'image et le bon paramétrage du protocole |
| Pendant | Radiologue | Lit la zone surlignée par l'IA et le score de confiance |
| Après | Radiologue + médecin référent | Décide ou non de suivre la suggestion, motive la décision dans le compte rendu |
| Hors flux | Responsable qualité | Audit mensuel des cas où la suggestion IA a été écartée |
Mécanisme d'intervention : le radiologue peut désactiver la couche IA pour un cas donné via un bouton de l'interface. Le système ne déclenche aucune action automatique : il propose, l'humain dispose.
Risque de biais d'automatisation : l'éditeur forme les radiologues à examiner systématiquement les zones non surlignées par l'IA pour détecter les faux négatifs. Une métrique de « taux de désaccord » est suivie pour s'assurer que les utilisateurs gardent leur esprit critique.
Ce schéma se transpose, avec des ajustements, à un système de scoring crédit (avec un chargé clientèle comme superviseur) ou à un outil de tri de CV (avec un recruteur formé).
7. Ressources pour les PME
Plusieurs ressources officielles peuvent être mobilisées pour structurer la démarche.
- Fiches pratiques CNIL : la CNIL publie des fiches pratiques sur l'IA et le RGPD.
- AI Act Service Desk : point d'entrée de la Commission européenne pour poser des questions sur l'application du règlement.
- ISO/IEC 42001:2023 — disponible sur le site ISO, à acquérir auprès de l'AFNOR pour la version française.
La page Sources recense les textes utilisés dans les guides.
8. Échéancier d'implémentation
Le calendrier d'application de l'AI Act est échelonné. Pour l'Article 14, les obligations applicables aux systèmes à haut risque de l'Annexe III entrent en application le 2 décembre 2027 (Art. 113, échéance reportée par le règlement (UE) 2026/1744 (« Omnibus IA »)), avec une extension au 2 août 2028 pour les systèmes intégrés à des produits déjà couverts par une législation d'harmonisation (Annexe I). Le calendrier complet détaille les autres échéances.
Voici un plan d'action indicatif, par trimestre, jusqu'au 2 décembre 2027.
| Période | Étape | Livrable |
|---|---|---|
| T4 2026 | Cartographier les systèmes d'IA déployés ou en projet, qualifier leur niveau de risque | Registre interne d'IA, tableau de classification |
| T1 2027 | Identifier les rôles de supervision, concevoir l'interface et les mécanismes d'arrêt | Fiches de poste superviseur, spécification fonctionnelle |
| T2 2027 | Rédiger la documentation Article 14, former les superviseurs | Pack documentaire, attestations de formation |
| T3 2027 | Audit interne à blanc, correction des écarts | Rapport d'écarts, plan d'action soldé |
| T4 2027 | Audit final et, pour un fournisseur, préparation du marquage CE | Déclaration de conformité |
Une PME qui démarre tard peut compresser ce calendrier, mais la formation des superviseurs et la collecte des preuves d'intervention exigent du temps.
Passez des obligations aux documents
Un manquement à la transparence peut coûter jusqu'à 3 % du chiffre d'affaires (Art. 99). Documentez vos mesures en une dizaine de minutes : charte, politique IA, registre, analyses de risques et procédures, livrés par e-mail en Word, Excel et PDF. 29 € jusqu'au 31 octobre, puis 99 €, satisfait ou remboursé 30 jours.
Créer mon pack — 29 €FAQ — Article 14 et supervision humaine
Quels systèmes d'IA sont concernés par l'Article 14 ?
L'Article 14 s'applique aux systèmes d'IA à haut risque listés à l'Annexe III du Règlement (UE) 2024/1689 et à ceux qui sont intégrés comme composants de sécurité de produits déjà régulés (Art. 6). Cela inclut notamment les outils RH automatisés, le scoring crédit aux particuliers, les dispositifs médicaux assistés par IA, certains systèmes éducatifs et les outils d'aide à la décision judiciaire ou administrative.
Quelles sont les sanctions pour non-conformité ?
Un manquement du fournisseur à l'Article 14 relève de l'Article 16, donc de l'Article 99(4) : l'amende peut atteindre 15 M€ ou 3 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu, sauf pour les PME, qui bénéficient du plafond le plus bas selon l'Article 99(6). Un manquement du déployeur à l'Article 26 relève du même palier. L'autorité peut aussi exiger des mesures correctives, le retrait ou le rappel du système.
Comment documenter la supervision humaine ?
La documentation peut couvrir cinq volets : identification des superviseurs, description des mécanismes techniques (interface, arrêt), procédure d'intervention, plan de formation, journal d'intervention horodaté. La forme n'est pas imposée par l'AI Act. ISO/IEC 42001:2023 peut fournir des trames utilisables, sans présomption de conformité.
Quelle est la différence entre supervision et contrôle ?
La supervision humaine au sens de l'Article 14 est une fonction continue, intégrée à la conception du système, qui s'exerce avant, pendant et après l'exécution. Le contrôle ponctuel ne suffit pas : l'AI Act exige que le superviseur conserve à tout moment la possibilité d'interrompre le système (Art. 14, par. 4 (e)) et la conscience du risque de biais d'automatisation (Art. 14, par. 4 (b)).
Où trouver des ressources pratiques pour les PME ?
Trois ressources de référence : les fiches pratiques de la CNIL (cnil.fr), l'AI Act Service Desk de la Commission européenne, et la norme ISO/IEC 42001:2023. Pour les définitions de termes, le glossaire constitue un point d'entrée francophone. La page Sources liste les textes utilisés.
Sources officielles
- Règlement (UE) 2024/1689 — texte officiel sur EUR-Lex
- Règlement (UE) 2026/1744 (« Omnibus IA ») — EUR-Lex
- Texte annoté de l'AI Act — artificialintelligenceact.eu
- AI Act Service Desk — Commission européenne
- CNIL — fiches pratiques IA
- ISO/IEC 42001:2023 — Artificial Intelligence Management System (AFNOR / ISO)
- ISO/IEC 23894:2023 — Information technology — Artificial intelligence — Guidance on risk management
Cet article fournit des informations générales sur l'EU AI Act applicables aux PME françaises. Il ne constitue pas un conseil juridique. Pour toute décision opérationnelle, faites valider votre démarche par votre DPO ou conseil juridique. regulia décline toute responsabilité quant à l'usage qui peut être fait de ces informations.