L'essentiel en 30 secondes
- L'Article 15 du règlement (UE) 2024/1689 impose aux systèmes d'IA à haut risque d'atteindre un niveau approprié d'exactitude (précision), de robustesse et de cybersécurité, de façon constante tout au long de leur cycle de vie.
- Le fournisseur déclare les niveaux d'exactitude et les métriques pertinentes dans la notice d'utilisation (Art. 15(3), Art. 13).
- La robustesse vise les erreurs, défaillances et incohérences (redondance, plans de sécurité intégrée) et, pour les systèmes qui continuent d'apprendre, les boucles de rétroaction biaisées.
- La cybersécurité inclut des mesures contre le data poisoning, le model poisoning, les exemples adversariaux (model evasion), les attaques de confidentialité et les défauts du modèle (Art. 15(5)).
- Ces exigences s'appliquent à partir du 2 décembre 2027 (Annexe III) et du 2 août 2028 (Annexe I), selon le règlement (UE) 2026/1744 (« Omnibus IA ») ; un manquement du fournisseur est passible de 15 M€ ou 3 % du CA mondial (Art. 99(4)), le plus bas des deux pour une PME.
L'Article 15 impose que les systèmes d'IA à haut risque soient conçus pour atteindre un niveau approprié d'exactitude, de robustesse et de cybersécurité tout au long de leur cycle de vie. Le fournisseur déclare les niveaux d'exactitude dans la notice d'utilisation et traite les erreurs, les boucles de rétroaction et les attaques propres à l'IA. Ces exigences s'appliquent à partir du 2 décembre 2027 pour l'Annexe III.
1. Contexte réglementaire : l'Article 15 dans l'AI Act
L'Article 15 du Règlement (UE) 2024/1689, dit « AI Act », encadre les performances techniques attendues des systèmes d'IA à haut risque. Il s'inscrit dans la section 2 du chapitre III, qui fixe les exigences applicables à ces systèmes ; le fournisseur doit garantir leur respect (Art. 16, point a).
Un système d'IA est qualifié à haut risque lorsqu'il entre dans le champ de l'Article 6, paragraphes 1 et 2. Cela vise les systèmes listés en Annexe III (recrutement, scoring de crédit, biométrie, accès à l'éducation, infrastructures critiques, administration de la justice, entre autres) et les composants de sécurité de produits couverts par l'Annexe I. Voir systèmes à haut risque.
Pour une PME française, trois cas concrets déclenchent l'Article 15 :
- Vous développez un logiciel de tri de CV ou de scoring de candidats.
- Vous fournissez un modèle de scoring de crédit (Annexe III, point 5 b), la détection de fraude financière étant exclue de cette catégorie.
- Vous fournissez un dispositif médical embarquant une composante algorithmique soumise au règlement (UE) 2017/745.
L'objectif est de garantir que les systèmes produisent des résultats fiables tout au long de leur cycle de vie. L'exactitude sans robustesse ne suffit pas, ni la robustesse sans cybersécurité : les trois exigences se complètent.
L'entrée en application pour les systèmes à haut risque de l'Annexe III est fixée au 2 décembre 2027, et au 2 août 2028 pour ceux de l'Annexe I, selon le règlement (UE) 2026/1744 (« Omnibus IA »). Le Règlement a été publié au Journal officiel de l'Union européenne le 12 juillet 2024.
| Pilier de l'Art. 15 | Finalité | Risque en cas de défaillance |
|---|---|---|
| Précision | Exactitude des sorties par rapport aux spécifications | Décisions erronées, discrimination indirecte |
| Robustesse | Résilience aux erreurs, défaillances, incohérences | Plantage en production, biais de drift |
| Cybersécurité | Protection contre attaques adversariales | Vol de modèle, manipulation de sorties |
2. Exigences d'exactitude (précision) : définition et tests
L'Article 15, paragraphe 1, prévoit que les systèmes d'IA à haut risque sont conçus et développés pour atteindre un niveau approprié d'exactitude, de robustesse et de cybersécurité, et pour fonctionner de façon constante à cet égard tout au long de leur cycle de vie.
L'exactitude (ou précision) désigne la capacité du système à produire une sortie conforme à la spécification fonctionnelle. Pour un modèle de classification, on parle d'accuracy, de précision-rappel, de F1-score. Pour un modèle de régression, de RMSE ou MAE. Pour un LLM intégré, de taux d'hallucinations mesurable. L'Article 15(2) prévoit que la Commission encourage, avec les parties prenantes (autorités de métrologie et d'évaluation comparative), le développement de référentiels et de méthodologies de mesure.
L'Article 15, paragraphe 3, impose de déclarer les niveaux d'exactitude et les métriques pertinentes dans la notice d'utilisation prévue à l'Article 13. Le fournisseur s'engage ainsi sur les performances annoncées.
2.1 Méthodologie de test possible
Pour démontrer l'exactitude, le fournisseur peut :
- Définir les métriques pertinentes à la finalité du système.
- Constituer des jeux de données de test représentatifs des populations cibles, incluant les sous-groupes protégés.
- Documenter les seuils acceptables, validés en interne par le responsable produit.
- Réaliser des tests sur jeux de données indépendants (hors training, hors validation).
- Versionner les résultats à chaque release majeure du modèle.
Les normes harmonisées sont élaborées par le CEN-CENELEC JTC 21 ; leur état d'avancement est à vérifier. Une fois leurs références publiées au Journal officiel, elles confèrent une présomption de conformité (Art. 40). En attendant, les référentiels de mesure restent à documenter par le fournisseur.
2.2 Risques spécifiques aux PME
Trois écueils sont possibles pour une PME :
- Surapprentissage sur jeu de test interne : la précision affichée en R&D ne se retrouve pas en production.
- Données déséquilibrées : un modèle de scoring de crédit performant en moyenne peut être moins exact sur une catégorie de demandeurs.
- Absence de re-validation : tout retraining doit déclencher une campagne de tests complète.
Le guide AI Act pour les PME françaises détaille la cartographie des cas d'usage à haut risque.
3. Robustesse : résistance aux perturbations
L'Article 15, paragraphe 4, impose que les systèmes d'IA à haut risque soient aussi résilients que possible face aux erreurs, défaillances ou incohérences pouvant survenir au sein du système ou de son environnement, en particulier en raison de leur interaction avec des personnes physiques ou d'autres systèmes. Des mesures techniques et organisationnelles sont prises à cet égard.
La robustesse peut se décliner en trois dimensions :
- Robustesse technique : tolérance aux pannes matérielles, aux entrées malformées, aux dépendances logicielles défaillantes.
- Robustesse environnementale : performance maintenue face à un drift de distribution des données entrantes.
- Robustesse aux interactions : comportement prévisible lors d'usages non anticipés par les utilisateurs finaux.
Le même paragraphe vise les systèmes qui continuent d'apprendre après leur mise sur le marché : ils sont développés de façon à éliminer ou réduire autant que possible le risque que des résultats biaisés influencent les entrées des opérations futures (boucles de rétroaction), ces boucles étant traitées par des mesures d'atténuation appropriées. Il est utile de documenter ces mécanismes.
3.1 Plans de redondance et fail-safe
La robustesse peut être obtenue par des solutions de redondance technique, qui peuvent inclure des plans de sauvegarde ou de sécurité intégrée (fail-safe). Concrètement, des pistes possibles :
- Mode dégradé déterministe activable manuellement.
- Bascule vers un système de secours en cas de défaillance.
- Procédure de mise hors service contrôlée sans rupture brutale.
3.2 Tests de robustesse
| Type de test | Objectif | Fréquence possible (à adapter au risque) |
|---|---|---|
| Stress test | Comportement sous charge | À chaque version majeure |
| Test d'entrées adversariales | Résistance aux entrées déformées | Régulière |
| Test de drift | Stabilité dans le temps | Régulière en production |
| Test d'incohérence | Cohérence des sorties | À chaque déploiement |
| Test de rollback | Capacité à revenir à un état stable | Périodique |
Vos documents IA, personnalisés et prêts aujourd'hui
Charte d'usage de l'IA, politique IA, registre des outils, analyses de risques et d'impact, procédures : le pack regulia les réunit, personnalisés selon votre entreprise et vos outils, à jour du règlement (UE) 2026/1744. 29 € jusqu'au 31 octobre, puis 99 €.
Créer mon pack — 29 €4. Cybersécurité : protection des données et systèmes
L'Article 15, paragraphe 5, traite spécifiquement de la cybersécurité. Les systèmes à haut risque résistent aux tentatives de tiers non autorisés d'altérer leur utilisation, leurs sorties ou leurs performances en exploitant des vulnérabilités du système.
Les solutions techniques sont adaptées aux circonstances et aux risques pertinents. Pour les vulnérabilités propres à l'IA, elles incluent, le cas échéant, des mesures de prévention, de détection, de réaction, de résolution et de maîtrise des attaques suivantes :
- Data poisoning : empoisonnement des données d'entraînement.
- Model poisoning : compromission des modèles pré-entraînés tiers.
- Model evasion : entrées conçues pour tromper le modèle (adversarial examples).
- Confidentiality attacks : vol de modèle ou inversion permettant de retrouver les données d'entraînement.
- Model flaws : défauts du modèle exploitables par un tiers.
La prompt injection, propre aux systèmes à base de modèles génératifs, est une menace à considérer même si le texte ne la nomme pas.
4.1 Articulation avec ISO/IEC 27001:2022 et NIS2
Une PME peut déjà être soumise à la directive (UE) 2022/2555, dite NIS2 (entités essentielles et importantes) ; l'état de sa transposition en France est à vérifier. Les mesures de cybersécurité IA viennent compléter les exigences NIS2, pas s'y substituer.
| Cadre | Périmètre | Articulation avec Art. 15 |
|---|---|---|
| ISO/IEC 27001:2022 | SMSI général | Base SSI à étendre aux assets IA |
| ISO/IEC 42001:2023 | SMIA dédié IA | Cadre de management volontaire, sans présomption de conformité |
| NIS2 (UE 2022/2555) | Entités essentielles et importantes | Obligations de signalement d'incidents pouvant se cumuler |
| AI Act Art. 15 | Systèmes IA haut risque uniquement | Exigences spécifiques anti-attaques IA |
4.2 Mesures utiles
Pour démontrer le respect de l'Article 15, paragraphe 5, le fournisseur peut documenter :
- Une analyse de risques cyber spécifique aux composants IA.
- Des contrôles d'accès renforcés sur les artefacts d'entraînement et les pondérations du modèle.
- Une stratégie de tests adversariaux (red-teaming IA), régulière.
- Une procédure de gestion des vulnérabilités du système (veille, correctifs).
- Un plan de réponse à incident incluant le scénario de compromission du modèle.
Le glossaire regulia définit chacun de ces termes techniques pour vos équipes non spécialistes.
5. Obligations spécifiques pour les PME
L'AI Act prévoit des dispositions de soutien pour les PME au sens de la recommandation 2003/361/CE. L'Article 62 prévoit notamment un accès prioritaire aux bacs à sable réglementaires et la prise en compte de la taille des PME dans les frais d'évaluation de la conformité.
En France, la CNIL publie des fiches pratiques sur l'IA et le RGPD, et la Commission européenne propose le service desk de l'AI Act.
5.1 Documentation technique
L'Article 11 et l'Annexe IV imposent une documentation technique : voir l'Article 11 et l'Annexe IV. Pour l'Art. 15, elle comprend notamment (Annexe IV, points 2 g, 2 h, 3, 4 et 9) :
- Les métriques de précision retenues, avec justification.
- Les jeux de données de test utilisés.
- Les résultats des tests de robustesse.
- L'analyse de risques cybersécurité.
- Les mesures de mitigation mises en œuvre.
- Le plan de surveillance post-marché (Art. 72).
5.2 Calendrier de mise en conformité
| Échéance | Obligation | Statut |
|---|---|---|
| 2 février 2025 | Interdictions de l'Art. 5 | En vigueur |
| 2 août 2025 | Obligations des modèles d'IA à usage général | En vigueur |
| 2 décembre 2027 | Systèmes à haut risque de l'Annexe III (règlement (UE) 2026/1744) | Application de l'Art. 15 |
| 2 août 2028 | Systèmes à haut risque de l'Annexe I | Application étendue |
5.3 Formation des équipes
L'Article 4 demande depuis le 2 février 2025 aux fournisseurs et aux déployeurs de prendre des mesures pour favoriser la maîtrise de l'IA de leur personnel : voir former ses équipes à la maîtrise de l'IA. Pour l'Art. 15, cela concerne directement les équipes data science, MLOps et SSI.
6. Sanctions et responsabilités
L'Article 99 du Règlement (UE) 2024/1689 fixe le régime de sanctions. Un système qui ne respecte pas les exigences de l'Article 15 constitue un manquement du fournisseur à l'Article 16, point a, passible (Art. 99(4)) d'amendes administratives :
- Jusqu'à 15 000 000 EUR, ou
- Pour une entreprise, jusqu'à 3 % du chiffre d'affaires mondial total annuel de l'exercice précédent,
la valeur la plus élevée étant retenue pour une grande entreprise.
L'Article 99, paragraphe 6, prévoit un plafond adapté pour les PME et start-ups : c'est le montant le plus faible des deux qui s'applique, et non le plus élevé ; le règlement (UE) 2026/1744 étend cette règle aux petites ETI (Art. 99(6a)). Cette disposition vise à proportionner la sanction à la capacité économique de l'entité.
| Manquement | Plafond grandes entreprises | Plafond PME |
|---|---|---|
| Pratiques interdites (Art. 5) | 35 M€ ou 7 % CA mondial | Le plus faible des deux |
| Manquement aux obligations du fournisseur (Art. 16, dont les exigences de l'Art. 15) | 15 M€ ou 3 % CA mondial | Le plus faible des deux |
| Informations incorrectes aux autorités | 7,5 M€ ou 1 % CA mondial | Le plus faible des deux |
Le calculateur d'amende AI Act chiffre le plafond applicable à une entreprise.
Au-delà des amendes, le déploiement d'un système non conforme expose la PME à :
- Des mesures de l'autorité de surveillance du marché, pouvant aller jusqu'au retrait du système du marché.
- Une responsabilité civile au titre de la directive (UE) 2024/2853 sur la responsabilité du fait des produits défectueux, applicable aux produits mis sur le marché à partir du 9 décembre 2026, logiciels et systèmes d'IA compris.
7. Outils et ressources pour les PME
La mise en conformité à l'Article 15 ne s'improvise pas. Plusieurs ressources institutionnelles peuvent guider la démarche.
7.1 Ressources européennes
- AI Act Service Desk : portail officiel de la Commission européenne pour les questions d'application de l'AI Act.
- CEN-CENELEC JTC 21 : normes harmonisées en préparation ; une fois leurs références publiées au Journal officiel, elles confèrent une présomption de conformité (Art. 40). État d'avancement à vérifier.
7.2 Ressources françaises
- CNIL : fiches pratiques IA sur l'IA et le RGPD.
7.3 Normes techniques applicables
| Norme | Périmètre | Apport pour Art. 15 |
|---|---|---|
| ISO/IEC 42001:2023 | Système de management de l'IA | Cadre de management volontaire, sans présomption de conformité |
| ISO/IEC 23894:2023 | Gestion des risques IA | Méthodologie d'analyse de risques |
| ISO/IEC 27001:2022 | SMSI | Base cybersécurité organisationnelle |
| ISO/IEC 25059:2023 | Qualité des systèmes IA | Modèle de qualité des systèmes d'IA (dont exactitude et robustesse) |
ISO/IEC 42001:2023 est une norme volontaire de système de management de l'IA : elle peut structurer la démarche, mais elle ne donne pas de présomption de conformité à l'Article 15.
Passez des obligations aux documents
Un manquement à la transparence peut coûter jusqu'à 3 % du chiffre d'affaires (Art. 99). Documentez vos mesures en une dizaine de minutes : charte, politique IA, registre, analyses de risques et procédures, livrés par e-mail en Word, Excel et PDF. 29 € jusqu'au 31 octobre, puis 99 €, satisfait ou remboursé 30 jours.
Créer mon pack — 29 €8. Conclusion : vers une conformité proactive
L'Article 15 ne se réduit pas à une checklist de tests techniques. Il consacre une approche intégrée où précision, robustesse et cybersécurité forment un triptyque indissociable, applicable à tout le cycle de vie du système.
Pour une PME française, trois priorités émergent :
- Cartographier sans attendre les systèmes susceptibles de tomber sous l'Annexe III ou l'Annexe I. La qualification à haut risque déclenche les exigences de la section 2 du chapitre III, dont l'Article 15, aux dates d'application.
- Documenter avant de tester. La traçabilité des choix méthodologiques pèse autant que les résultats eux-mêmes lors d'un contrôle.
- Adopter un cadre structurant, par exemple ISO/IEC 42001:2023 (volontaire), pour éviter la dispersion entre obligations AI Act, NIS2 et RGPD.
L'échéance du 2 décembre 2027 laisse du temps, mais la constitution d'un dossier technique conforme à l'Annexe IV mobilise plusieurs équipes : mieux vaut s'y prendre tôt.
Un système d'IA exact, robuste et sécurisé peut aussi renforcer la confiance des clients.
FAQ — Questions fréquentes sur l'Article 15
Quelles sont les principales exigences de l'article 15 pour les PME ?
Les PME fournisseurs de systèmes d'IA à haut risque doivent garantir l'exactitude, la robustesse et la cybersécurité de leurs systèmes, et déclarer les niveaux d'exactitude dans la notice d'utilisation. Ces exigences s'appliquent aux systèmes d'IA à haut risque, définis par l'Article 6 et les Annexes I et III. La documentation technique, qui inclut les rapports de test, est conservée pendant 10 ans après la mise sur le marché ou la mise en service (Art. 18).
Quelles sanctions encourent les PME non conformes ?
Un manquement du fournisseur aux exigences de l'Article 15 (Art. 16, point a) expose à des amendes jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires mondial annuel (Art. 99, paragraphe 4). Pour les PME, l'Article 99, paragraphe 6, retient le montant le plus faible des deux. S'y ajoutent des mesures de l'autorité de surveillance du marché et la responsabilité civile au titre de la directive (UE) 2024/2853.
Comment les PME peuvent-elles se conformer à l'article 15 ?
Les PME fournisseurs peuvent réaliser des tests d'exactitude avec des données représentatives, mettre en place des mesures de résilience couvrant les boucles de rétroaction, et renforcer leur cybersécurité contre les attaques propres à l'IA. ISO/IEC 42001:2023 peut structurer la démarche, sans présomption de conformité. Le service desk de l'AI Act et les fiches pratiques de la CNIL proposent des ressources gratuites. Le pack documentaire regulia comprend, lorsqu'elle s'applique, la documentation technique de l'Annexe IV.
Quelle est la différence entre précision et robustesse dans l'article 15 ?
L'exactitude (précision) concerne la conformité des sorties du système aux spécifications fonctionnelles, mesurée par des métriques comme l'accuracy, le F1-score ou le RMSE. La robustesse concerne la capacité du système à maintenir ses performances face aux erreurs, défaillances, drift de données et interactions imprévues. Un système peut être exact sur un jeu de test mais peu robuste en production. Les deux exigences sont cumulatives, pas alternatives.
Quelles ressources officielles sont disponibles pour les PME ?
Les PME peuvent consulter le service desk de l'AI Act (ai-act-service-desk.ec.europa.eu), les fiches pratiques de la CNIL sur l'IA, et s'appuyer sur les normes ISO/IEC 42001:2023, 23894:2023 et 25059:2023 (volontaires). Le guide AI Act pour les PME et la page Sources consolident les références utiles.
Sources officielles
- Règlement (UE) 2026/1744 (« Omnibus IA ») — EUR-Lex
- Règlement (UE) 2024/1689 — texte intégral sur EUR-Lex
- AI Act Service Desk — Commission européenne
- CNIL — fiches pratiques IA
- Texte annoté sur artificialintelligenceact.eu
- ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system
- ISO/IEC 23894:2023 — Information technology — Artificial intelligence — Guidance on risk management
- ISO/IEC 25059:2023 — Software engineering — Quality model for AI systems
Disclaimer : Cet article fournit des informations générales sur l'EU AI Act applicables aux PME françaises. Il ne constitue pas un conseil juridique. Pour toute décision opérationnelle, faites valider votre démarche par votre DPO ou conseil juridique. regulia décline toute responsabilité quant à l'usage qui peut être fait de ces informations.