Le sous-comité technique de normalisation ISO/IEC JTC 1/SC 42 Artificial Intelligence vient d’approuver plusieurs projets de normes pour répondre aux questions relatives à la qualité des systèmes IA, un facteur essentiel pour établir la confiance dans cette technologie.
Ainsi, le projet de norme ISO/IEC 5059 Software engineering -- Systems and software Quality Requirements and Evaluation (SQuaRE) -- Quality Model for AI-based systems a été adopté. Basé sur un modèle normatif existant relatif à la qualité des systèmes et des logiciels, il énoncera les caractéristiques à prendre en compte pour comparer les systèmes IA tout en permettant de spécifier, mesurer et évaluer la qualité de ces derniers.
Pour rappel, trois projets de normes traitant de la robustesse et de la sécurité, des caractéristiques essentielles en matière de qualité des systèmes IA, sont en cours de développement :
- ISO/IEC TR 24029-1, Artificial Intelligence — Assessment of the robustness of neural networks — Part 1: Overview. Ce projet de rapport technique entend proposer un état de l’art des méthodes d’évaluation de la robustesse des réseaux de neurones.
- ISO/IEC 24029-2, Artificial Intelligence — Assessment of the robustness of neural networks — Part 2: Methodology for the use of formal methods. Ce projet vise à fournir une méthodologie pour l’utilisation de méthodes formelles afin d’évaluer la robustesse des réseaux de neurones.
- ISO/IEC 5469, Artificial intelligence — Functional safety and AI systems. Ce projet de rapport technique a pour objectif de donner une vue d’ensemble de l’impact de l’IA sur la sécurité fonctionnelle des systèmes.
Le bon fonctionnement d’un système IA est aussi fortement dépendant des données qu’il traite. Ainsi, le sous-comité ISO/IEC JTC 1/SC 42 s’intéresse également à la qualité de ces dernières. Une norme multipartite, qui comporte à ce jour trois parties, est actuellement développée sur cette thématique :
- ISO/IEC 5259-1, Data quality for analytics and ML -- Part 1: Overview, terminology, and examples. Ce projet présentera et illustrera par des cas concrets les concepts et les caractéristiques requis pour aborder la qualité des données au sein de l’IA.
- ISO/IEC 5259-3, Data quality for analytics and ML -- Part 3: Data Quality Management Requirements and Guidelines. Ce projet précisera les exigences relatives à la mise en place, la maintenance et l’amélioration continue de la qualité des données utilisées dans les systèmes IA.
- ISO/IEC 5259-4, Data quality for analytics and ML -- Part 4 : Data quality process framework. Ce projet proposera une approche permettant d’assurer la qualité des données pour l’apprentissage automatique (Machine Learning). Il fournira notamment des lignes directrices pour collecter, nettoyer, annoter, évaluer et utiliser les données.
Participation dans l’élaboration des normes techniques dans le domaine de l’IA
L’ILNAS offre la possibilité à toute personne intéressée de participer gratuitement à l’élaboration des normes en devenant délégué national en normalisation au sein d’un ou de plusieurs comités techniques. Une inscription au sous-comité ISO/IEC JTC 1/SC 42 Artificial Intelligence vous permettra notamment de travailler sur les projets de normes liés à la qualité la confiance et la fiabilité de l’IA .
Pour rejoindre ce sous-comité et échanger avec d'autres experts du domaine, vous pouvez compléter un formulaire de demande d’inscription puis le transmettre par e-mail à normalisation@ilnas.etat.lu.