Un nouveau rapport de l’ETSI sur la sécurisation de l’Intelligence Artificielle

L’Institut européen des normes de télécommunication ETSI a mis en place le groupe de travail ETSI ISG Securing AI (ETSI ISG SAI) en octobre 2019 afin de proposer des rapports et des spécifications techniques dans le but de maintenir et d’améliorer la sécurité des systèmes basés sur l’Intelligence Artificielle (IA).

Ce groupe de travail a récemment publié son premier rapport intitulé ETSI GR SAI 004 Securing AI ; problem statement dans lequel il décrit les problématiques liées à la sécurisation des systèmes et des solutions basés sur l'IA. Ce rapport met l'accent sur l'apprentissage automatique et les risques liés à la confidentialité, l'intégrité et la disponibilité présents à chaque étape de son cycle de vie. Le rapport présente également différents défis en lien avec la sécurité de l’IA, notamment les biais, l'éthique et l’explication des résultats fournis. Par ailleurs, il considère l’utilisation de matériel informatique dédié comme introduisant une nouvelle source potentielle de menaces. Il décrit aussi différents types d’attaques qui visent à exploiter les failles de sécurité de l’IA, comme par exemple l’ingénierie inversée. Enfin, pour illustrer plus concrètement les concepts introduits, le rapport expose plusieurs cas d'utilisation et d'attaques réels.

Les informations contenues dans ce rapport seront utilisées pour définir la portée des futurs travaux de normalisation concernant la sécurisation et les autres défis inhérents à l’IA.

Consulter les normes de l’ETSI et s’impliquer dans le développement des normes

Une liste des publications proposées par le groupe de travail ETSI ISG SAI est disponible sur cette page Vous pouvez également consulter la liste des projets en cours d’élaboration sur le portail de l’ETSI . Afin de contribuer au développement de ces documents, tout acteur économique a la possibilité de devenir membre de l’ETSI en suivant la procédure présentée sur le site : https://www.etsi.org/membership/become-a-member.

Dernière mise à jour