Le Comité technique pour la sécurisation de l'intelligence artificielle (TC SAI) de l'Institut européen des normes de télécommunications (ETSI) a publié la spécification technique ETSI TS 104 275, destinée à renforcer la responsabilité des concepteurs et des exploitants de systèmes d'intelligence artificielle face aux risques associés aux contenus synthétiques trompeurs, notamment les deepfakes.
Cette spécification définit des mesures pratiques et des mécanismes de contrôle visant à limiter la création et la diffusion de contenus générés par l'IA susceptibles d'être utilisés à des fins malveillantes.
Fondée sur les exigences essentielles de cybersécurité de la norme ETSI EN 304 223, la spécification technique TS 104 275 fournit aux organisations un cadre permettant de mieux prévenir, détecter et atténuer les risques liés aux deepfakes. Elle contribue également à la mise en œuvre des objectifs du règlement européen sur l'intelligence artificielle (AI Act) en encourageant l'adoption de mesures de sécurité au-delà des seuls systèmes d'intelligence artificielle (IA) classés à haut risque.
La spécification technique recommande notamment les mesures suivantes :
- la réalisation d'évaluations des risques avant le déploiement des systèmes d'IA ;
- la mise en place d'une supervision humaine appropriée ;
- l'adoption de mécanismes de protection contre les usages abusifs ;
- une surveillance continue des systèmes et de leurs impacts ;
- des évaluations fondées sur des éléments probants afin de démontrer l'efficacité des mesures de sécurité mises en œuvre.
Cette initiative s'inscrit dans le renforcement du cadre européen de confiance et de sécurité appliqué aux technologies d'intelligence artificielle.