La sécurité est décidément à l'ordre du jour. En effet, la Commission européenne envisage des mesures pour interdire temporairement certaines technologies de reconnaissance faciale. Ces dispositions seraient incluses dans un projet livre blanc sur l'Intelligence Artificielle, qui serait présenté en février.
Cette nouvelle réglementation pourrait bien entraver certains projets actuels, comme le déploiement de la reconnaissance faciale automatique dans les gares et les aéroports en Allemagne. Ou encore le projet de loi française sur l'intégration de reconnaissance faciale à la vidéosurveillance. A priori, il s'agirait de systèmes déployés à grande échelle, et cela ne concernerait pas les dispositifs privés, comme Face ID sur l'iPhone.
Pour l'instant, la proposition de texte fait référence à une période préalable de vérification, et non à une interdiction de principe. L'utilisation de la technologie de reconnaissance faciale par des acteurs privés ou publics dans les espaces publics ne serait pas autorisée pendant une période définie (par exemple 3 à 5 ans) pendant laquelle une méthodologie d'évaluation des impacts de cette technologie et d'éventuelles mesures de gestion des risques pourraient être identifiées et développées.
Les nouvelles normes aborderaient surtout les risques non couverts par la législation existante, comme les cyber-menaces, les atteintes à la sécurité des personnes, la vie privée et la protection des données personnelles.
Les cinq axes de réglementation de l'IA (projet) :
- déclaration volontaire (les bonnes pratiques seraient appliquées spontanément) - existence de conditions spécifiques pour l'administration publique, notamment pour la reconnaissance faciale (pas de profilage par exemple) - conditions obligatoires pour certaines situations à risques (domaines où le public est en danger ou où un intérêt juridique important est en jeu, risque pour l'intégrité des personnes...) - obligation de sécurité et responsabilité (nécessité d'une harmonisation des directives) - gouvernance (encadrement et contrôle)
