Après de nombreuses interrogations, la Cnil vient de dévoiler les grands axes de son plan d'encadrement de l'IA.
Image @ La Cnil
Comprendre et rassurer avant tout
Il s’agit avant tout de comprendre le fonctionnement de ces systèmes, informer les citoyens de leurs droits face à l’IA mais aussi les rassurer face à la croissance exponentielle et sur-médiatisé de cet outil.
Le directeur des technologies et de l’innovation, Bertrand Pailhès, précise que la Commission reçoit beaucoup de questions sur l'utilisation des données par une IA, l’existence d’un droit d’opposition ou encore comment l’exercer en pratique.
De nouvelles réglementations à venir
Il faudra aussi tenir compter des réglementations internationales en préparation au niveau de l'Union européenne, mais également avec d'autres pays. Sans oublier une nécessaire adaptation en cours de route par rapport à l'état du développement de l'IA !
En attendant, la Commission va accompagner trois startup françaises (Contentsquare, Hugging Face et Lifen), et ce, afin de s'assurer qu'elles protègent bien les données tout en restant dans le bon tempo [par rapport à leurs concurrents], voire en fassent un avantage concurrentiel.
• Pour contribuer au projet de la Cnil : ia[@]cnil.fr
Image @ La Cnil
Un projet d'envergure au niveau de l'Europe
Du côté européen, le projet de loi sur l'IA vient de recevoir l'aval du Parlement lors d'un vote en commission. Ce dernier pourra être confirmé en juin dans le cadre d'une assemblée plénière avant de passer au stade des navettes institutionnelles.
Ce texte s'inspire des réglementations existantes en matière de sécurité des personnes et produits. Il entend imposer des contrôles en priorité sur les entreprises. Il y aura également des obligations pour les applications jugées à haut risque reconnues d'après des critères prédéterminés.
Pour l'exécutif, il est nécessaire de protéger les domaines sensibles, comme certaines infrastructures (santé, banque par exemple), l'éducation, les ressources humaines, le maintien de l'ordre ou la gestion des migrations. Les interdictions demeurent l'exception et sont assez rares. Elles portent sur les applications contraires aux valeurs européennes, comme les systèmes de surveillance de masse utilisés en Chine.
Enfin, l'Europe s'oriente vers un nécessaire contrôle de l'humain sur la machine, l'existence d'une documentation technique, ou encore la mise en place d'un système de gestion du risque. Enfin le respect des règles sera dévolu à des autorités de surveillance désignées dans chaque pays membre.
