Créée par la loi Informatique et Libertés, la Cnil a depuis étendu son champs d'intervention à de nouveaux domaines connexes, comme celui de l'Intelligence Artificielle, dont l'actualité est de plus en plus chargée.
l'IA, un dossier chaud !
Ces derniers temps, la Cnil a fort à faire en matière d'Intelligence Artificielle, à commencer par les caméras de surveillance boostées à l'IA pour les JO de Paris 2024. Aussi, dans une interview publiée hier, Marie-Laure Denis revient sur le rôle crucial joué par la Commission qu'elle préside depuis 2019.
En effet, les problématiques sont vastes : algorithmes, caméras de surveillance dites augmentées, sanctions contre les géants du numérique, vérification de l’âge des mineurs sur internet… L'évolution vers une société numérique l'emmène finalement sur de nombreux sujets sensibles.
Trouver le juste équilibre !
Dans une série de questions-réponses, la Présidente se veut ferme mais rassurante. Elle rappelle d'ailleurs le problème central : ne pas brider le développement de l’intelligence artificielle et garantir la protection des données personnelles.
Il faudra comme tous les autres dossiers touchant au numérique : trouver le juste équilibre ! Celui-ci touchera aussi bien les quantités d'informations recueillies, leur utilisation, leur sécurisation et leur durée de conservation. A cela, s'ajoute la nécessité d'expliquer clairement les mécanismes aux utilisateurs, et ce, afin d'obtenir leur consentement.
Nous allons donc nous concentrer sur deux chantiers: la constitution des bases de données d’apprentissage et l’articulation du projet de règlement européen sur l’intelligence artificielle avec le RGPD, la réglementation sur les données personnelles.
Et en pratique ?
Mais voila plus facile à dire qu'à faire ! Elle souligne la séduction d'outils tels ChatGPT, que de nombreux professionnels craignent, voire dénoncent, comme les artistes, les musiciens ou les auteurs de livres.
Mais elle reste très théorique, se contentant de rappeler de grands soucis sans apporter de solutions. De même, certains pourraient dénoncer une absence d'actions / réactions face à l'essor de technologies avec un fort potentiel répressif, comme la vidéo surveillance via l'IA. Très décriée lors de son apparition en Chine, celle-ci semble s'inviter -sans grande opposition- dans les mois à venir.
Des modèles d’IA générative comme ChatGPT posent-ils des défis par rapport au RGPD?
Il est vrai que ces systèmes générateurs de textes, d’images ou de sons se développent très vite. Ils utilisent pour s’entraîner, de façon bien peu transparente, des sources de données ouvertes sur internet, qui n’ont généralement pas été vérifiées. Ce sont des outils très puissants, ayant vocation à s’améliorer, mais qui peuvent avoir des effets de bord qu’il faudra surveiller. Cela pose des questions de protection des données pour l’accès à une information fiable et sourcée et l’exercice des droits des personnes concernées qui dépassent d’ailleurs la régulation de la Cnil, avec des enjeux éthiques, notamment sur l’éventuelle diffusion de fausses informations ou d’actions malveillantes et des enjeux économiques s’agissant de l’emploi et du respect du droit d’auteur.
Mac4ever renforce ses équipes et recherche plusieurs personnes pour participer à la rédaction de son fil d'actualité, à la création de contenu vidéo, ainsi qu'à l'amélioration du référencement des contenus. Si tu es intéressé, n'hésite pas à postuler !
