En ce mercredi, les eurodéputés viennent de voter à une large majorité un nouveau texte visant à encadrer les systèmes d'intelligence artificielle (comme ChatGPT), une première au niveau mondial.
L'AI Act enfin adoptée
En tant que commissaire en charge du dossier, Thierry Breton -qui est un fan de X (ex-Twitter)- y est allé de son petit post, mettant en avant la suprématie de l'UE en matière d'IA. Il s'est félicité du soutien massif du Parlement (avec 523 voix pour, et 46 contre), ce qui n'était pas chose aisée au vu des nombreux débats qui ont émaillé ces derniers mois.
Pour rappel, la Commission européenne avait présenté son projet en avril 2021, mais l'arrivée de ChatGPT en novembre 2022 avait quelque peu bouleversé les discussions. Capable de rédiger des dissertations, d'effectuer des traductions en quelques secondes ou de créer des contenus musicaux / graphiques tout aussi rapidement, l'IA générative d'OpenAI avait donné une nouvelle dimension aux débats.
L’AI Act prévoit notamment une interdiction -sauf exception pour des raisons de sécurité- de l’identification biométrique à distance en temps réel, des dispositifs de surveillance de masse et de manipulation du comportement ou encore des systèmes de score social (ndlr : notation citoyenne), comme celui qui existe actuellement en Chine.
Enfin il reste une dernière étapes, car les vingt-sept États de l'UE doivent encore approuver le texte en avril avant que la loi ne soit publiée au Journal officiel de l'UE en mai ou juin.
« Nous devrons être très attentifs à cette évolution de la technologie à l'avenir et être prêts à répondre aux nouveaux défis qui pourraient en découler »
Dragos Tudorache.
Face à l'annonce, l'Observatoire des multinationales (France), le Corporate Europe Observatory (Belgique) et le LobbyControl (Allemagne) ont répondu dans un communiqué commun. Ils disent redouter la mise en œuvre de ces règles et la pression des lobbies.
De nombreux détails de la loi sur l'IA restent ouverts et doivent être clarifiés../.. par exemple en ce qui concerne les normes, les seuils ou les obligations de transparence. La composition du conseil consultatif de la nouvelle agence européenne pour l'IA reste également floue.
Des débats houleux !
La France -qui n'a pas ménagé ses efforts durant les débats- avait fini par accepter mais moyennant quelques garanties d'après Reuters ! Parmi les conditions posées, on avait noté la volonté de ne pas entraver le développement de cette technologie, comme le respect d'un équilibre entre transparence, la préservation des secrets industriels ou encore la lourdeur administrative (?!...) dans la mise en œuvre des œuvres des obligations imposées aux systèmes d'IA à haut risque.
Parmi les points de friction, on rappellera le seuil de définition des modèles d'IA les plus puissants (ChatGP), qui permettra de poser des contraintes particulières sur certains projets. Ce seuil fera d'ailleurs l'objet d'actualisation régulière au vu de l'avancée des technologies (une démarche également adoptée par les États-Unis ou en Chine).
Plusieurs entités -comme la SACD ou la SACEM- ont par ailleurs appelé le gouvernement à ne pas renoncer à certains principes, comme l’exception culturelle et la protection du droit d’auteur. Les droits d'auteur faisaient également partie des sujets sensibles, avec le renforcement de l'obligation de transparence sur les données utilisées. Mais il reste à savoir comment -en pratique- on pourra le contrôler et le prouver !
