Face à l’augmentation de la diffusion de contenus sexuels générés par des deepfakes, le Congrès américain presse Apple, Google, et d’autres grandes entreprises technologiques de renforcer leurs mesures de régulation. Les plateformes sont appelées à mieux contrôler les applications et publicités qui font la promotion ou permettent de créer des deepfakes.
(Ce visuel est vraiment 100% fake et généré en quelques clics, même s'il ne reprend pas les traits d'une vraie personne)
Les deepfakes sont un problème croissant
Les deepfakes, ces vidéos manipulés par intelligence artificielle, posent de plus en plus de problèmes, en particulier lorsqu’ils sont utilisés pour produire des images pornographiques qui détournent l’image et les visages de personnes qui n’ont rien demandé. Les géants technologiques, comme Apple, Google et Microsoft, sont critiqués pour leur incapacité à bloquer ce phénomène sur leurs plateformes. Des applications dites à “double usage” permettent de créer des contenus inoffensifs mais sont détournées pour produire des deepfakes particulièrement problématiques. Le Congrès américain s’appuie sur des enquêtes, en particulier de 404 Media, pour montrer les failles des politiques de contrôle en place, et interpelle les PDG des grandes entreprises technologiques, pour les faire réagir.
Les actions demandées à Apple et Google
Dans une lettre adressée à Tim Cook, PDG d’Apple, le Congrès reproche à l’App Store d’avoir permis la diffusion d’applications qui exploitent ces dérives. Malgré le retrait de certaines applications après des signalements, les failles du processus de validation sont considérées comme préoccupantes. Des questions précises ont été posées : quelles mesures Apple prévoit-il pour empêcher la multiplication de deepfakes pornographiques et quels délais sont envisagés pour la mise en place de ces actions ? Un courrier similaire envoyé à Sundar Pichai, PDG de Google, pointe en particulier des publicités qui font la promotion de ces applications. Les résultats de recherche pour des termes comme « undress apps » continuent de proposer des réponses considérées comme problématiques.
Les limites des systèmes actuels et les attentes du Congrès
Le problème des applications à “double usage” est compliqué à gérer pour les plate-formes et les gants de la tech. Elles proposent des fonctions anodines, et sont difficiles à détecter. On l’a aussi vu avec des applications qui sont détournées de leurs usages pour proposer des contenus en streaming illégal, et qui sont toujours fonctionnelles aujourd’hui. Le Congrès insiste lui sur l’importance de surveiller plus rigoureusement ces applications, et demande des investissements supplémentaires dans la modération. Parmi les mesures suggérées, il y a aussi l’amélioration des processus de signalement et des sanctions plus importantes pour les développeurs en infraction.
Du streaming illégal planqué dans des applications anodines
Une réglementation en pleine évolution
En plus d’Apple et Google, d’autres entreprises comme Microsoft, Meta et TikTok sont également concernées. Le Congrès veut mettre en place une régulation commune pour contrer ces dérives. Les entreprises sont appelées à renforcer leurs outils de détection et à exclure les applications non conformes. Les efforts actuels sont jugés insuffisants face à l’ampleur du problème.
