X, le réseau social d’Elon Musk, commence à dévoiler son nouveau modèle de génération d’images, dédié à la création de photo hyper-réalistes, répondant au doux nom d’Aurora. Il sera progressivement intégré à Grok, et pose déjà des questions sur ses capacités et les limites éthiques de son utilisation.
Aurora : un outil puissant
X a donc décidé de mettre à disposition pour certains utilisateurs, Aurora, un générateur d’images IA rattaché à son assistant Grok. Accessible en version bêta dans la section dédiée de l’application, Aurora doit permettre de générer des rendus plus réalistes que son prédécesseur. Ne vous jetez pas dessus cela dit, son accès reste limité : les utilisateurs gratuits peuvent générer seulement trois images par jour avant d’atteindre un seuil imposé, et surtout, peu d’utilisateurs semblent y avoir accès aujourd’hui en dehors des utilisateurs américains. Quoi qu’il en soit, la technologie employée semble capable de produire des visuels impressionnants, en particulier des paysages et des portraits, en rivalisant avec des modèles comme DALL-E 3 d’OpenAI. Certains résultats présentent quand même des anomalies typiques, comme des mains mal proportionnées.
Peu de restrictions
L’une des caractéristiques d’Aurora est son approche très laxiste au niveau de la modération. Contrairement à d’autres outils, Aurora génère sans difficulté des images de personnalités publiques ou protégées par des droits d’auteur, comme Mickey Mouse ou des personnalités politiques. Le site TechCrunch a même relayée un visuel quelque peu spécial, à savoir une représentation de Donald Trump ensanglanté. Pas génial. Il semblerait par contre que le générateur refuse toujours catégoriquement de produire des images à caractère sexuel. On note donc qu’il y a bien des filtres, mais qu’ils sont ciblés sur la nudité et la pornographie, pour le reste les vannes sont grandes ouvertes, et on risque de voir passer pas mal d’illustrations de fake news à base de deepfakes générées avec cet outil dans les semaines à venir.
Bon sur ce test là il n'y a rien qui va
Pourquoi de questions sur ce modèle
Aurora est développé par xAI, la start-up d’intelligence artificielle d’Elon Musk, mais les détails sur sa conception ne sons pas connus. On ignore pour le moment si le modèle a été entièrement conçu en interne ou s’il repose sur une collaboration avec un partenaire tiers. Cette nouveauté arrive au moment où xAI vient de lever 6 milliards de dollars, ce qui pourrait accélérer le développement d’autres outils d’IA dans un avenir proche.
Enjeux législatifs
L’arrivée de générateurs d’images très avancés comme Aurora pose clairement des défis éthiques et légaux. Certains États américains, comme la Californie, adoptent déjà des lois strictes contre les deepfakes non signalés, X risque de faire face à de nouvelles critiques, d’autant plus qu’on connait les penchants d’Elon Musk pour dénoncer les régulations, et les qualifiant d’atteintes à la liberté d’expression.
