OpenAI poursuit la réorganisation de ses équipes consacrées à la sécurité de l’intelligence artificielle. Selon le Financial Times, l’entreprise a supprimé fin juillet son équipe chargée d’anticiper les risques les plus sérieux liés à ses modèles. Ses missions ne disparaissent toutefois pas complètement : elles seront désormais réparties entre plusieurs équipes spécialisées, notamment dans la cybersécurité et les risques biologiques.
UNE ÉQUIPE CHARGÉE D’ANTICIPER LES SCÉNARIOS LES PLUS DANGEREUX
Nouvelle réorganisation importante chez OpenAI. D’après le Financial Times, la firme a dissous son équipe Preparedness à la fin du mois de juillet. Sa mission consistait à évaluer les capacités potentiellement dangereuses des modèles développés par l’entreprise et à déterminer les mesures permettant d’en limiter les conséquences. Les scénarios étudiés pouvaient notamment concerner l’utilisation d’une IA pour mener des cyberattaques, mais également d’autres domaines considérés comme particulièrement sensibles.
Pas de panique car OpenAI ne renoncerait cependant pas à ces travaux. Plutôt que de conserver une équipe transversale dédiée à l’ensemble des menaces, l’entreprise aurait décidé de répartir les responsabilités entre différentes structures existantes. Les spécialistes des risques biologiques ou cyber devraient ainsi travailler directement au sein des équipes correspondant à leur domaine.
PLUSIEURS ÉQUIPES DE SÉCURITÉ ONT DÉJÀ DISPARU
Cette décision ne constitue pas un cas isolé. Ces dernières années, OpenAI a déjà profondément modifié son organisation autour de la sécurité et de la préparation à une intelligence artificielle beaucoup plus avancée.
L’entreprise a notamment supprimé ses équipes consacrées à l’AGI Readiness et Superalignment. Cette dernière avait été créée pour étudier la manière de contrôler des systèmes d’IA susceptibles de devenir beaucoup plus intelligents que les humains.
Plusieurs responsables importants ont également quitté OpenAI. Le Financial Times cite notamment Chloé Bakalar, qui travaillait sur les questions éthiques, Josh Achiam (Chief Futurist) ainsi que Johannes Heidecke, responsable de la sécurité. Ces départs et réorganisations alimentent forcément les critiques sur l’évolution des priorités de l’entreprise.
LA SÉCURITÉ SACRIFIÉE AU PROFIT DES PRODUITS ?
Le responsable de l'équipe visée ne quitte d’ailleurs pas OpenAI. Dylan Scandinaro, recruté chez Anthropic en février dernier, va désormais se concentrer sur une problématique particulièrement sensible : les conséquences potentielles des IA capables de procéder à une forme d’auto-amélioration récursive. L’idée est d’étudier des systèmes suffisamment avancés pour participer eux-mêmes à l’amélioration de leurs propres capacités.
Jan Leike, ancien responsable du Superalignment ayant quitté OpenAI en 2024, estime toutefois que l’entreprise privilégie désormais davantage le développement de produits attractifs au détriment des questions de sécurité. Cette nouvelle restructuration intervient également dans une période particulièrement importante pour OpenAI, alors que l’entreprise se prépare à ce qui pourrait devenir une introduction en Bourse la plus importante du moment.
Qu’en penser ?
La succession des réorganisations commence forcément à attirer l’attention. Preparedness rejoint plusieurs structures consacrées aux risques avancés de l’IA qui ont disparu sous leur forme initiale chez OpenAI, tandis que plusieurs figures importantes de la sécurité ont quitté l’entreprise. La question est désormais de savoir si cette nouvelle organisation plus décentralisée permettra réellement de renforcer l’évaluation des risques ou si elle réduira, au contraire, le poids de ces sujets au moment où les modèles deviennent toujours plus performants.
