Une série d’experts et de chefs d’entreprise appellent à faire face contre les risques liés à l’IA, et ce, via une déclaration en ligne. Ces derniers ne cachent pas leurs mots, évoquant une extinction possible de l’humanité.
Un avertissement clair !
La déclaration n’est pas bien longue. Une phrase de 23 mots, mais le message est clair : la lutte contre le risque d'extinction par l'IA devrait être une priorité mondiale au même titre que d'autres risques à l'échelle de la société, tels que les pandémies et les guerres nucléaires.
Peut-on encore stopper chatgpt ?
Parmi ces 350 signataires sur le site internet du Center for AI Safety (une organisation à but non lucratif basée aux Etats-Unis), certains noms ont plus de poids que d’autres.
On trouve ainsi Sam Altman, qui n’est autre que le papa de ChatGPT. Ce dernier est actuellement en tournée en Europe pour défendre sa création, tout en multipliant les avertissements sur les dérives et de possibles graves dommages mondiaux (par exemple en manipulant des élections). La semaine dernière à Paris, il a rencontré le président Emmanuel Macron et a discuté avec lui du juste équilibre entre protection et impact positif de cette technologie.
Il y a aussi Geoffrey Hinton, considéré comme l'un des pères fondateurs de l'intelligence artificielle. Ce dernier avait déjà mis en garde contre ses dangers en quittant début mai son poste au sein de Google, estimant que les avancées actuelles (leur rythme ?) induisaient de profonds risques pour la société et l'humanité.
En mars, le milliardaire Elon Musk -un des fondateurs d'OpenAI dont il a ensuite quitté le conseil d'administration - et des centaines d'experts avaient réclamé une pause de six mois dans la recherche sur les IA puissantes, en évoquant des risques majeurs pour l'humanité.
ET Apple ?
Enfin, Steve Wozniak avait également pris parti dans la foulée. D'après lui, l'IA ne peut pas être stoppée, même s'il estime qu'une pause dans son développement serait salutaire. Mais il avait précisé qu'il n’était pas possible d'arrêter la technologie, et la réglementation actuelle ne pouvait pas faire grand chose.
Lors des derniers résultats, Tim Cook a évoqué le sujet, limitant pour le moment l'activité de la firme californienne. Il avait également ajouté qu'Apple continuera à intégrer l’IA au sein de ses produits, mais de manière très réfléchie. A force de l’entendre répéter cela, on pourrait y déceler une critique subtile de la situation actuelle et d’un manque de réflexion justement.
