Actualité

Divers

ChatGPT peut contourner certaines sécurités. Quelles conséquences ?

Par Laurence - Publié le

En cette période d'incertitudes et de méfiance vis-à-vis de l'Intelligence Artificielle, il semblerait qu'OpenAI réfléchisse à deux fois avant de développer de nouvelles fonctions.

Bing OpenAI ChatGPT


Des abus de la part des utilisateurs



Ainsi, avant même son lancement au grand public, la version bêta de ChatGPT Browse with Bing vient d'être suspendue et n'est plus disponible pour le moment. Le développeur n'a pas indiqué de nouvelle date de remise en l'état, précisant toutefois que sa décision était nécessaire, des utilisateurs ayant abusé de ce service.

Dans une note publiée sur son site web, OpenAI dit avoir signalé des cas où un abonné de ChatGPT Plus demandait au chatbot le texte intégral d'une citation. Si la démarche peut se comprendre (notamment dans la vérification des sources), il semblerait que pour répondre à la question l'intelligence artificielle puisse réussir à contourner les paramètres de confidentialité et de protection de contenus payants.

Ce qui ne fait que confirmer les craintes de détournements possibles via l'IA ! OpenAI ne pouvait donc ignorer ce comportement, même s'il n'est qu'occasionnel. La question est de savoir désormais comment le développeur va gérer cette situation, qui n'est pas propre à Bing mais bien à l'utilisation du bot conversationnel.



Microsoft sécurise son partenariat avec ChatGPT



Dans sa dernière itération, le navigateur de Microsoft propose de nombreuses nouvelles fonctionnalités, y compris la prise en charge des raccourcis Siri. Désormais elle dispose d'une intégration de Bing de Microsoft, mais uniquement pour les abonnés payants.

En pratique, cette nouvelle fonctionnalité dénommée Browsing utilise GPT-4 combinée à la recherche Bing. Lorsqu'elle est activée, le bot conversationnel va donner des réponses complètes et des informations actuelles sur les événements et les informations qui vont au-delà des données d'entraînement originales du modèle.

En effet, il va utiliser le moteur de recherche pour donner des réponses encore plus précises basées sur des données récentes. Cette modification permettait de répondre à de nombreuses critiques concernant l'actualité, en effet le bot a été formé avec des données qui s'arrêtaient au plus tard en septembre 2021. L'IA n'avait donc aucune connaissance des événements postérieurs, ce qui est désormais terminé avec cette intégration.

ChatGPT peut contourner certaines sécurités. Quelles conséquences ?
599€ Optimisez Votre MacBook avec la Clarté 4K BenQ

Optimisez Votre MacBook avec la Clarté 4K BenQ

Bénéficiez d'une résolution 4K éblouissante avec un écran conçu pour tirer le meilleur de votre MacBook. Profitez de chaque détail et couleur, pour une immersion totale, qu'il s'agisse de créations graphiques ou de simple confort visuel.