ChatGPT peut contourner certaines sécurités. Quelles conséquences ?
Par Laurence - Publié le
Des abus de la part des utilisateurs
Ainsi, avant même son lancement au grand public, la version bêta de ChatGPT
Browse with Bingvient d'être suspendue et n'est plus disponible pour le moment. Le développeur n'a pas indiqué de nouvelle date de remise en l'état, précisant toutefois que sa décision était nécessaire,
des utilisateurs ayant abusé de ce service.
Dans une note publiée sur son site web, OpenAI dit avoir
signalé des cas où un abonné de ChatGPT Plus demandait au chatbot le texte intégral d'une citation. Si la démarche peut se comprendre (notamment dans la vérification des sources), il semblerait que pour répondre à la question l'intelligence artificielle puisse réussir à contourner les paramètres de confidentialité et de protection de contenus payants.
Ce qui ne fait que confirmer les craintes de détournements possibles via l'IA ! OpenAI ne pouvait donc ignorer ce comportement, même s'il n'est qu'occasionnel. La question est de savoir désormais comment le développeur va gérer cette situation, qui n'est pas propre à Bing mais bien à l'utilisation du bot conversationnel.
Microsoft sécurise son partenariat avec ChatGPT
Dans sa dernière itération, le navigateur de Microsoft propose de nombreuses nouvelles fonctionnalités, y compris la prise en charge des raccourcis Siri. Désormais elle dispose d'une intégration de Bing de Microsoft, mais uniquement pour les abonnés payants.
En pratique, cette nouvelle fonctionnalité dénommée
Browsingutilise GPT-4 combinée à la recherche Bing. Lorsqu'elle est activée, le bot conversationnel va donner
des réponses complètes et des informations actuelles sur les événements et les informations qui vont au-delà des données d'entraînement originales du modèle.
En effet, il va utiliser le moteur de recherche pour donner des réponses encore plus précises basées sur des données récentes. Cette modification permettait de répondre à de nombreuses critiques concernant l'actualité, en effet le bot a été formé avec des données qui s'arrêtaient au plus tard en septembre 2021. L'IA n'avait donc aucune connaissance des événements postérieurs, ce qui est désormais terminé avec cette intégration.