Anthropic annonce la mise à jour de son modèle Claude 3.5 Sonnet avec des performances améliorées, mais surtout une fonctionnalité expérimentale de contrôle d’ordinateur, actuellement en version bêta. Voyons en quoi cette nouveauté représente une réelle avancée, et les risques que cela entraîne.
Claude quand il comprend que vous venez de lui demander de remplir un tableau Excel
Mise à jour de Claude 3.5 Sonnet
Anthropic a lancé une mise à jour majeure de Claude 3.5 Sonnet, un modèle d’intelligence artificielle déjà reconnu pour ses capacités avancées en codage. Cette version améliorée se distingue par une hausse importante des performances dans les tâches de codage et d’utilisation d’outils automatisés. Sur des benchmarks comme SWE-bench Verified, Claude 3.5 Sonnet a amélioré ses résultats de 33,4 % à 49 %, surpassant les modèles concurrents, dont le célèbre OpenAI o1-preview. Ces avancées techniques sont proposées sans augmentation de coût ni de temps de réponse pour les utilisateurs.
Nouvelle fonction Computer Use en version bêta
Anthropic a également introduit une nouvelle fonctionnalité appelée Computer Use, actuellement disponible en bêta publique. Cette API permet à Claude 3.5 de prendre le contrôle de votre ordinateur pour effectuer des tâches courantes comme déplacer un curseur, cliquer sur des boutons ou remplir des formulaires. Bien que cette capacité soit encore au stade expérimental, elle ouvre des perspectives intéressantes pour l’automatisation de tâches complexes. Des entreprises comme Replit et Canva testent déjà cette fonctionnalité pour automatiser des processus multiples, mais Anthropic recommande une utilisation prudente, conseillant de l’utiliser pour des tâches à faible risque. On évitera donc de s'en servir pour contrôler la centrale nucléaire du coin.
Claude travaillant à votre place
Défis en matière de sécurité
L’introduction de Computer Use soulève, bien entendu, des préoccupations légitimes en matière de sécurité, notamment face au risque de cyberattaques comme les prompt injections. Ces attaques visent à manipuler les réponses de l’IA pour prendre le contrôle à distance d’un système. Bien qu’Anthropic soit conscient de ces vulnérabilités et travaille sur des solutions de sécurité, la fonctionnalité actuelle reste limitée dans son usage, rendant ces risques modérés, pour l’instant. Insistons sur le pour l’instant.
Claude Computer Use en action
Perspectives futures
Anthropic prévoit de continuer à améliorer ces nouveaux outils en collectant des retours d’expérience des développeurs. La fonctionnalité Computer Use devrait s’affiner au fil du temps, avec l’objectif de rendre cette technologie plus fiable et surtout plus sécurisée.
Quel regard portez-vous sur ce type d’avancée ? Laisseriez-vous une IA utiliser votre ordinateur ? D'une manière générale, utilisez-vous des sites d'intelligence artificielle au quotidien ? Si oui pour quels usages ?
