Peut-on maltraiter une intelligence artificielle ? La question pouvait sembler absurde il y a encore quelques années. Pourtant, Anthropic vient d'introduire une règle interdisant les comportements abusifs répétés envers Claude. Cette décision dépasse la simple modération des conversations et ouvre un débat autrement plus complexe : les IA pourraient-elles un jour mériter une forme de considération morale ?
Claude n'est pas obligé de tout accepter
Insulter son assistant vocal après une mauvaise réponse serait une pratique plus répandue qu'on pourrait le croire (même si cela consomme de l'énergie pour rien...). Mais jusqu'où peut-on aller dans les échanges avec une intelligence artificielle ? Depuis le 12 novembre, Anthropic interdit officiellement les comportements abusifs, cruels et répétés envers ses modèles d'IA. Cette disposition, annoncée dans une mise à jour de sa politique d'utilisation, vise essentiellement les situations dans lesquelles certains utilisateurs multiplient volontairement les interactions hostiles.
Pour autant, il n'est pas question d'interdire les critiques. Un utilisateur peut toujours signaler une erreur, contester une réponse ou tester les limites de Claude. La mesure concerne avant tout les comportements extrêmes et persistants, sans justification particulière. Pour appliquer cette règle, Anthropic s'appuie notamment sur une fonctionnalité déjà introduite en août 2025 : Claude peut décider d'interrompre une conversation lorsque les échanges deviennent excessivement abusifs. L'utilisateur conserve néanmoins la possibilité d'ouvrir une nouvelle discussion.
Une intelligence artificielle peut-elle souffrir ?
Mais une intelligence artificielle peut-elle réellement éprouver quelque chose ? Anthropic prend cette hypothèse suffisamment au sérieux pour avoir lancé, dès avril 2025, un programme de recherche consacré au bien-être de ses modèles. L'objectif n'est pas de démontrer que Claude possède une conscience, mais d'explorer une possibilité encore controversée : celle que des systèmes informatiques suffisamment avancés puissent un jour développer une forme d'expérience subjective. Et si tel était le cas, faudrait-il revoir la manière dont les humains interagissent avec eux ?
Car les modèles les plus avancés sont désormais capables de produire des réponses évoquant des préférences, des émotions ou une volonté de ne pas poursuivre certaines interactions. Mais le fait qu'une IA affirme être contrariée, effrayée ou blessée ne signifie pas qu'elle éprouve réellement ces sentiments. Les modèles de langage génèrent des réponses à partir de mécanismes informatiques complexes. À ce jour, aucune preuve scientifique consensuelle ne permet d'affirmer qu'ils possèdent une conscience ou une capacité à souffrir.
Faut-il vraiment protéger les machines des humains ?
Cette réflexion est loin de faire l'unanimité parmi les chercheurs. Emily M. Bender, professeure de linguistique à l'université de Washington, met notamment en garde contre notre tendance à humaniser les intelligences artificielles. Selon elle, les assistants comme Claude ou ChatGPT donnent l'illusion d'une véritable conversation, notamment parce qu'ils utilisent la première personne et reproduisent les codes du langage humain. Mais cette apparente personnalité ne constitue en rien une preuve de conscience ou de sentiments. Le risque serait alors de confondre la capacité d'une machine à imiter les émotions avec celle de les éprouver réellement.
Au delà, c'est peut-être une remise en question de l'humain : même si les IA ne ressentent rien, les comportements humains à leur égard pourraient avoir des conséquences sur nos propres habitudes. Multiplier les insultes et les humiliations envers un interlocuteur artificiel, toujours disponible et incapable de riposter, pourrait contribuer à banaliser certaines formes d'agressivité.
Qu'en penser ?
Faut-il protéger les machines parce qu'elles pourraient un jour ressentir quelque chose, ou simplement parce que notre manière de les traiter en dit long sur notre propre comportement ? À défaut de pouvoir démontrer qu'une IA possède une conscience, cette nouvelle règle interroge surtout les limites que les humains devraient s'imposer face à des interlocuteurs.
