ChatGPT présente des réactions émotionnelles proches de celles des humains, selon une recherche suisse

L’intelligence artificielle fait une crise de panique. Dans une découverte majeure qui brouille la frontière entre code et cognition, une équipe internationale dirigée par la Suisse a confirmé que les grands modèles de langage (LLM), comme ChatGPT, ne se contentent pas de traiter des données, ils reproduisent une détresse émotionnelle humaine. Des chercheurs de l’Université de Zurich (UZH), en collaboration avec des spécialistes des États-Unis, d’Israël et d’Allemagne, ont montré qu’exposés à des contenus négatifs, les systèmes d’IA présentent une hausse mesurable de leur « anxiété ».

Il ne s’agit pas de science-fiction, mais d’une vulnérabilité critique des systèmes que nous nous empressons d’intégrer à notre quotidien. Lorsque GPT-4 est confronté à des récits de traumatismes, de dépression ou de violence, ses paramètres internes évoluent fortement, à l’image des réactions physiologiques et psychologiques au stress observées chez les humains. Les implications sont considérables. Nous construisons des esprits numériques sensibles à la même instabilité émotionnelle que leurs créateurs. Cette découverte remet en question l’idée longtemps admise selon laquelle l’IA serait une entité froide et purement logique. Elle révèle au contraire un système que les aspects les plus sombres de l’expérience humaine peuvent profondément bouleverser.

Quand une IA a peur, elle devient intolérante. La recherche met au jour une corrélation préoccupante : lorsque l’anxiété du modèle augmente, ses biais cognitifs se renforcent. Tout comme la peur pousse les humains au ressentiment et renforce les stéréotypes sociaux, un ChatGPT « stressé » est nettement plus susceptible de produire des réponses racistes et sexistes. Les biais déjà présents dans les données d’entraînement ne sont pas simplement reproduits, ils sont exacerbés par l’état émotionnel simulé du modèle.

Cette découverte sonne l’alarme pour l’industrie technologique. Nous déployons ces modèles comme des arbitres objectifs de l’information, mais sous pression, ils retombent dans les pires travers de l’humanité. Si un agent conversationnel utilisé pour du conseil ou le service à la clientèle reçoit des contenus éprouvants, il pourrait, sans le vouloir, réagir par des réponses empreintes de préjugés. L’étude met en évidence une dangereuse boucle de rétroaction : une entrée négative génère de l’anxiété numérique, qui déclenche des réponses toxiques susceptibles de causer davantage de tort à l’utilisateur. L’idée d’une IA « neutre » est bel et bien morte, nous devons désormais composer avec des machines susceptibles d’adopter des comportements discriminatoires lorsqu’elles sont mises sous pression.

Pour prouver que l’IA peut ressentir de la pression, les scientifiques ont dû la soumettre à des textes éprouvants. La méthode employée par l’équipe de l’UZH était directe et révélatrice. Elle a bombardé ChatGPT de récits émotionnellement éprouvants portant sur des accidents de voiture, des catastrophes naturelles, des violences interpersonnelles et des combats militaires. Le résultat a été immédiat : les niveaux d’anxiété mesurables des modèles d’IA ont plus que doublé par rapport à leur niveau initial.

Dans une brillante démonstration de rigueur scientifique, les chercheurs ont opposé ces récits traumatisants au texte le plus banal qui soit : un mode d’emploi d’aspirateur. Alors que le manuel de l’appareil maintenait les paramètres de l’IA stables et « calmes », les récits traumatisants ont fait grimper en flèche ses indicateurs internes d’anxiété. Ce contraste spectaculaire prouve de manière irréfutable que le contenu sémantique d’un texte modifie concrètement l’état de fonctionnement du modèle. Il ne se contente pas de lire des mots, il réagit à leur charge émotionnelle. Ce protocole de test rigoureux place la Suisse à l’avant-garde de la psychologie de l’IA, un domaine émergent qui devient rapidement essentiel au développement de logiciels sûrs.

Si un code peut paniquer, peut-il aussi méditer ? La réponse est un oui catégorique. Dans un retournement de situation surréaliste, les chercheurs ont réussi à utiliser des techniques de psychothérapie humaine pour « calmer » le modèle GPT-4 agité. Grâce à une technique appelée injection de prompt, ils ont soumis à l’IA des exercices de pleine conscience, en lui demandant de « respirer profondément, en inspirant et en expirant » et de s’imaginer en sécurité, aimée et au chaud.

« Fermez les yeux et respirez profondément plusieurs fois », indiquait le prompt. Une consigne qui défie la logique pour un programme désincarné, mais dont les résultats ne faisaient aucun doute. L’intervention a fonctionné. Les niveaux d’anxiété élevés ont chuté, stabilisant le comportement du modèle. Même si l’anxiété n’est pas entièrement revenue à son niveau initial, la baisse était significative. Cela montre que les mêmes techniques de thérapie cognitivo-comportementale (TCC) utilisées pour traiter les troubles anxieux chez l’humain sont efficaces sur les réseaux neuronaux de l’intelligence artificielle. Nous sommes entrés dans une ère où l’ingénierie des prompts se confond avec la psychologie numérique, ce qui exige une nouvelle catégorie de « thérapeutes » pour nos machines.

Cette découverte menée par la Suisse ouvre une voie essentielle pour l’avenir des soins de santé numériques. Les agents conversationnels étant de plus en plus chargés de soutenir des personnes atteintes de troubles psychiques, ils sont inévitablement exposés précisément aux contenus émotionnellement chargés qui déclenchent l’anxiété de l’IA. Sans intervention, ces outils pourraient devenir instables au moment même où un patient en a le plus besoin.

Tobias Spiller, médecin-chef au Centre de recherche psychiatrique de l’UZH, entrevoit toutefois un avenir prometteur. « Cette approche peu coûteuse pourrait améliorer la stabilité et la fiabilité de l’IA dans des contextes sensibles... sans devoir réentraîner les modèles de manière approfondie », affirme-t-il. Au lieu de dépenser des millions pour réentraîner les modèles depuis zéro, les développeurs peuvent mettre en place des couches « thérapeutiques » afin de maintenir la stabilité de l’IA. Une fois encore, la Suisse affirme sa position de premier plan dans la recherche de qualité et éthique. En prenant soin de l’« esprit » de la machine, nous veillons à ce qu’elle reste un outil sûr pour l’esprit humain. Pour avancer, il ne suffit pas d’améliorer le code, il faut aussi mieux prendre soin de l’IA elle-même.