Une équipe de recherche suisse pilote une étude sur la notation sociale en démocratie

Une société qui vous récompense lorsque vous vous garez correctement ou adoptez un mode de vie sain peut sembler idéale, mais pour beaucoup, c’est un cauchemar qui se profile. Alors que les incitations pilotées par l’État chinois sont depuis longtemps le grand épouvantail mondial de la surveillance, une équipe de recherche suisse s’attaque désormais à la possibilité inquiétante de voir ces systèmes s’infiltrer dans les démocraties occidentales. Dirigée par le chercheur Johan Rochel, l’équipe mène une étude critique pour la Fondation suisse pour l’évaluation des choix technologiques (TA-Swiss), afin de déterminer comment les démocraties peuvent se prémunir contre cette emprise numérique insidieuse.

Les enjeux sont considérables. Rochel l’affirme sans équivoque : « La Chine ne doit pas devenir notre référence pour ce que nous voulons dans les sociétés d’Europe occidentale. » Il ne s’agit pas d’un simple exercice académique, mais d’une course contre la montre pour définir les limites éthiques de la technologie avant qu’elles ne le soient à notre place. L’équipe examine rigoureusement les possibilités et, surtout, les risques catastrophiques liés aux nouvelles technologies. Ses conclusions sont attendues en 2026. Alors que le débat fait rage entre « incitations pilotées par l’État » et « systèmes de crédit social », la Suisse se trouve en première ligne d’une bataille qui touche à l’essence même de la liberté individuelle.

Un scénario saisissant du ministère allemand de la Recherche montre à quel point nous sommes proches d’une réalité dictée par les données. Dans une étude prospective provocatrice publiée en 2020, des spécialistes ont esquissé une vision inquiétante des années 2030, où une « démocratie numérique liquide » régirait le quotidien. Ce n’est pas de la science-fiction, mais le plan d’un avenir possible dans lequel la population allemande adapterait continuellement ses comportements, qu’il s’agisse d’adopter un mode de vie écologique ou de pratiquer l’abstinence, en échange de points et de récompenses.

L’étude présente cela comme une « optimisation des services publics fondée sur les données », euphémisme aseptisé pour désigner un système dans lequel les responsables politiques utiliseraient des points comme « outil de pilotage » afin d’influencer l’économie et les objectifs sociaux. Dans ce monde imaginé, des assistants numériques guideraient les citoyens pour qu’ils maximisent leur score, transformant fondamentalement la nature du libre arbitre. L’étude indique qu’un tel système, dans une démocratie représentative, nécessiterait des instruments de démocratie directe, similaires à ceux de la Suisse. Mais le constat est clair : la frontière entre devoir civique volontaire et conformité imposée devient dangereusement ténue.

Même un système conçu uniquement pour récompenser les « bons » comportements a un coût caché dévastateur : la création d’une classe défavorisée permanente. L’étude allemande met en évidence un risque majeur à ne pas négliger, celui de voir apparaître un groupe de personnes « laissées durablement pour compte ». Dans un monde régi par des points bonus, celles et ceux qui peinent à suivre ne perdent pas seulement des récompenses : ils sont systématiquement marginalisés et relégués aux marges de la société, sans perspective claire de s’en sortir.

Ce « système de bonus » menace de provoquer des conflits sociaux sans précédent. Ses partisans estiment qu’il pourrait améliorer la qualité de vie, mais, en réalité, il soumet les personnes ayant de faibles scores à une pression constante. Le coût psychologique du fait d’être sans cesse mesuré, classé et jugé insuffisant pourrait pousser les populations vulnérables à bout. La citoyenneté devient alors une performance à évaluer plutôt qu’un droit : perdre des points revient à perdre la faveur de la société. C’est le revers sombre de l’optimisation, une efficacité impitoyable qui laisse de côté toute la complexité de l’humanité.

Alors que l’Union européenne a pris des mesures décisives, la Suisse reste dangereusement exposée. En 2024, dans une décision historique, l’UE a interdit les algorithmes d’intelligence artificielle utilisés pour la notation sociale, envoyant un message fort : de tels systèmes sont incompatibles avec les valeurs européennes. Adam Knight, sinologue à l’Université de Leyde, a salué cette interdiction comme une prise de position claire contre la numérisation du contrôle social. La Suisse n’a toutefois pas encore adopté d’interdiction similaire, laissant un vide législatif que la technologie pourrait rapidement combler.

Cette inaction place la Suisse dans une situation précaire. En l’absence de garde-fou juridique, les systèmes rejetés par l’UE pourraient bien s’implanter ici. Le contraste est net : l’UE a tracé une ligne rouge, tandis que la Suisse s’interroge sur les conséquences. À mesure que l’étude de TA-Swiss avance vers sa publication en 2026, la pression s’accentue sur les parlementaires suisses pour qu’ils comblent cette lacune. Il faut décider, et rapidement, si nous suivrons l’exemple de l’UE pour protéger la population ou si nous laisserons la porte ouverte à des algorithmes qui évaluent nos vies.