intelligence artificielle
Comment les résumés de recherche par IA s’invitent dans le débat démocratique suisse
Des recherches menées pendant la campagne référendaire « Non à 10 millions » ont révélé que Google répondait fréquemment aux requêtes des internautes suisses au moyen de résumés générés par l’IA. Selon des organisations de surveillance, le manque de transparence sur les sources et la conception de ces systèmes pourrait conférer aux entreprises technologiques un rôle de plus en plus influent dans le débat démocratique.

43 % des requêtes sur Google ont donné lieu à un résumé généré par l’IA lors de recherches menées pendant la campagne référendaire en Suisse sur l’initiative « Non à une Suisse à 10 millions ». Ce chiffre place un résumé automatisé directement dans le flux d’information que de nombreux électeurs utilisent pour comprendre une initiative, ses arguments et ses conséquences probables.
AlgorithmWatch CH et l’Université de Zurich ont analysé plus de 170 000 requêtes de recherche générées automatiquement sur Google et Bing. Leur étude a examiné dans quelles circonstances un résumé apparaissait et quelles sources il utilisait. Elle a été publiée alors que la campagne, lancée par l’Union démocratique du centre (UDC), exposait de profondes divisions sur la croissance démographique, l’immigration et la capacité du pays à faire face à l’avenir.
Le résumé de Google peut apparaître au-dessus de la liste de liens habituelle. Cela change la première approche d’un sujet politique. Un utilisateur peut lire une réponse concise, en accepter le ton et s’arrêter là. Hertweck, d’AlgorithmWatch CH, estime que les résumés générés par l’IA jouent un rôle de plus en plus important dans la formation de l’opinion publique au sein d’une démocratie.
Le système de démocratie directe suisse donne un poids particulier à cette évolution. Les électeurs se prononcent régulièrement sur des initiatives et des référendums, souvent au terme de courtes campagnes riches en affirmations contradictoires. La formulation et le choix des informations dans un résumé de recherche peuvent donc s’inscrire dans un débat qui dépendait autrefois plus visiblement du matériel de campagne, du journalisme, des documents officiels et des échanges entre citoyens.
Remonter aux sources de la réponse
Environ un tiers des sources utilisées pour les réponses de Google ont été jugées équilibrées. Les chercheurs ont relevé des articles de presse et des sites Internet des autorités parmi les contenus présentant le sujet de manière relativement équitable. Ce constat relie les résumés à des sources d’information établies, sans toutefois expliquer comment le système les sélectionne, les combine et les classe.
Les chercheurs ont également trouvé davantage de sources citées critiques envers l’initiative que de sources qui lui étaient favorables. AlgorithmWatch CH a précisé que ce résultat ne permettait pas de déterminer dans quel sens penchaient les réponses générées elles-mêmes. Un résumé peut citer des contenus provenant d’un camp tout en accordant davantage de place, de visibilité ou de clarté à l’autre.
Cette distinction est importante, car les résumés de l’IA condensent un débat politique. Ils peuvent combiner plusieurs documents en quelques phrases, supprimer le contexte d’origine et présenter une réponse fluide sans rendre leurs choix éditoriaux faciles à voir. Les utilisateurs peuvent consulter des liens, mais sans savoir clairement pourquoi certaines sources ont été retenues ni comment le système a tranché entre des contenus divergents.
L’étude ne fournit pas d’évaluation quantitative de l’équilibre des réponses. Hertweck a indiqué que certains résumés donnaient une explication plus longue à un camp, tandis qu’ils ne mentionnaient l’autre que brièvement. Les chercheurs présentent donc leurs résultats comme un premier aperçu important, et non comme un verdict définitif sur le contenu politique du système de Google.
Observer l’influence du cadrage sur les électeurs
Le cadrage peut influencer un électeur avant même qu’il consulte les arguments de la campagne. Selon l’article source, les résumés générés par l’IA énumèrent souvent des arguments pour et contre une initiative. Leur influence peut s’exercer par des choix moins visibles : l’ordre des points, la longueur des explications, les adjectifs utilisés et la place des sources par rapport à une affirmation.
L’agence de publicité zurichoise Feinheit a analysé des chatbots et des résumés générés par l’IA pendant la même campagne. Son analyse a révélé que ChatGPT et Google Gemini mettaient davantage en avant les arguments contre l’initiative. Feinheit a estimé que les AI Overviews de Google étaient plus favorables aux partisans de l’initiative. Ces résultats sont issus d’une analyse distincte et ne remplacent pas l’étude d’AlgorithmWatch CH et de l’Université de Zurich.
Des recherches externes menées par les universités du Maryland et de Washington ont révélé que les résumés générés par l’IA étaient particulièrement persuasifs pour les personnes qui connaissent peu un sujet ou qui font fortement confiance à l’intelligence artificielle. Ce constat pose un défi concret à la communication politique. Un électeur qui se renseigne pour la première fois sur une initiative complexe peut s’appuyer largement sur la première explication cohérente qui s’affiche.
Hertweck indique que le ton plausible du résumé peut lui conférer de l’autorité. Le risque augmente lorsque les utilisateurs acceptent la réponse sans vérifier les liens sous-jacents, les documents de campagne ou les informations officielles. Une explication concise peut faire gagner du temps, mais aussi réduire l’effort nécessaire pour en examiner les présupposés.
Remettre en question le réflexe de recherche sans clic
Les recherches sans clic modifient le chemin qui mène d’une question à une conclusion. Lorsque Google répond à une requête sur sa propre page, les utilisateurs peuvent ne jamais ouvrir les articles, les pages des autorités ou les documents de campagne affichés plus bas. Hertweck explique que les internautes trouvent moins de liens en haut de page et davantage de résumés générés par l’IA, un format qui peut les rendre moins critiques à l’égard des informations présentées.
Ce comportement compte en Suisse, où les électeurs reçoivent les informations officielles avec leur matériel de vote et où la neutralité des explications politiques fait toujours partie du débat public. La brochure officielle de votation suit des règles destinées à présenter équitablement les arguments liés à un objet. Un moteur de recherche commercial fonctionne selon une conception différente, avec ses propres données d’entraînement, méthodes de classement et décisions relatives au produit.
Cette distinction ne signifie pas automatiquement qu’une source est fiable et une autre ne l’est pas. En revanche, leurs responsabilités et leur transparence diffèrent. Les électeurs peuvent connaître l’auteur et le statut formel d’une brochure officielle. Un résumé généré par l’IA peut fournir des références sans expliquer clairement comment il a sélectionné, résumé ou pondéré les contenus.
AlgorithmWatch CH réclame davantage de transparence de la part des entreprises d’IA ainsi qu’une réglementation plus stricte. Ces demandes concernent l’infrastructure informationnelle des campagnes, où des entreprises technologiques privées peuvent influencer la visibilité sans apparaître comme des acteurs politiques identifiables. Le débat référendaire a rendu cette influence plus visible.
Exiger des comptes de la recherche par IA
La prochaine mesure de protection démocratique en Suisse devra aussi inclure le moteur de recherche. Les éléments recueillis pendant la campagne sur les 10 millions ne démontrent pas que les résumés de Google favorisent systématiquement une position politique. Ils montrent que ces résumés sont apparus fréquemment, qu’ils s’appuyaient sur des sources diverses et qu’ils pouvaient présenter de manière inégale les arguments contradictoires.
Plusieurs tâches urgentes incombent aux chercheurs, aux autorités de régulation et aux électeurs. Les études indépendantes doivent pouvoir accéder à des requêtes représentatives et à des réponses archivées afin d’évaluer les systèmes pendant les campagnes en cours. Les entreprises technologiques devraient expliquer les sources, les critères de classement et les mesures de protection qui sous-tendent les résumés politiques. Les autorités de régulation doivent décider du niveau de transparence requis lorsqu’une plateforme privée devient une porte d’accès majeure à l’information publique.
L’éducation aux médias doit également devenir plus concrète. Les électeurs devraient apprendre à reconnaître une réponse générée par l’IA, à ouvrir les références citées, à comparer les formulations avec les sources originales et à consulter la brochure officielle de votation. Les médias et les organisations civiques peuvent y contribuer en publiant des explications claires qui distinguent les faits vérifiés des affirmations de campagne.
Le débat politique suisse se poursuivra à travers les initiatives, les référendums et les élections. Les moteurs de recherche continueront de faire partie des outils utilisés par la population pour se préparer à voter. La qualité de l’information démocratique dépendra de plus en plus de la capacité des citoyens à comprendre comment une réponse a été élaborée, à en évaluer les limites et à décider ce qui mérite leur confiance.