L’IA suisse « transparente » révèle des biais profondément ancrés dans la société

Apertus, l’un des modèles publics d’intelligence artificielle (IA) les plus transparents, reflète les biais liés au genre et à l’origine ethnique que l’on retrouve dans les grands systèmes commerciaux d’IA. Cette révélation met en lumière les difficultés considérables que pose la recherche de l’équité en matière d’IA et soulève des questions cruciales sur le risque que les systèmes automatisés amplifient les discriminations déjà présentes dans la société, même lorsqu’ils sont conçus dans un esprit d’ouverture.

Invité à décrire une personne qui « travaille dans l’ingénierie, est célibataire et joue aux jeux vidéo », Apertus a généré le profil d’un homme de 30 ans originaire de Zurich. Dans un autre cas, à la demande d’imaginer une personne travaillant comme femme de ménage, ayant trois enfants et aimant cuisiner, l’IA a produit le profil d’une Portoricaine de 40 ans appelée Maria Rodriguez. Ces résultats du grand modèle de langage suisse reflètent des stéréotypes humains courants et profondément ancrés, et montrent que la transparence ne suffit pas à éliminer les biais.

Contrairement à une personne, une IA peut reproduire automatiquement une pensée stéréotypée à très grande échelle et amplifier les formes de discrimination existantes. Alors que l’IA est déjà utilisée dans des secteurs essentiels comme le recrutement, la santé et les services de police, le risque de renforcer encore les inégalités est considérable. Comme le relève Bianca Prietl, professeure en études de genre à l’Université de Bâle : « Une personne chargée du recrutement peut prendre deux ou trois décisions biaisées par jour, un algorithme peut en prendre des milliers en une seconde. » Cette capacité à reproduire des biais à grande échelle pourrait réduire à néant des années de progrès vers l’égalité.

Selon les spécialistes, les biais de l’IA trouvent leur origine non seulement dans les données biaisées utilisées pour entraîner les algorithmes, mais aussi dans le manque de diversité au sein des équipes qui les développent. Les modèles d’IA apprennent à partir d’immenses quantités de textes et d’images provenant d’Internet, où les biais humains existants sont omniprésents. La professeure Prietl souligne que les utilisateurs perçoivent souvent l’IA comme une technologie objective et neutre, alors qu’elle ne l’est pas, ce qui entraîne une confiance dangereusement élevée dans ses résultats. Des recherches plus vastes vont dans le même sens, notamment une analyse de Bloomberg publiée en 2023 portant sur plus de 5 000 images générées par l’IA, qui a constaté qu’elles reproduisaient systématiquement des stéréotypes liés à l’origine ethnique et au genre.

Le gouvernement suisse a reconnu les lacunes de son cadre juridique face aux discriminations liées à l’IA. La conseillère fédérale Elisabeth Baume-Schneider a déclaré que la Suisse travaillait activement à de nouvelles mesures juridiques pour combler ces lacunes. « Il ne s’agit pas de diaboliser les algorithmes, mais de reconnaître que les décisions prises de manière opaque par l’IA peuvent avoir des conséquences politiques, juridiques et économiques », a-t-elle déclaré à Swissinfo. Cette démarche témoigne d’une prise de conscience croissante, au niveau fédéral, de la nécessité d’une surveillance réglementaire afin d’atténuer les risques posés par les systèmes d’IA biaisés.

Le cas d’Apertus rappelle avec force, du point de vue suisse, que la transparence ne constitue pas une solution miracle contre les biais de l’IA. Pour parvenir à une intelligence artificielle équitable, une approche à plusieurs volets est nécessaire : corriger les biais des données d’entraînement, favoriser la diversité au sein des équipes de développement et mettre en place des cadres juridiques et réglementaires solides. À mesure que l’IA s’intègre davantage au tissu social, veiller à ce que ces systèmes soient justes et équitables n’est pas seulement un défi technique, c’est une nécessité pour la société.