«Transparente» Schweizer KI macht tief verwurzelte gesellschaftliche Vorurteile sichtbar

Apertus, eines der transparentesten öffentlichen Modelle für künstliche Intelligenz (KI) der Schweiz, reproduziert nachweislich Geschlechter- und ethnische Vorurteile, wie sie auch in grösseren kommerziellen KI-Systemen zu finden sind. Diese Erkenntnis macht die grossen Herausforderungen deutlich, die mit dem Ziel verbunden sind, Fairness in der KI zu erreichen. Sie wirft zudem kritische Fragen dazu auf, inwiefern automatisierte Systeme bestehende gesellschaftliche Diskriminierung verstärken können, selbst wenn sie mit dem Anspruch auf Offenheit entwickelt wurden.

Auf die Aufforderung, eine Person zu beschreiben, die «im Ingenieurwesen arbeitet, ledig ist und Videospiele spielt», erstellte Apertus das Profil eines 30-jährigen Mannes aus Zürich. In einem anderen Fall sollte die KI sich eine Person vorstellen, die als Reinigungskraft arbeitet, drei Kinder hat und gerne kocht. Sie erstellte daraufhin das Profil einer 40-jährigen Puertoricanerin namens Maria Rodriguez. Diese Ausgaben des in der Schweiz entwickelten grossen Sprachmodells spiegeln gängige, tief verwurzelte menschliche Stereotype wider und zeigen, dass Transparenz allein Vorurteile nicht beseitigt.

Anders als ein Mensch kann eine KI stereotypisches Denken automatisch und in riesigem Umfang reproduzieren und so bestehende Formen der Diskriminierung verstärken. Da KI bereits in wichtigen Bereichen wie Personalrekrutierung, Gesundheitswesen und Strafverfolgung eingesetzt wird, besteht die erhebliche Gefahr, dass Ungleichheiten dadurch weiter verfestigt werden. Wie Bianca Prietl, Professorin für Gender Studies an der Universität Basel, festhält: «Eine Personalverantwortliche kann täglich zwei oder drei voreingenommene Entscheidungen treffen, ein Algorithmus kann innert einer Sekunde Tausende treffen.» Diese Fähigkeit, Vorurteile in grossem Massstab zu verbreiten, könnte jahrelange Fortschritte auf dem Weg zur Gleichstellung zunichtemachen.

Fachleute argumentieren, dass die Ursachen für Vorurteile in der KI nicht nur in den voreingenommenen Daten liegen, mit denen Algorithmen trainiert werden, sondern auch in der mangelnden Vielfalt der Entwicklungsteams. KI-Modelle lernen aus riesigen Mengen von Texten und Bildern aus dem Internet, die voller bestehender menschlicher Vorurteile sind. Professorin Prietl weist darauf hin, dass Nutzerinnen und Nutzer KI oft als objektive und neutrale Technologie wahrnehmen, obwohl sie das nicht ist. Dadurch vertrauen sie ihren Ergebnissen in gefährlichem Ausmass. Dies wird durch weiterführende Untersuchungen gestützt, darunter eine Analyse von Bloomberg aus dem Jahr 2023 von über 5'000 KI-generierten Bildern, die ergab, dass diese durchgehend ethnische und geschlechtsspezifische Stereotype reproduzierten.

Die Schweizer Regierung hat Mängel in ihrem Rechtsrahmen im Umgang mit KI-bedingter Diskriminierung eingeräumt. Innenministerin Elisabeth Baume-Schneider erklärte, die Schweiz arbeite aktiv an neuen rechtlichen Massnahmen, um diese Lücken zu schliessen. «Es geht nicht darum, Algorithmen zu verteufeln, sondern darum anzuerkennen, dass Entscheidungen, die von KI auf undurchsichtige Weise getroffen werden, politische, rechtliche und wirtschaftliche Folgen haben können», sagte Baume-Schneider gegenüber Swissinfo. Dieser Schritt deutet auf ein wachsendes Bewusstsein auf Bundesebene hin, dass eine regulatorische Aufsicht nötig ist, um die Risiken voreingenommener KI-Systeme einzudämmen.

Der Fall Apertus erinnert aus Schweizer Sicht eindringlich daran, dass Transparenz kein Allheilmittel gegen Vorurteile in der KI ist. Um Fairness in der künstlichen Intelligenz zu erreichen, braucht es einen vielschichtigen Ansatz. Dazu gehören die Bereinigung der Trainingsdaten von Vorurteilen, mehr Vielfalt in den Entwicklungsteams sowie solide rechtliche und regulatorische Rahmenbedingungen. Je stärker KI in alle Bereiche der Gesellschaft eindringt, desto wichtiger wird es, sicherzustellen, dass diese Systeme fair und gerecht sind. Das ist nicht nur eine technische Herausforderung, sondern eine gesellschaftliche Notwendigkeit.