Zum Inhalt springen
Swiss Observer

UN-Menschenrechtsrat verabschiedet Schutzmassnahmen für künstliche Intelligenz

Der UN-Menschenrechtsrat in Genf hat seine erste Resolution zu künstlicher Intelligenz verabschiedet. Darin fordert er, dass Systeme dem Völkerrecht entsprechen, verbietet menschenrechtswidrige Anwendungen und verlangt eine wirksame menschliche Aufsicht.

UN-Menschenrechtsrat verabschiedet Schutzmassnahmen für künstliche Intelligenz
AISWI swissinfo.ch

Der UN-Menschenrechtsrat hat am 7. Oktober 2026 im Konsens seine erste Resolution zu künstlicher Intelligenz verabschiedet. Der Beschluss in Genf stellt die Menschenrechte ins Zentrum der Entwicklung, des Einsatzes und der Überwachung von KI-Systemen. Damit erhalten Regierungen einen gemeinsamen politischen Rahmen, während die Technologie Einzug in die öffentliche Verwaltung, die Arbeitswelt und den Alltag hält.

Die Resolution hält fest, dass KI in jeder Phase, von der Herstellung bis zur Nutzung, dem Völkerrecht entsprechen muss. Zudem fordert sie ein Verbot von Anwendungen, die die Menschenrechte nicht achten. Die Formulierung deckt den gesamten Lebenszyklus von Systemen ab, statt sich nur auf den Moment zu konzentrieren, in dem ein Werkzeug der Öffentlichkeit zugänglich gemacht wird.

Für die Schweiz hat der Beschluss besonderes Gewicht. Das Land gehört zu den führenden KI-Entwicklern, und in Genf sind viele Institutionen ansässig, die die internationale Digitalpolitik prägen. Schweizer Unternehmen, Behörden und Forschende werden sich denselben Fragen stellen müssen wie Regierungen anderswo: Wer trägt die Verantwortung, wenn ein automatisiertes System Schaden verursacht, und wie können Betroffene einen Entscheid anfechten?

Die Resolution ist kein Vertrag und schafft keinen Durchsetzungsmechanismus. Ihre Bedeutung liegt in den darin festgehaltenen Grundsätzen, darunter Rechtmässigkeit, Rechenschaftspflicht und Schutz vor Diskriminierung. Der Rat wird sich voraussichtlich im kommenden Juni erneut mit dem Thema befassen.

Menschen müssen in der Entscheidungskette bleiben

Laut der Resolution muss eine menschliche Aufsicht gewährleistet sein, wenn KI einen Entscheid beeinflusst. Die Staaten werden aufgefordert, sicherzustellen, dass eine Person Entscheide unter Einsatz von KI beaufsichtigt und die Zuständigkeiten klar geregelt sind. Diese Anforderung richtet sich gegen eine wiederkehrende Schwäche automatisierter Systeme: Institutionen können sich auf ein Werkzeug verlassen, ohne klar festzulegen, wer dessen Ergebnisse überprüft oder für die Folgen einsteht.

Der Rat fordert die Regierungen zudem auf, die Auswirkungen auf die Menschenrechte zu prüfen, wenn sie Gesetze und regulatorische Rahmenbedingungen einführen. Die Behörden sollen Diskriminierung und andere schädliche Auswirkungen angehen, einschliesslich Risiken, die sich aus Daten, Gestaltungsentscheidungen oder der praktischen Nutzung von Systemen ergeben.

Der Wortlaut hat direkte Folgen für öffentliche Dienstleistungen. Ein Algorithmus, der in der Sozialverwaltung, bei der Polizeiarbeit, in der Migrationsabwicklung oder bei der Rekrutierung eingesetzt wird, kann den Zugang zu Rechten und Chancen beeinflussen, auch wenn niemand den Prozess als vollständig automatisiert bezeichnet. Die menschliche Überprüfung muss wirksam sein und mit genügend Informationen und Befugnissen einhergehen, um die Empfehlung eines Systems infrage zu stellen oder zu überstimmen.

Die Umsetzung überlässt die Resolution den Staaten. Die Bundesbehörden, kantonalen Verwaltungen und Gemeinden der Schweiz bleiben deshalb dafür verantwortlich, die Grundsätze in Beschaffungsregeln, Folgenabschätzungen und Beschwerdeverfahren zu überführen. In der Praxis wird sich zeigen, ob Menschen KI-gestützte Entscheide verstehen und anfechten können.

Alle Länder in die KI-Debatte einbeziehen

Der Rat will, dass alle Länder, auch Entwicklungsländer, an der Festlegung von KI-Regeln beteiligt sind. Die Resolution hält fest, dass die globale Steuerung nicht allein von Staaten und Unternehmen mit der grössten Rechenleistung geprägt werden kann. Sie fordert eine stärkere internationale Zusammenarbeit und mehr Kohärenz zwischen den zahlreichen laufenden Initiativen.

Dieser Appell spiegelt eine praktische Kluft wider. Regierungen benötigen Fachwissen, Rechenkapazitäten und regulatorische Ressourcen, um fortschrittliche Systeme zu beurteilen. Gemeinschaften, die von automatisierten Entscheiden betroffen sind, haben dagegen möglicherweise nur begrenzten Zugang zu technischem Wissen oder rechtlichen Möglichkeiten. Eine breite Beteiligung soll die Legitimität von Standards stärken und das Risiko verringern, dass Regeln nur die Prioritäten wohlhabender Länder und grosser Technologieunternehmen widerspiegeln.

Die Resolution fordert die Staaten, die Vereinten Nationen und weitere Anspruchsgruppen zudem auf, digitale öffentliche Güter zu fördern, insbesondere durch einen besseren Zugang zu digitaler Infrastruktur. Damit verknüpft sie den Schutz der Menschenrechte mit der Möglichkeit, sich zu vernetzen, digitale Dienstleistungen zu nutzen und an der öffentlichen Debatte teilzunehmen.

Genf wird ein Schwerpunkt dieser Diskussion bleiben. Der nächste Globale Gipfel zu KI soll im Juni dort stattfinden. Die diplomatische Rolle der Schweiz, ihre technischen Institutionen und die internationalen Organisationen verschaffen dem Land eine Plattform, begründen aber auch die Erwartung, dass die eigene Politik eine offene Beteiligung und menschenrechtsbasierte Schutzmassnahmen unterstützt.

Die Schweiz steht in der Verantwortung für KI

Die Resolution kommt zu einem Zeitpunkt, an dem die Schweiz die Chancen und Risiken abwägt, die mit ihrer Rolle als führende KI-Entwicklerin verbunden sind. Schweizer Hochschulen, Unternehmen und öffentliche Institutionen entwickeln und nutzen Systeme, die Informationen verarbeiten, Aufgaben automatisieren und Entscheide beeinflussen können. Aufgrund ihrer Rolle hat die Schweiz ein Interesse an klaren internationalen Erwartungen, insbesondere wenn Systeme grenzüberschreitend eingesetzt werden.

Der UN-Text schreibt kein einheitliches Regulierungsmodell vor. Er fordert die Staaten auf, bei der Gesetzgebung die Menschenrechte zu berücksichtigen, Diskriminierung zu verhindern und klare Verantwortlichkeiten festzulegen. Für die Schweiz spricht dies für eine Koordination zwischen Bundesbehörden, Kantonen, Aufsichtsbehörden, Forschenden und Privatwirtschaft.

Verschiedene Kantone könnten KI in unterschiedlichen Bereichen und mit unterschiedlichem Tempo antreffen. Eine Gemeinde, ein Spital, eine Schule oder eine Polizeibehörde könnte ein System von einem Anbieter beschaffen, der ausserhalb der Schweiz tätig ist. Gemeinsame Standards für Dokumentation, Tests, Aufsicht und Rechtsmittel könnten öffentlichen Stellen helfen, solche Werkzeuge zu beurteilen, bevor sie sich auf die Bevölkerung auswirken.

Der Ansatz des Rates trägt auch der Notwendigkeit Rechnung, dass die Regulierung mit dem technischen Wandel Schritt halten muss. Das Büro des Hochkommissariats für Menschenrechte wird innerhalb eines Jahres einen Bericht vorlegen. Damit bietet sich eine weitere Gelegenheit zu prüfen, wie die Grundsätze in der Praxis funktionieren. Schweizer Behörden und Organisationen werden die Entwicklung aufmerksam verfolgen, während sich die Debatte von der diplomatischen Sprache in Genf hin zu konkreten Regeln bewegt.

Frauen und Mädchen online schützen

Der Rat verabschiedete eine zweite Resolution zu Frauen und Mädchen im digitalen Umfeld. Sie fordert die Staaten auf, ihre Menschenrechte zu schützen und geschlechtsspezifische Gewalt zu verhindern, die durch digitale Technologien ermöglicht wird. Damit werden Online-Missbrauch und technologiegestützte Schädigungen in dieselbe umfassendere Menschenrechtsdebatte eingeordnet wie automatisierte Entscheidungsfindung.

Die beiden Resolutionen befassen sich mit unterschiedlichen Risiken, fordern die Regierungen aber beide dazu auf, Verantwortung für die Auswirkungen der Technologie zu übernehmen. KI-Systeme können diskriminierende Muster wiedergeben, während digitale Plattformen und andere Werkzeuge dazu genutzt werden können, Frauen und Mädchen zu bedrohen, ins Visier zu nehmen oder zum Schweigen zu bringen. Prävention erfordert deshalb mehr als technische Leistungskontrollen. Nötig sind auch wirksame Gesetze, institutionelle Rechenschaftspflicht und Zugang zu Rechtsmitteln.

Der Rat verabschiedete beide Massnahmen im Konsens. Damit erhielten sie ein gemeinsames politisches Mandat, auch wenn die Umsetzung weiterhin Sache der Staaten ist. Die Schweiz wird diese Grundsätze in ihrer Digitalpolitik berücksichtigen müssen, unter anderem in den Bereichen Bildung, Strafverfolgung und öffentliche Dienstleistungen sowie bei der Unterstützung von Menschen, die von technologiegestütztem Missbrauch betroffen sind.

Die nächsten Schritte betreffen zunächst die Institutionen. Der Rat plant für Juni eine weitere Diskussion, und das UN-Menschenrechtsbüro muss innerhalb eines Jahres einen Bericht vorlegen. Diese Prozesse werden zeigen, ob die Staaten allgemeine Schutzbestimmungen in Standards überführen können, die Behörden, Technologieunternehmen und Einzelpersonen anwenden können, wenn KI und digitale Werkzeuge konkrete Rechte berühren.