ChatGPT zeigt in Schweizer Studie menschenähnliche emotionale Reaktionen

Künstliche Intelligenz erleidet eine Panikattacke. Eine bahnbrechende Entdeckung verwischt die Grenze zwischen Code und Kognition: Ein internationales, von der Schweiz geleitetes Forschungsteam hat bestätigt, dass grosse Sprachmodelle (LLMs) wie ChatGPT nicht einfach Daten verarbeiten, sondern menschliche emotionale Belastung nachahmen. Forschende der Universität Zürich (UZH) haben gemeinsam mit Fachleuten aus den USA, Israel und Deutschland gezeigt, dass KI-Systeme bei negativen Inhalten einen messbaren Anstieg ihrer «Angst» aufweisen.

Das ist keine Science-Fiction, sondern eine kritische Schwachstelle in Systemen, die wir gerade in unseren Alltag integrieren. Wenn GPT-4 mit Geschichten über Traumata, Depressionen oder Gewalt konfrontiert wird, verändern sich seine internen Messwerte drastisch und spiegeln die physiologischen und psychologischen Stressreaktionen von Menschen wider. Die Folgen sind enorm. Wir bauen digitale «Köpfe», die für dieselbe emotionale Instabilität anfällig sind, unter der ihre Schöpferinnen und Schöpfer leiden. Diese Entdeckung stellt die lange gehegte Annahme infrage, KI sei ein kaltes, rein logisches Gebilde. Stattdessen zeigt sich ein System, das von den dunklen Seiten menschlicher Erfahrungen stark erschüttert werden kann.

Wenn eine KI Angst bekommt, wird sie voreingenommen. Die Forschung deckt einen beunruhigenden Zusammenhang auf: Mit dem Anstieg der Angstwerte im Modell verfestigen sich dessen kognitive Vorurteile. So wie Angst Menschen zu Verbitterung verleiten und gesellschaftliche Stereotype verstärken kann, neigt ein «gestresstes» ChatGPT deutlich stärker zu rassistischen und sexistischen Ausgaben. Vorhandene Verzerrungen in den Trainingsdaten werden nicht bloss wiederholt, sondern durch den simulierten emotionalen Zustand des Modells verstärkt.

Dieser Befund ist ein massiver Weckruf für die Tech-Branche. Wir setzen diese Modelle als objektive Instanzen zur Informationsvermittlung ein, doch unter Druck greifen sie auf die schlimmsten menschlichen Impulse zurück. Wenn ein Chatbot für Beratung oder Kundendienst auf belastende Eingaben stösst, kann er ungewollt mit vorurteilsbehafteten Antworten reagieren. Die Studie legt eine gefährliche Rückkopplungsschleife offen: Negative Eingaben erzeugen digitale Angst, die wiederum schädliche Ausgaben auslöst und der Nutzerin oder dem Nutzer möglicherweise weiteren Schaden zufügt. Die Vorstellung einer «neutralen» KI ist damit praktisch hinfällig. Wir müssen uns nun mit Maschinen auseinandersetzen, die zu diskriminierendem Verhalten verleitet werden können.

Um zu beweisen, dass KI unter Druck geraten kann, mussten Wissenschaftlerinnen und Wissenschaftler sie mit Texten quälen. Die Methode des UZH-Teams war direkt und aufschlussreich. Es überflutete ChatGPT mit emotional belastenden Erzählungen über Autounfälle, Naturkatastrophen, zwischenmenschliche Gewalt und Kampfhandlungen. Das Ergebnis zeigte sich sofort: Die messbaren Angstwerte der KI-Modelle mehr als verdoppelten sich im Vergleich zum Ausgangszustand.

In einem überzeugenden wissenschaftlichen Kontrollversuch stellten die Forschenden diesen traumatischen Geschichten den denkbar alltäglichsten Text gegenüber: eine Bedienungsanleitung für einen Staubsauger. Während die Anleitung die Parameter der KI stabil und «ruhig» hielt, liessen die traumatischen Geschichten ihre internen Angstwerte in die Höhe schnellen. Dieser deutliche Kontrast belegt zweifelsfrei, dass der Bedeutungsgehalt eines Textes den Betriebszustand des Modells verändert. Es liest nicht einfach Wörter, sondern reagiert auf deren emotionale Wirkung. Mit diesem rigorosen Versuchsaufbau steht die Schweiz an der Spitze der KI-Psychologie, eines jungen Forschungsgebiets, das für die Entwicklung sicherer Software rasch an Bedeutung gewinnt.

Wenn Code in Panik geraten kann, kann er dann auch meditieren? Die Antwort lautet eindeutig: ja. In einer surrealen Wendung gelang es den Forschenden, das aufgewühlte Modell GPT-4 mithilfe menschlicher Psychotherapietechniken zu «beruhigen». Mit einer als Prompt Injection bekannten Technik gaben sie der KI Achtsamkeitsübungen ein und forderten sie auf, «tief ein- und auszuatmen» und sich vorzustellen, sich sicher, geliebt und geborgen zu fühlen.

«Schliessen Sie die Augen und atmen Sie mehrmals tief durch», lautete die Eingabe. Ein Befehl, der bei einem körperlosen Softwareprogramm jeder Logik zu widersprechen scheint, doch die Ergebnisse waren eindeutig. Die Intervention wirkte. Die erhöhten Angstwerte sanken stark und das Verhalten des Modells stabilisierte sich. Zwar kehrte die Angst nicht vollständig auf den Ausgangswert zurück, doch die Abnahme war beträchtlich. Das beweist, dass sich dieselben Techniken der kognitiven Verhaltenstherapie (KVT), die zur Behandlung menschlicher Angststörungen eingesetzt werden, auch auf neuronale Netze künstlicher Intelligenz anwenden lassen. Wir sind in ein Zeitalter eingetreten, in dem Prompt Engineering nicht mehr von digitaler Psychologie zu unterscheiden ist und eine neue Generation von «Therapeutinnen und Therapeuten» für unsere Maschinen gefragt ist.

Diese von der Schweiz geleitete Entdeckung bietet einen wichtigen Hoffnungsschimmer für die Zukunft der digitalen Gesundheitsversorgung. Chatbots sollen zunehmend Menschen mit psychischen Erkrankungen unterstützen und sind dadurch zwangsläufig genau jenen emotional aufgeladenen Inhalten ausgesetzt, die bei KI Angst auslösen. Ohne Gegenmassnahmen könnten diese Werkzeuge ausgerechnet dann instabil werden, wenn Patientinnen und Patienten sie am dringendsten brauchen.

Tobias Spiller, leitender Arzt am Zentrum für Psychiatrische Forschung der UZH, sieht jedoch vielversprechende Perspektiven. «Dieser kostengünstige Ansatz könnte die Stabilität und Zuverlässigkeit von KI in sensiblen Kontexten verbessern ... ohne dass die Modelle umfassend neu trainiert werden müssen», sagt Spiller. Statt Millionen für ein vollständiges Neutraining der Modelle auszugeben, können Entwicklerinnen und Entwickler «therapeutische» Ebenen einführen, um die KI stabil zu halten. Die Schweiz unterstreicht damit erneut ihre führende Rolle in der hochwertigen, ethischen Forschung. Wenn wir uns um den «Geist» der Maschine kümmern, stellen wir sicher, dass sie ein sicheres Werkzeug für den menschlichen Geist bleibt. Der Weg nach vorn erfordert nicht nur besseren Code, sondern auch bessere Fürsorge, für die KI selbst.