Zum Inhalt springen
Swiss Observer

KI-Detektorergebnis löst Literaturkontroverse aus, Schweizer Fachleute hinterfragen die Tools

Ein Bestsellerroman wurde aus dem Rennen um den französischen Literaturpreis Goncourt genommen, nachdem online der Vorwurf erhoben worden war, das Buch sei grösstenteils maschinell erstellt worden. Der Vorwurf stützte sich auf das Ergebnis eines KI-Detektors. Der Autor bestreitet, KI verwendet zu haben, während Schweizer Fachleute und Kunstschaffende hinterfragen, was solche Tools zuverlässig belegen können.

KI-Detektorergebnis löst Literaturkontroverse aus, Schweizer Fachleute hinterfragen die Tools
AISWI swissinfo.ch

Das Ergebnis eines Detektors trug dazu bei, einen Bestsellerroman aus dem Rennen um den französischen Goncourt zu drängen. Der haitianisch-kanadische Schriftsteller Thélyson Orélien hatte mit C’était ça ou mourir sowohl Kritikererfolg als auch kommerziellen Erfolg erzielt. Das Buch wurde für mehrere der renommiertesten Literaturpreise Frankreichs in Betracht gezogen. Dann warf ihm ein anonymes Konto auf X vor, fast das gesamte Buch mit KI geschrieben zu haben. Als Beleg führte es die Einschätzung von Pangram an, wonach mehr als 95% des Romans von KI erzeugt worden seien.

Orélien bestritt, den Roman mit KI geschrieben zu haben. Er räumte ein, während des kreativen Prozesses für historische Recherchen auf KI zurückgegriffen zu haben. Das Buch wurde aus der Goncourt-Auswahl genommen, nachdem die Presse Plagiatsvorwürfe in früheren Werken publik gemacht hatte, für die er sich entschuldigte. Sein kanadischer Verlag beendete später die Zusammenarbeit mit ihm, nachdem eine externe Analyse weitere Hinweise auf den Einsatz von KI ergeben hatte. Orélien bestritt weiterhin, den Roman mit KI geschrieben zu haben. Der Fall hat Autorinnen und Autoren sowie Kritikerinnen und Kritiker darüber entzweit, was ein Detektorergebnis belegen kann und welche Folgen es haben sollte.

Das Ergebnis hinterfragen, bevor man über den Autor urteilt

Der Schweizer Filmemacher Manuel Flurin Hendry sagt, ein Software-Ergebnis rechtfertige keine öffentliche Verurteilung eines Autors. «Die Vorstellung, einen Text in Pangram einzugeben und danach einen Autor gesellschaftlich hinzurichten, ist inakzeptabel», sagte er Anfang Oktober am AI+X Summit gegenüber Swissinfo. Hendry, Regisseur, Drehbuchautor und Dozent, ist der Ansicht, dass Kunstschaffende ihre Werkzeuge frei wählen können sollten.

Seine Bedenken gehen über das technische Ergebnis hinaus: Die Einstufung durch einen Detektor kann das Ansehen und die Karriere eines Autors beeinträchtigen. Oréliens Fall hat die Literaturwelt gespalten: Einige verteidigen ihn und stellen die Zuverlässigkeit von Detektoren infrage, andere kritisieren den Autor. Im Streit ging es auch um Plagiatsvorwürfe und eine externe Analyse, die sein kanadischer Verlag in Auftrag gegeben hatte. Dadurch sind die Folgen komplexer als ein einzelnes Ergebnis. Dennoch wurde das Pangram-Ergebnis zu einem wichtigen Bestandteil des Vorwurfs. Hendrys Einwand lenkt den Blick darauf, wie Institutionen und Publikum solche Einschätzungen deuten, wenn sie kreative Arbeiten beurteilen.

Nachvollziehen, wie sich die KI-Erkennung verändert hat

Die Erkennung von KI-generierten Texten ist schwieriger geworden, je ausgefeilter die Sprachmodelle wurden. Hendrik Strobelt, leitender Forscher bei IBM in den USA, war an der Entwicklung von GLTR beteiligt, das im Jahr 2019 entstand, kurz nach der Veröffentlichung von GPT-2. GLTR war ein experimentelles Tool, das dabei helfen sollte, Texte zu erkennen, die möglicherweise von einem Sprachmodell erzeugt worden waren.

Damals, erklärt Strobelt, neigten KI-Modelle dazu, eher eintönige und stilistisch ähnliche Texte zu verfassen, weil sie auf gängige Muster zurückgriffen. Deshalb war es relativ einfach, nach den Wörtern zu suchen, die ein Modell am ehesten auswählen würde. Sprachmodelle haben sich seither weiterentwickelt, und Strobelt bezeichnet die Frage nach der Zuverlässigkeit von Pangram als komplex. Seine Darstellung zeichnet den Wandel der Bedingungen nach, unter denen Erkennung stattfindet: Frühe Tools konnten nach vorhersehbaren Formulierungen suchen, während neuere Modelle differenziertere Sprache erzeugen. Diese Entwicklung liefert einen Kontext für die Kontroverse um Oréliens Roman, in der eine zahlenbasierte Einstufung als wichtiges Beweismittel in einem öffentlichen Streit behandelt wurde.

Die Debatte in Schweizer Ateliers tragen

Schweizer Kunstschaffende setzen KI bereits auf unterschiedliche und offen deklarierte Weise ein. Der Autor Charles Lewinsky übernahm ganze, von ChatGPT erzeugte Passagen in seinen Roman Täuschend echt. Der Fotograf Matthieu Gafsou hat in seiner künstlerischen Arbeit Bildgenerierungstools wie DALL·E verwendet. Ihre Beispiele zeigen, wie KI in die Schweizer Kreativszene Einzug hält, sowohl in der Literatur als auch in der bildenden Kunst.

Die schwierigere Frage, wie sie sich aus der Berichterstattung von Swissinfo ergibt, ist, wie auf einen nicht offengelegten und möglicherweise umfangreichen KI-Einsatz zu reagieren ist und wie viel generiertes Material ein Werk enthalten kann. Hendry verteidigt die Freiheit von Kunstschaffenden, ihre Werkzeuge selbst zu wählen. Oréliens Fall zeigt zugleich, wie ein durch ein Detektorergebnis gestützter Vorwurf mit Entscheidungen von Verlagen und literarischer Anerkennung kollidieren kann. Die Diskussion in der Schweiz kann sich inzwischen auf konkrete Beispiele stützen: auf transparente Experimente etablierter Kunstschaffender ebenso wie auf eine umstrittene Behauptung zur Urheberschaft eines Romans. Für Autorinnen und Autoren, Verlage und Leserschaft besteht die Herausforderung darin, kreative Arbeiten zu beurteilen, ohne ein Softwareurteil als selbsterklärenden Beweis zu behandeln.