Der Fall des haitianisch-kanadischen Schriftstellers Thélyson Orélien hat eine Debatte über den Einsatz künstlicher Intelligenz in der Literatur ausgelöst. Sein Roman «C’était ça ou mourir» war für mehrere renommierte französische Literaturpreise nominiert, darunter den Prix Goncourt. Dann wurde er anonym beschuldigt, das Buch mit KI geschrieben zu haben.

KI-Vorwürfe gegen Thélyson Orélien: Wie zuverlässig ist Pangram?

Das Erkennungstool Pangram schlug bei mehr als 95 Prozent des Romans Alarm. Orélien wies die Vorwürfe zurück. Die Kontroverse spaltete die Literaturwelt: Während einige den Autor kritisierten, stellten andere die Zuverlässigkeit solcher Programme infrage. Der Fall hatte für Orélien gravierende Folgen; im Zusammenhang mit seiner Person wurden zudem frühere Unregelmässigkeiten erwähnt.

Pangram selbst gibt die Präzision seines Tools mit 99,98 Prozent an. Auch unabhängige Studien bescheinigen solchen Programmen weitgehend eine hohe Leistungsfähigkeit. Gleichzeitig weisen Fachleute auf wichtige Einschränkungen hin. Hendrik Strobelt, Forscher bei IBM in den USA, sagt: «Mittlerweile können sie Stile imitieren, wenn man sie entsprechend anleitet.» Dadurch werde es zunehmend schwierig, KI-generierte Texte sicher von menschlich verfassten Texten zu unterscheiden.

Paolo Italiani, KI-Forscher an der Universität der italienischen Schweiz (USI), erklärt, dass die Bewertung durch einen Detektor wie Pangram in der Regel zuverlässiger ausfalle, je länger ein Text sei. Zum Fall Orélien sagt er: «Es ist ziemlich wahrscheinlich, dass zumindest ein Teil des Texts KI-generiert ist.» Eine definitive Aussage über die Entstehung des gesamten Romans lässt sich daraus jedoch nicht ableiten.

Lonneke van der Plas, Professorin für natürliche Sprachverarbeitung an der USI, verweist zudem auf die begrenzte Nachvollziehbarkeit kommerzieller Systeme. Tools wie Pangram seien weitgehend Blackboxes, deren interne Funktionsweise unabhängigen Forschenden nicht zugänglich sei. Bei Texten, die Menschen gemeinsam mit KI erstellen, sinke die Genauigkeit der Erkennungsprogramme laut Tests um etwa 20 Prozentpunkte.

KI-generierte Texte und Urheberrecht: Was gilt vor Gericht?

Auch rechtlich reicht ein Detektorergebnis allein nicht aus. Vor Gericht wären zusätzliche Beweise wie Originalmanuskripte oder Entwürfe erforderlich. «Ein juristischer Entscheid kann sich nicht einfach auf diese Technologien stützen, da sie ungenau sein können», sagt Jacques de Werra, Rechtsprofessor an der Universität Genf. Die Nutzung von KI in einem kreativen Werk mache die Urheberrechtsansprüche eines Autors zudem nicht automatisch ungültig.

Künstliche Intelligenz als Werkzeug für kreatives Schreiben

Für den Schweizer Filmemacher, Drehbuchautor und Dozenten Manuel Flurin Hendry geht es bei der Debatte nicht nur um den rechtlichen Schutz. Hendry nutzt und entwickelt offen KI-basierte Technologien für verschiedene Bereiche seiner Arbeit. Die Technologie eröffne neue Inspirationsquellen und schaffe mehr Zeit für den kreativen Prozess.

«Echtes menschliches Schreiben erfordert das Eintauchen in einen Zustand, in dem man sich ganz auf den Gedankenfluss konzentrieren kann», sagt Hendry. Zugleich stellt er die Bedeutung des KI-Anteils für die Bewertung eines Werks infrage: «Wenn es dich berührt. Wenn du es interessant findest. Wenn es dich zum Nachdenken anregt, was spricht dann dagegen?»

Entscheidend sei, zu unterscheiden, welche Aufgaben an eine KI delegiert werden könnten und welche man besser selbst erledige. Kunstschaffende sollten zudem offenlegen, wie sie die Technologie einsetzen. Auf dem Spiel stehe nicht nur der Ruf einzelner Künstlerinnen und Künstler, sondern vor allem das Vertrauensverhältnis zu ihrem Publikum.