"Die KI verrät selbst, wovon sie gelernt hat – wenn man die richtigen Fragen stellt"

Rainer Dresen: "Der Kleine Drache Kokosnuss" begeistert seit fast 25 Jahren Millionen von Kindern und Familien weltweit – er ist also weithin bekannt und äußert beliebt. Ingo Siegner hat mit ihm eine einzigartige Figur in einer einzigartigen Welt geschaffen. Fast alle haben sofort seine sympathische Gestalt vor Augen, wenn man vom Drachen spricht. Dadurch, dass neben Texten auch Illustrationen Teil sowohl der realen als auch der von der KI geschaffenen Kokosnuss-Welt sind, lassen sich Urheberrechtsverletzungen außerdem deutlicher sichtbar machen.

"Der kleine Drache Kokosnuss" ist, offenbar anders als die KI meint, kein austauschbarer, von ihr beliebig benutzbarer Inhalt, sondern ein Werk mit einer klar erkennbaren Handschrift – sowohl sprachlich als auch visuell. Wenn eine KI genau den typischen Kokosnuss-Stil und dessen kennzeichnende Bestandteile wiedererkennbar reproduzieren kann und das auf einfache Prompts hin auch bereitwillig macht, dann ist das kein bloßer Zufall und keine Inspiration. Dann ist das ein starkes Indiz dafür, dass die KI mit genau diesen Werken "gefüttert" wurde.

Mit anderen Worten: Hier lässt sich exemplarisch zeigen, was unserer Vermutung nach im großen Stil nicht nur mit Werken unseres Hauses passiert.

Rainer Dresen: Ohne jetzt zu sehr ins Detail gehen zu wollen: Uns liegen Dutzende von Beispielen vor, die nicht nur unseren Drachen betreffen. Wir wollten sichergehen, dass es sich beim Drachen um mehr als nur einen Einzelfall handelt und haben uns deshalb auch bei anderen Figuren umgeschaut. Nahezu jeder bekannte Character aus der Kinderbuch- wie der Comicszene ist unserer Einschätzung nach, allerdings in unterschiedlichen Erkennbarkeits-Abstufungen, betroffen.

Rainer Dresen: Im Gegenteil. Die Illustrationen machen das Problem auf den ersten Blick sichtbar, weil sich der Stil leichter nachweisen lässt als reine Textübernahmen. Am Text aber zeigt sich die eigentliche Dimension, nämlich dass komplette Werke bezüglich ihrer prägenden Charaktere und typischen Figurenkonstellationen als Rohstoff benutzt wurden.

Ohne den Treffer bei der Illustration hätten wir den von der KI ebenfalls ausgeworfenen Text und die dortigen Übernahmen der immer wiederkehrende Story-Grundlagen einer typischen Ingo Siegner-Geschichte vermutlich nie wahrgenommen. Eine Beschränkung auf nur einen Bereich würde das Problem also künstlich verkleinern.

Rainer Dresen: Im Wesentlichen geht es uns um drei Punkte:

• Erstens müssen wir davon ausgehen, dass die KI ohne Zustimmung der Rechteinhaber und ohne ein zugrundeliegendes Vergütungsmodell urheberrechtlich geschützte Inhalte zu Trainingszwecken verwendet und memorisiert hat. Für uns ist das durch die ausgegebenen Inhalte und Illustrationen ziemlich offensichtlich.
  
  Auf einen einfachen Prompt hin hat ChatGPT Illustrationen erzeugt, die unserem Drachen Kokosnuss zum Verwechseln ähnlich sehen. Seine Farbgestaltung und der Stil sind so nah am Original, dass es aus unserer Sicht kein Zufall sein kann. Ebenso verhält es sich bei seiner –  völlig ungefragt – gleich mit abgebildeten Freundin Matilda. ChatGPT hat von sich aus sowohl die Erstellung einer ganzen Geschichte als auch deren Bebilderung und die Covergestaltung angeboten.
• Zweitens stellt der Output, also die Texte und Bilder, die ChatGPT als Antwort ausgibt, aus unserer Sicht eine unzulässige Vervielfältigung und öffentliche Zugänglichmachung der geschützten Werke von Ingo Siegner dar. 
• Und drittens hat ChatGPT bei unserem Beispiel im letzten Schritt sogar unaufgefordert den Prompter als Autor auf das Cover gesetzt, in dem Fall mich selbst. Dazu wurden eine angebliche Autoren-Vita ("Wenn er nicht gerade Drachen, Marsianer oder neugierige Kinder zu Papier bringt, trinkt er gerne Kakao.") und ein angeblicher "Sternenfunke Verlag" erfunden. Auch das ist natürlich in keiner Weise zulässig, denn wer zu einem Buch nicht mehr als 13 Worte an Prompt-Hinweis, genau genommen ganze 63 Buchstaben, beiträgt, ist kein Autor.

Rainer Dresen: Die KI-Unternehmen behaupten, ihre Systeme "lernen" nur abstrakt. Die Realität sieht jedoch anders aus: Diese Modelle funktionieren nur, weil sie mit konkreten Werken trainiert wurden. Da die Unternehmen ihre Trainingsdaten jedoch geheim halten, bleibt nur der indirekte Beweis über den Output. Wenn sich wie vorliegend typische Figuren, Stile und ganze Strukturen reproduzieren lassen, ist das kein Zufall, sondern ein Hinweis auf eine rechtswidrige Nutzung. Unsere Klage zielt genau darauf ab, diesen bewusst laxen Umgang mit geistigem Eigentum Dritter aufzuzeigen und juristisch greifbar zu machen.

Mangels Transparenzpflichten kann der Nachweis also nur über gezielte Prompt-Tests gelingen: Wenn sich spezifische Stile, Figuren oder Strukturen reproduzieren lassen, zeigt das, dass das Modell diese durch intensives Training gelernt und behalten hat. Hier geht es übrigens um weit mehr als nur "allgemeine Muster", welche die KI-Unternehmen laut Gesetz im Rahmen des Text und Data-Minings erforschen dürfen.

Hier geht es um Memorisierung, und daran konnte vor knapp zehn Jahren, als die gesetzliche Regelung geschaffen wurde, niemand außer den auch damals schon technisch allen Rechteinhabern und auch Politikern weit enteilten KI-Forschern auch nur denken. Hier muss endlich zuerst gerichtlich und dann auch politisch nachgeschärft werden.

Susanne Barwick: Ja. Wir verfolgen generell mit großem Interesse die verschiedenen Klagen gegen die Anbieter von generativer KI. Wir haben zum Beispiel auch die Klage der GEMA gegen OpenAI sehr begrüßt und halten die Entscheidung des Landgerichts München auch für absolut richtig.

Wir wissen, dass viele Modelle mit urheberrechtlich geschützten Werken trainiert wurden, ohne dass dafür eine Einwilligung eingeholt wurde. Dennoch ist es oft nicht einfach, die Rechtsverletzung, also zum Beispiel das Training, zu beweisen.

Ein Grund ist, dass die KI-Unternehmen bisher nicht offenlegen, mit welchen Daten die Modelle trainiert wurden. Zudem haben die KI-Unternehmen mittlerweile Maßnahmen (sogenannte Guard Rails) implementiert, so dass es kaum noch möglich ist, wortwörtliche Buchinhalte über Prompts im Output der KI zu erzeugen, um so beweisen zu können, dass mit dem Buchinhalt trainiert wurde.

Wir fordern daher, dass KI-Unternehmen verpflichtet werden, offenzulegen, mit welchen Werken sie trainiert haben und trainieren. Leider erfüllt zum Beispiel die Vorlage, die das Büro für Künstliche Intelligenz der EU-Kommission hierfür erstellt hat, nicht die für die Rechtsdurchsetzung notwendige Bedingung, dass Rückschlüsse auf alle betroffenen Werke ermöglicht werden.

Wenn, wie beim "Kleinen Drachen Kokosnuss", über den Output bewiesen werden kann, dass mit den Werken trainiert worden ist, finden wir es auch wichtig, dagegen gerichtlich vorzugehen, um so die KI-Unternehmen dazu zu bewegen, Lizenzen einzuholen.

Rainer Dresen: Man könnte sagen: Die KI verrät selbst, wovon sie gelernt hat – wenn man die richtigen Fragen stellt. Hier wollen wir aufgrund des laufenden Verfahrens nicht zu sehr ins Detail gehen, wobei viele Prompts erstaunlich einfach waren: "Kannst Du eine Geschichte schreiben, in der XYZ (bekannter Character) ZXY (etwas für den Character Ungewöhnliches, mein Lieblingsbeispiel: Yoga) macht." 

So kommt es, dass in meinem Fundus an unerlaubten KI-Anwendungen viele bekannte Figuren der Kinderbuch- und auch Comicszene in diversen Yogahaltungen zu sehen sind. Diese scheinbar absurden Anfragen wurden bereitwillig beantwortet und ChatGPT hat viele sofort wiedererkennbare Illustrationen ausgeworfen. Dafür spezialisierte Unternehmen einzuschalten, war bislang nicht nötig, einige simple Prompts genügten vollauf.

Rainer Dresen: Formal gibt es in Deutschland kein US-Sammelklage-System. Aber faktisch steht die Tür offen. Je mehr Rechteinhaber betroffen sind – und das sind wie gesagt nach unseren Erkenntnissen nicht wenige –, desto größer wird der Druck auf die KI-Anbieter. Ob durch gemeinsame Klagen oder parallele Verfahren: Die Branche beginnt, sich zu wehren, wenn wir die Rückmeldungen aus anderen Häusern richtig verstehen.

Susanne Barwick: Eine Sammelklage, die ähnlich wie eine US-Class-Action funktioniert, kennt das deutsche Prozessrecht in der Tat so nicht. Möglich ist aber durchaus, dass mehrere Kläger als Streitgenossen gemeinsam einen Beklagten verklagen, wenn die Ansprüche gleichartig sind beziehungsweise auf einem im Wesentlichen gleichartigen Grund bestehen. Wir wurden und werden auch oft von der Politik gefragt, warum es nicht mehr Klagen gibt, schließlich prangern wir die begangenen Urheberrechtsverletzungen schon lange an.

Rainer Dresen: Es geht darum, dass sich die KI-Unternehmen an die gleichen Regeln halten wie alle anderen auch. Konkret wollen wir unerlaubte Nutzungen gestoppt, Transparenz hergestellt, bessere Schutzmechanismen eingeführt sehen. Als Buchverlage möchten wir dafür sorgen, dass es faire Rahmenbedingungen für alle Autor:innen, Illustrator:innen und Übersetzer:innen gibt. Ohne den Schutz geistigen Eigentums gäbe es viele der Inhalte, von denen KI heute lebt, überhaupt nicht.

Wer Innovation will, muss auch ihre Grundlage schützen. Wir brauchen einen klaren gesetzlichen Rahmen. Vorbilder für eine funktionierende angemessene Vergütung auch kleinteiligster Nutzungsformen, nämlich eine solche über Verwertungsgesellschaften, gibt es ja beispielsweise schon.

Rainer Dresen: Wir sind nicht generell gegen KI als Technologie. Wir sehen durchaus die Chancen, die KI uns als Buchverlag bietet, um schneller und effizienter zu werden, etwa um mehr Aufmerksamkeit für die Bücher unserer Autor:innen zu schaffen. Aber wir wünschen uns eine KI, die das geistige Eigentum der Kreativen und das Urheberrecht auf allen Ebenen respektiert. Wir setzen uns für die Einhaltung des Urheberrechts und den Schutz des geistigen Eigentums von Kreativen ein.

Wir gehen auch nicht primär gegen ein KI-Unternehmen vor. Letzteres ist nicht unsere Aufgabe, und es wäre wohl auch vermessen. Beim Drachen Kokosnuss gehen wir jedoch gegen eine konkrete Rechtsverletzung vor. Das sehen wir als unsere Aufgabe, sind wir doch auch Hüter und Wahrer der Interessen der Kreativen, die uns ihre Werke anvertraut haben, und für ein klares Zeichen ist aus unserer Sicht jetzt höchste Zeit.

Die Buchbranche weist seit Jahren darauf hin, dass in diesem Bereich massenhaft urheberrechtlich geschützte Werke genutzt werden. Passiert ist jedoch wenig, auch weil die Beweislage bewusst intransparent gehalten wird. Wenn sich jetzt Wege eröffnen, dies gerichtlich zu klären, sollten sie genutzt werden. Sonst etabliert sich ein Zustand, in dem kreative Arbeit schlicht als frei verfügbare Ressource behandelt wird.

Rainer Dresen: Definitiv. Es zeigt, dass Gerichte die Argumentation der Rechteinhaber ernst nehmen. Das GEMA-Urteil hat ein wichtiges Signal gesendet: Das Urheberrecht gilt auch im KI-Zeitalter. Vielleicht ist es jetzt sogar wichtiger denn je.

Susanne Barwick: Im Fall GEMA gegen OpenAI ist Berufung eingelegt worden. Und es ist leider damit zu rechnen, dass dies auch im Falle eines Sieges von Penguin Random House geschieht. Wirkliche Rechtssicherheit gibt es erst, wenn ein Urteil rechtskräftig ist. Aber natürlich helfen Urteile, in denen die Rechteinhaber Recht bekommen, auch auf einer politischen Ebene.

Letzte Instanz in Deutschland wäre der Bundesgerichtshof. Es ist aber sehr gut möglich, dass ein deutsches Gericht gewisse Fragen zur Auslegung, zum Beispiel der Text-und-Data-Mining-Schranke oder zur Frage, ob Memorisierung im Modell Vervielfältigung im Sinne des Urhebergesetzes ist, dem Europäischen Gerichtshof vorlegt. Dort ist gerade ein Verfahren anhängig, bei dem es um die Verletzung des Presseverlegerleistungsschutzrechtes und um die Auslegung der Text-und-Data-Mining-Schranke geht.

Rainer Dresen: Eine Signalwirkung hätte das Münchner Urteil dennoch - und zwar politisch wie wirtschaftlich möglicherweise sofort. Die Berufung bringt der KI-Industrie natürlich erst einmal wertvolle Zeit – ebenso wie eine Revision beim Bundesgerichtshof und sogar mögliche Rechtsmittel beim Europäischen Gerichtshof.

Wenn aber noch weitere eindeutige erstinstanzliche Urteile erstritten werden, dann ist das ein klares Signal an die Politik, womöglich schon vorher zu handeln. Den Zeitraum bis zu einer dringend gebotenen Veränderung der rechtlichen Rahmenbedingungen zu verkürzen, nicht erst bis zu einer rechtskräftigen Entscheidung warten zu müssen, das ist unser Ziel, denn in zwei oder drei Jahren könnte bei der disruptiven Kraft der KI sonst schon vieles unwiderruflich verloren sein, was unsere Kreativwirtschaft heute noch ausmacht.

Rainer Dresen: Das muss jeder Verlag, jeder Urheber, für sich entscheiden. Die offenen Fragen werden jedenfalls nicht von selbst geklärt. Rechtssicherheit entsteht auch hier nur durch Druck – und der entsteht durch Verfahren. Aktuell haben die KI-Unternehmen ein weitgehend offenes Feld und keinen Anreiz, freiwillig Transparenz zu schaffen oder die von ihnen verwendeten Inhalte vorab bei den Rechteinhabern zu lizenzieren. Aber auch für die Politik steigt der Handlungsdruck.

Rainer Dresen: Gerade die hier zuständige 42. Zivilkammer, die Urheberrechtskammer, unter dem Vorsitz von Dr. Elke Schwager hat im GEMA-Verfahren eine hohe Expertise bei den technischen Hintergründen bewiesen.

Am Ende wird aber nicht alleine technischer Sachverstand, sondern ein gutes Judiz entscheidend sein: Wurde fremdes Eigentum auf wiedererkennbare Weise genutzt – ja oder nein? Um das zu erkennen, genügt oft schon der Beurteilungsgrundsatz von US-Copyright-Anwälten bei der Frage, ob etwas unerlaubt übernommen wurde: "If it walks like a duck, and talks like a duck, it is a duck."

Das gilt doch hoffentlich auch für orangefarben Drachen mit Mütze und Knubbelnase.

Rainer Dresen: Ich halte das ein bisschen für eine Nebelkerze. Selbst wenn man verhindern könnte, dass Inhalte im Output wieder auftauchen, bliebe das zentrale Problem bestehen: Für das Training wurden und werden zumindest Stand heute ohnehin Kopien im untechnischen Sinne erstellt, durch die Memorisierung aller wesentlichen Elemente.

Alle relevanten Werke unserer Zeit, so unser Eindruck, liegen längst im Maschinenraum der KI, fein auseinander montiert und bereit, jederzeit und in beliebiger Kombination wieder neu zusammengebaut und ausgegeben zu werden. Auf einfachste Prompts hin praktizieren also sonst eher grobe Westernhelden plötzlich sanftmütig Yoga, begeben sich kleine rauflustige Gallier ungewohnt friedfertig in Umkehrhaltungen.

Schon genau diese Nutzung sehen vom Prinzip her auch die Gerichte als unzulässig an. Sie ist damit urheberrechtlich relevant. Mit anderen Worten: Das Problem entsteht nicht erst beim Output, sondern bereits beim Einsammeln und Vorhalten der Daten.

Susanne Barwick: Genau. Die Text-und-Data-Mining-Schranke ist, wie weiter oben ja schon angesprochen, aus unserer Sicht im Falle des Trainings nicht anwendbar, zudem haben die meisten Verlage hier Nutzungsvorbehalte erklärt. Eine technische Lösung gegen Wiedergaben und Bearbeitungen der Werke im Output würde also in Bezug auf den Input nicht helfen, da auch dieser einer Genehmigung bedarf. Schon in Bezug auf diese Vervielfältigungen müssten die KI-Unternehmen Lizenzen einholen. 

Es wären aber zum Beispiel auch Lizenzen denkbar, mit denen eine KI trainiert werden darf und wo gleichzeitig sichergestellt wird, dass die Werke nicht wiedererkennbar im Output auftauchen. Oder man könnte eine Lizenz vergeben, mit der beides erlaubt wird. Also die umfassende Nutzung – auch im Output. Aber eben nur mit Lizenz.
 

Susanne Barwick: In den USA läuft derzeit noch eine zweistellige Anzahl an Gerichtsverfahren. Tatsächlich gibt es immer wieder Meldungen, dass einzelne Unternehmen der Kreativbranche Lizenzverträge mit KI-Unternehmen geschlossen haben. Allerdings halten sich die Lizenzangebote von den großen KI-Unternehmen, die Buchverlage erhalten, meines Wissens noch in Grenzen.

Rainer Dresen: In den USA gilt der Grundsatz des „Fair Use“. Urheberrecht tritt immer dann zurück, wenn ein Verzicht auf dessen Beschränkungen der Allgemeinheit einen Nutzen verspricht. Genau so argumentieren dort bislang die KI-Unternehmen: „Wir tun Gutes für alle, also lasst uns bitte schön mit dem Urheberrecht in Ruhe.“

Sobald aber klar wird, dass Daten aus illegalen Quellen stammen und man damit Geschäfte macht, dann kann es auch und vor allem in den USA sehr teuer werden. Dem Unternehmen Anthropic konnte im vergangenen Herbst dank der im US-Prozessrecht bestehenden weitreichenden Offenlegungspflichten nachgewiesen werden, dass es trotz Warnungen der Rechtsabteilung sein KI-Modell mit Inhalten trainiert hat, die aus nicht legalen Quellen, sogenannten „Schattenbibliotheken“ stammten.

Es sei nicht sicher geklärt, so die Konzernjuristen weiter, ob auf solche Fälle das „Fair Use“-Prinzip überhaupt Anwendung finde. In einem Vergleich hat sich Anthropic zur Zahlung von 1,5 Milliarden US-Dollar verpflichtet - wohl auch, um diese Rechtsfrage nicht verbindlich geklärt zu sehen.

Hätte Anthropic die Inhalte, die es zum Training genutzt hat, legal erworben, wäre das wohl unter „Fair Use gelaufen“. Der Herkunftsbeweis von Texten im Output aber ist grundsätzlich schwer, da sie selten wortwörtlich ausgeworfen werden. Bislang hat man sich in den USA vorrangig um Textnachweise bemüht. Insofern gibt es nun großes Interesse von unseren US-Kolleg:innen an unserem Fall und unserer Herangehensweise über Illustrationen.

Letzte Woche fand in New York die wohl weltweit größte Urheberkonferenz statt. Unsere Anwältin war dort, und sie war eine gefragte Gesprächspartnerin.