"Woher kommt der Fetisch der Anwendung?"

Die große Schwierigkeit im Umgang mit und in der Bewertung von KI, von Künstlicher Intelligenz, liegt darin, dass sehr vieles, teilweise sogar Entgegengesetztes, jedenfalls kaum miteinander Verbundenes unter einem Schlagwort zusammengefasst ist. Und wer immer dieses Reizwort KI hört, denkt an die Situation und an die Anwendung, in der er oder sie der KI zuletzt begegnet ist, mit KI konfrontiert war.

Das kann der KI-gesteuerte Chat-Bot im Internet oder am Telefon gewesen sein. Das kann die Textzusammenfassung im Mailprogramm oder ein mit KI erstelltes Diagramm gewesen sein. Das kann die Pressemeldung gewesen sein, die von KI zusammengefasst wurde, das kann ein KI generiertes Kinderbuch gewesen sein, mitsamt Illustrationen, das können die perfekt organisierten Metadaten sein, das kann ein mit Halluzinationen und falschen Zahlen durchsetzter Rechercheauftrag sein.

Die Liste könnte man ewig weiterführen – mit Daten, Bildern, Postings, Filmen, Stimmen, Melodien, Texten: Die KI ist schon überall mit drin, kann also potenziell schon fast hinter jeder Zahl und jedem Bild und jedem Satz stecken.

Das müssen wir akzeptieren. Denn wir befinden uns in einer Phase, in der es noch keine adäquaten Normen und Vorgaben dafür gibt. Weder gibt es vernünftige gesetzliche noch moralische Rahmenbedingungen, auch nicht solche, die Transparenz einfordern oder gewisse Verhaltenskodizes vorgeben. Und auch in der Frage der Vergütung bei der Nutzung von urheberrechtlich geschützten Inhalten für das Training der KI-Systeme, was wirklich wichtig wäre für eine weitere Akzeptanz, sind wir noch keinen Schritt weitergekommen.

Glücklicherweise nehmen jetzt, da die Politik offensichtlich zu große Abstimmungsschwierigkeiten hat zwischen den verschiedenen Sphären – national, europäisch, weltweit –, die einzelnen Akteure das Heft des Handelns in die eigenen Hände.

Die Penguin Random House Verlagsgruppe, Sie werden das alle über die Berichterstattung mitbekommen haben, klagt nun gegen OpenAI, weil dieses KI-System den "Kleinen Drachen Kokosnuss" täuschend ähnlich ausspuckt, wenn man es danach fragt oder darum bittet (mehr dazu hier).

Zudem gibt es noch weitere Tipps zur Anwendung der Ergebnisse, also wie man aus diesem KI-Ergebnis ein Buch herstellt und vertreibt, und diese Tipps beruhen offensichtlich darauf, dass das System mit ebendiesem "Kleinen Drachen Kokosnuss" trainiert wurde.

Man hört es munkeln, dass diese Klage nicht für sich bleiben wird, da auch andere große Verlagsgruppen mit Klagen folgen werden. Denn das ist natürlich kein Einzelfall: Wir alle wissen, dass beim Training von KI keinerlei Rücksicht auf Urheberrechte genommen wird, sondern dass bei den offenen KI-Systemen einfach alles eingespeist und gefressen wird, was zirkuliert, ob rechtegeschützt oder nicht.

Und, absurderweise gibt es hier die Volte, dass wir Verlage für die KI-Systeme, die unrechtmäßig und unbezahlt mit unseren Inhalten trainiert wurden, dann, wenn sie gut trainiert und gefüttert wurden, für genau den Einsatz dieser Systeme sogar selbst noch zahlen müssen. Uns werden also die von uns geraubten Inhalte noch einmal zurückverkauft. Als würde einem das Fahrrad geklaut und dann vom Dieb angeboten, gegen Bezahlung würde er einen auf dem Gepäckträger mitfahren lassen.

Diese ganzen offenen Fragen sind aber gar nicht das, worüber ich hier zu viele Worte verlieren möchte. Ich habe das nur skizziert, um das Umfeld und die Bandbreite aufzuzeigen, worüber wir alles sprechen, wenn wir von KI sprechen.

Mein ureigenes Feld ist, als Verleger eines kleinen Verlags und als Lektor bei S. Fischer, das der Texte, der Textproduktion und der Produktion von allem, was mit Texten zu tun hat. Denn ich bin der Überzeugung, dass vielen unglücklichen Einsätzen von KI ein Missverständnis zugrunde liegt. Und das ist das Missverständnis der Intelligenz.

Künstliche Intelligenz ist etwas anderes als Artificial Intelligence. Denn im Deutschen hat man sofort den Menschen im Kopf. Man hat die Vorstellung, künstliche Intelligenz würde das künstlich herstellen, was wir Menschen zu leisten imstande sind, würde uns Menschen also längerfristig ersetzen könne. Denn Intelligenz ist etwas, das nur wir Menschen in unserem Repertoire haben. Bei uns schlagen die Synapsen Funken, bei der Maschine glühen die Drähte.

In der englischen Sprache liegt AI, also Artificial Intelligence, viel näher bei einem anderen Begriffsfeld. "Intelligence", das kennt man aus der Computersprache und von den Geheimdiensten. Es ist im Englischen eng mit Statistik verbunden, mit Datenverarbeitung, mit Informationen, bei denen noch gar nichts sprüht und glüht. Weder bei den Synapsen noch bei den Maschinendrähten. Es geht um das Erfassen, das Sammeln, ums Muster-Erkennen.

Und schließlich geht es, im Zusammenhang mit Geheimdiensten (CIA – Central Intelligence Agency) auch um Informationen und Nachrichten. Der Gegenbegriff, oder der ergänzende Begriff der "Human Intelligence" beschreibt in diesem Zusammenhang die konkrete Spionage, also das Menschenwerk, das auch einordnen kann, das Schlüsse ziehen und bestenfalls Entscheidungen treffen kann.

Diese begriffliche Ausdifferenzierung mag wie Haarspalterei erscheinen, aber sie verdeutlicht den Zusammenhang sehr anschaulich, vor welchem Hintergrund die KI arbeitet. Es sind Daten und Datenauswertungen. Von beeindruckender Menge und in beeindruckender Geschwindigkeit.

Was KI an Datenverarbeitung und auch Datenverwertung leisten kann, kann eine Grundlage bieten für erhebliche Erleichterung und Beschleunigung vieler Prozesse, auch für das Büchermachen, das Bücherlagern, das Bücherdaten-Bearbeiten und das Bücherverkaufen. Doch KI ist, so steht es auch in der englischen Wikipedia, eine "Simulation" von menschlicher Intelligenz, kein Ersatz.

Die Forderung nach Regulierung und Einhegung von Künstlicher Intelligenz ist zuvorderst eine, die sich an die Politik richtet. Welcher gesetzliche Rahmen kann gesteckt werden, welche Vergütungsregeln, welche Genehmigungsprozedere sollen etabliert werden? Denn es geht ja gar nicht um Blockade und Verhinderung. Es geht um Beteiligungen und um Urheberschutz, es geht auch darum, einen gesetzlichen Rahmen zu schaffen, der die Abläufe festschreibt und es ermöglicht, dass sie ohne Datenraub und Rechtsbruch stattfinden können.

Darüber hinaus ist eine weitere Forderung an die Politik, Regeln und Pflichten der Kennzeichnung zu bestimmen. Dass kein Betrug am Kunden und an den Nutzerinnen und Nutzern stattfindet, aber auch, dass zwischen Wahrheit und Fiktion, zwischen Realität und Lüge unterschieden werden kann.

In diesen Fragen ist die Politik unter Zugzwang, denn solange es keine Regeln gibt, wird weiter im Wildwest-Stil genommen, was zu nehmen ist, benutzt, was zu benutzen ist, missbraucht, was zu missbrauchen ist.

Es gilt aber nicht nur Forderungen an die Politik zu stellen. Alle sind richtig, aber es reicht nicht aus. Genauso entscheidend ist es, dass wir uns fragen, wo der Einsatz von KI sinnvoll ist - und wo nicht.

Und das ist wirklich wichtig, denn wie wollen wir uns glaubhaft beschweren und Regeln fordern, wenn wir gleichzeitig hemmungslos KI-Systeme und -Anwendungen nutzen und ausprobieren, gegen die wir dann auf der anderen Seite klagen wollen? Man riecht schon ein wenig die Doppelmoral.

Wer von Ihnen nutzt ChatGPT und Large Language Models, um manchmal Texte zusammenzufassen oder sogar zu erstellen? Weil es leichter ist? Weil es schneller geht? Weil man sich weniger Gedanken machen muss und einfach auf dem aufbauen kann, was die KI ausgespuckt hat? Ist das wirklich notwendig, sollten wir uns viel häufiger fragen, oder sind wir gerade nur zu bequemlich?

Oft werden wir uns dann eingestehen müssen, dass zweiteres der Fall ist. Und schon haben wir wieder aus Bequemlichkeit der KI eine weitere Möglichkeit gegeben, sich zu verbessern und zu trainieren.

Verstehen Sie mich nicht falsch: Ich finde es keineswegs schlecht oder falsch, wenn Aufgaben wie die Organisation von Metadaten, das Strukturieren von Datenmengen, eine Hierarchisierung oder Darstellung von komplexen Dingen von der KI vollzogen werden kann.

Aber wenn es darum geht, einen Text zusammenzufassen, oder, im Lektorat, wenn Manuskripte von der KI ausgewertet werden, womöglich sogar Urteile abgefragt werden, wenn sich nach Erfolgschancen erkundigt wird und Klappentexte, Vorschautexte, Zusammenfassungen geschrieben und Übersetzungen angefertigt werden – dann bin ich mir sicher, sind wir auf dem Holzweg.

Im Zusammenhang mit Textarbeit ist die KI zu schöpferischen Prozessen nicht fähig. Und mir wurde noch nicht ein Fall bekannt, wo ich hätte sagen können, das Ergebnis ist wirklich gut. Alles klingt immer nach Textbausteinen, nach Altvertrautem, weitgehend unoriginell und uninspiriert. Und das ist es ja auch.

Denn all diese Schritte, die – zugegeben – manchmal etwas Arbeit machen und Anstrengung kosten, sind Schritte der Aneignung, der Verinnerlichung, der Beschäftigung mit einem Text. Und die Beschäftigung ist ein wertvoller Anteil des Prozesses, einen Text oder einen Gegenstand kennenzulernen, sich ihm anzunähern.

Das von einer Künstlichen Intelligenz, einem Large Language Model ausführen zu lassen, ist der reinen Bequemlichkeit geschuldet. Und es ist ein Verlust, denn wenn ich Klappentexte oder Inhaltsangaben nicht mehr selbst verfasse, wenn ich mir nicht mehr selbst die Frage stelle: Wie stelle ich das am besten dar? Worauf will ich eigentlich bei der Vermittlung, bei der Vorstellung meinen Fokus legen? Wie bekomme ich es hin, dass ich in dieser Geschichte die Aspekte betone, die Leute für das Buch interessieren? Wenn all das nicht mehr passiert, dann bleibt nur noch ein Projektmanager übrig, kein Lektor mit Geschmack, Kenntnis, Erfahrung.

Letztlich müssen wir uns die Frage stellen, wo wir hin wollen. Was wir als Gesellschaft unter Bildung verstehen, und auch unter selbstbestimmtem Handeln. Und was als Entmündigung, als selbstgewählte.

Vertrauen wir der KI? Misstrauen wir ihr? Was macht Bildung, Gebildetheit noch aus, wenn sie sich wie die KI aus dem Pool der bestehenden Möglichkeiten speist, Bruchstücke neukombiniert, und keine eigenen Ideen, Assoziationen, Gedankensprünge hat, sondern die bekannten Halluzinationen und Fehlleistungen?

Woher kommt der Fetisch der Anwendung, wenn wir dann beim Produkt, also beim Buch wieder darüber diskutieren, ob die Verwendung von KI nachgewiesen werden muss, als würde es sich um Schadstoffe handeln, um kontaminiertes Material, vor dem gewarnt und vor dem man geschützt werden muss?

Am Ende ist es auch eine ökologische, eine Ressourcenfrage. Wollen wir unsere immer begrenzter werdenden Ressourcen für überflüssige KI-Einsätze verbrauchen? Wollen wir immer größere Rechenzentren bauen, weil es uns gelegen kommt, Texte nicht mehr selbst zu lesen, selbst zu bewerten, selbst auf den Punkt zu bringen?

Ich bin überzeugt davon, dass in den weiten schöpferischen Aspekten der Arbeit an Texten und an Büchern KI so wenig wie möglich zum Zug kommen sollte. Bei Übersetzungen nur als Hilfswerkzeug, im Lektorat nur, um Organisationsprozesse und Back-office-Arbeiten zu erleichtern, im Buchhandel auch nur in den technischen Bereichen, den statistischen, aber zum Beispiel nie beim direkten Kundenkontakt, nie bei der Beurteilung von Lektüren und von Büchern.

Menschliche Arbeit und menschliches Denken sind Werte an sich. Menschliche Kreativität kann durch Simulation nur annäherungsweise imitiert, aber nicht ersetzt werden. Und die Erfahrung, die wir Menschen beim Denken machen, beim Überlegen, Nachdenken und Reflektieren – alles so schöne, erfüllende, beglückende Tätigkeiten –, sind unersetzbar und unschätzbar.

Die KI mit den verschiedenen Einsatzmöglichkeiten sollte uns, immer menschlich überwacht und kontrolliert und mit einem menschlichen Veto-Recht versehen, den Rücken freihalten, sollte uns von belastender Arbeit befreien, damit wir uns umso intensiver und ausführlicher selbst mit den Fragen, die wirklich einen Unterschied machen, beschäftigen können.