Susanne Barwick, stellvertretende Justiziarin des Börsenvereins, über verbreitete Missverständnisse rund um die Kennzeichnungspflicht der KI-Verordnung (AI Act) und darüber, was Branchenunternehmen ab 2. August tatsächlich beachten müssen.
Susanne Barwick
Ab dem 2. August gilt der nächste Umsetzungsschritt der KI-Verordnung. In der Buchbranche sorgt das für Verunsicherung – auch, weil oft der Eindruck entsteht, nun komme eine allgemeine Kennzeichnungspflicht für KI. Was stimmt daran, was nicht? Und was muss die Branche jetzt tatsächlich beachten? Fragen an Susanne Barwick.
In der Branche kursiert derzeit die Vorstellung, ab dem 2. August gelte eine umfassende gesetzliche KI-Kennzeichnungspflicht für KI-generierte Inhalte. Woher kommt dieses Missverständnis und was stimmt daran konkret nicht?
Susanne Barwick: Das Missverständnis kommt vermutlich daher, dass Presseartikel die Kennzeichnungspflichten gerne verkürzt darstellen. "Ab August gilt eine KI-Kennzeichnungspflicht" liest sich gut als Headline, trifft die Rechtslage aber nur halb. Es ist – wie so oft im Recht – etwas komplizierter. Die Transparenzpflichten gemäß Art. 50 KI-VO treffen in erster Linie die Anbieter von KI-Systemen, also etwa OpenAI, Google oder Anthropic. Diese müssen ihren KI-Output durch eine maschinenlesbare Markierung als künstlich erzeugt kennzeichnen. Für Betreiber, also z.B. Unternehmen der Buchbranche, die KI-Tools im beruflichen Kontext einsetzen, entstehen Kennzeichnungspflichten dagegen nur in zwei Konstellationen: bei Deepfakes und bei künstlich generierten Texten, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert werden soll.
Artikel 50 der KI-Verordnung unterscheidet zwischen Anbietern von KI-Systemen und Betreibern, also Unternehmen, die diese Systeme einsetzen. Welche Pflichten treffen Verlage, Buchhandlungen oder Medienunternehmen, die KI-Tools von Dritten nutzen, direkt?
Susanne Barwick: Verlage und Buchhandlungen, die KI-Modelle beruflich nutzen, gelten regelmäßig als Betreiber im Sinne der KI-Verordnung. Die Pflichten für Betreiber sind in Art. 50 Abs. 4 KI-VO geregelt. Danach müssen zunächst sogenannte Deepfakes gekennzeichnet werden. Ein Deepfake im Sinne der KI-Verordnung ist ein realistisch wirkender, KI-erzeugter Bild-, Audio- oder Videoinhalt, der Menschen fälschlicherweise als echt erscheinen könnte. Ein Beispiel wäre das täuschend echt wirkende synthetische Porträtfoto einer realen Person.
Des Weiteren gilt eine Transparenzpflicht für künstlich erzeugte Texte, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird. Das betrifft in erster Linie politische oder wirtschaftliche Informationen und Nachrichtentexte. Solche Texte müssen als KI-generiert gekennzeichnet werden, es sei denn, ein Mensch, d.h. z. B. der zuständige Redakteur hat den Text überprüft und dafür die inhaltliche Verantwortung übernommen.
Viele Häuser setzen KI inzwischen punktuell im Arbeitsalltag ein, etwa für Recherche, Ideenfindung, interne Entwürfe, Metadaten oder Marketingunterstützung. Welche Arten von KI-Einsatz sind von der neuen Rechtslage überhaupt berührt – und welche gerade nicht?
Susanne Barwick: Die aufgeführten Beispiele fallen alle nicht unter die Transparenzpflichten der KI-Verordnung. Das Gleiche gilt auch für Marketing- oder Werbetexte, da es sich dabei nicht um "Texte handelt, mit denen die Öffentlichkeit über Angelegenheiten des öffentlichen Interesses informiert wird". Sollte jedoch ein Werbevideo mit synthetischen Stimmen bekannter Personen hergestellt werden, müsste dieses gekennzeichnet werden, da ein Deepfake vorliegt. In diesem Fall wäre natürlich zusätzlich das Einverständnis der betroffenen Personen einzuholen.
Die EU hat parallel zu Artikel 50 einen Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte erarbeitet, der im Juni 2026 veröffentlicht wurde. Was bietet dieser Kodex konkret, und sollten Branchenunternehmen ihn kennen?
Susanne Barwick: Hier gibt es zwei Dokumente, die man auseinanderhalten sollte. Der Verhaltenskodex zur Transparenz von KI-generierten Inhalten, der am 10.6.2026 veröffentlicht wurde, besteht aus zwei Teilen. Abschnitt 1 richtet sich an die Anbieter von KI-Systemen. Hier geht es darum, wie Anbieter ihre Pflicht zur maschinenlesbaren Markierung von KI-generierten Inhalten erfüllen müssen. Abschnitt 2 richtet sich an Betreiber und konkretisiert, wie Deepfakes und Texte von öffentlichem Interesse zu kennzeichnen sind. Die EU hat hier eine Reihe von Symbolen geschaffen, mit denen Betreiber generativer KI-Systeme ihre KI-generierten Inhalte kennzeichnen können. Wer den Verhaltenskodex unterzeichnet und seine Maßnahmen anwendet, kann damit einen erleichterten Nachweis führen, dass er die Pflichten aus Art. 50 KI-VO erfüllt. Man kann dies aber auch auf andere Weise nachweisen, die Unterzeichnung des Verhaltenskodex ist also freiwillig. Eine Beschäftigung mit diesem Verhaltenskodex würde ich Unternehmen empfehlen, die Veröffentlichungen von Deepfakes oder KI-generierten Texten von öffentlichem Interesse in größerem Umfang planen.
Für Verlage und Buchhandlungen interessant sind zudem die Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Art. 50 der KI-VO. Diese konkretisieren bestimmte Rechtsbegriffe wie "Deepfake" und sollen damit den zuständigen Behörden sowie Anbietern und Betreibern von KI-Systemen Orientierung geben. Diese Leitlinien sind nicht bindend, da nur der EuGH eine verbindliche Auslegung der KI-Verordnung vornehmen kann. Dennoch enthalten sie interessante Auslegungen. Danach liegt ein Deepfake
z. B. nicht vor, wenn offensichtlich unrealistische Inhalte abgebildet werden, z. B. eine Sphinx, die mit ausgebreiteten Schwingen über den Eiffelturm fliegt. Um Texte, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird, handelt es sich hingegen laut den Leitlinien dann, wenn das Ziel der Veröffentlichung Wissens- Meinungs- oder Faktenvermittlung ist, reine Unterhaltung fällt dagegen nicht darunter. Als Beispiel wird ein wissenschaftliches Paper zu Diäteffekten genannt, Gegenbeispiel wäre ein KI-generierter Roman.
Tiefergehende Informationen können Mitglieder auch unseren FAQ entnehmen, die wir regelmäßig ergänzen, auch wenn erste Behörden- oder Gerichtsentscheidungen vorliegen.
Wer in einem Unternehmen die redaktionelle Verantwortung für KI-generierte Inhalte trägt, spielt nach der KI-Verordnung eine entscheidende Rolle. Was bedeutet das konkret für die Praxis und welche internen Strukturen braucht es, damit die Ausnahmeregelung tatsächlich greift?
Susanne Barwick: Die Kennzeichnungspflicht für KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen worden ist und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Verlagen, die vorhaben, solche KI-generierten Texte zu veröffentlichen, würde ich raten, sich näher mit dem Verhaltenskodex sowie den Leitlinien zu Art. 50 KI-VO auseinanderzusetzen. Denn tatsächlich reicht es danach nicht aus, dass irgendjemand den Text einmal gesehen hat. Es braucht klare interne Zuständigkeiten, z. B. wer prüft fachlich kompetent KI-gestützte Texte inhaltlich und wer trägt am Ende die Verantwortung für die Freigabe.
Ganz generell macht es aber aus unserer Sicht Sinn, sich auch außerhalb der gesetzlichen Vorschriften Gedanken zu machen, wie man als Unternehmen mit generativer KI umgeht, siehe auch Handreichung zur Entwicklung einer verlagseigenen Haltung im Umgang mit KI - Börsenverein.
